Как работать с AI Hugging Face локально на смартфоне

Константин Докучаев
Константин Докучаев
Как работать с AI Hugging Face локально на смартфоне
PST

Помимо ChatGPT существуют сотни других нейросетей, которые так же способны выполнять все задачи подряд или, наоборот, заточены под конкретные цели. А ещё есть неизвестный для многих мир нейронок Hugging Face.

Но сегодня я не буду рассказывать подробно, что такое Hugging Face. Вместо этого я расскажу, как легко работать с ними в офлайне прямо с мобильника с помощью PocketPal AI — приложения для Android и iOS.

Разобраться в работе приложения сильно проще, чем с оригинальным сайтом Hugging Face. И начать общение с нужной вам нейронкой можно буквально за пару минут, не считая времени на скачивание модели.

Уже при первом запуске PocketPal AI попросит вас загрузить модель, и при нажатии на Download Model вас перекинет в список всех моделей Hugging Face. Но при необходимости вы можете загрузить и локальную модель.

У каждой из моделей есть краткое описание её возможностей, объём данных и параметров. Также вы можете перейти на сайт HF и ознакомиться с подробным описанием.

А для загрузки модели от HF достаточно нажать кнопку Download у понравившейся модели и подождать её загрузки.

По её окончании от вас не потребуется производить никаких настроек. Можно сразу перейти к общению с ИИ на вкладке Chats.

При этом вы на ходу можете менять доступные параметры каждой модели, как и саму модель. Сами чаты можно переименовывать, удалять, импортировать и экспортировать.

Управлять всеми скачанными моделями можно на вкладке Models. Ещё есть экспериментальный раздел Pals, в котором можно задать стиль общения для моделей по умолчанию.



Great! Next, complete checkout for full access to All-In-One Person
Welcome back! You've successfully signed in
You've successfully subscribed to All-In-One Person
Success! Your account is fully activated, you now have access to all content
Success! Your billing info has been updated
Your billing was not updated