Несмотря на то что ИИ уже плотно вошли в нашу жизнь, пользоваться ими не так просто. По сути, у вас есть два варианта: с ВПН, иностранной симкой и картой оплатить подписку на облачное решение или стать мамкиным программистом и развернуть всё на своём ПК. В этой статье мы пойдём именно по второму пути. Но с одним исключением — я предложу максимально простой вариант установки популярных нейронок на компьютер.
Что нам понадобится?
А понадобится нам приложение Local AI, которое позволяет с помощью простого интерфейса без труда управлять нейронками. Дистрибутив есть для Windows, macOS и Linux.
Я покажу пример работы на «яблочной» операционке, но это не меняет общий процесс работы.
Установка и настройка
Разобраться с приложением достаточно просто, даже ничего не зная о нейронках. При первом запуске в выпадающем меню вам будет предложено скачать одну из поддерживаемых сетей.
Список большой, и проще воспользоваться поиском, если вы точно знаете, что ищете. У каждой сети есть краткое описание, лицензии использования и объём на диске, который она потребует.
Чтобы начать загрузку, нужно выбрать папку для ваших моделей, выбрать модель и нажать кнопку Download.
После чего остаётся дождаться окончания загрузки выбранной модели. В это время можно в правом верхнем углу выставить параметры локального сервера: порт, количество одновременных потоков и использование GPU. Чтобы запустить сервер, нужно нажать Start Server.
Когда модель скачана, а сервер запущен, нужно нажать на кнопку New Thread в левом верхнем углу.
В открывшемся окне можно переключаться между моделями, а в поле ввода нужно ввести свой промпт для генерации.
В настройках промпта можно указать различные параметры, типа температуры, позитивных/негативных слов и так далее.
При вводе промпта поддерживается Markdown и можно вводить сразу несколько абзацев. Когда нужно получить результат работы ИИ, нужно нажать соответствующую кнопку, и выбранная модель начнёт генерировать текст или изображение.
