Ollama — это бесплатная платформа с открытым кодом для локального запуска любых больших языковых моделей (LLM). Однако в ней вся работа ведётся из командной строки, что не всем по душе. К счастью, есть инструменты, которые позволяют делать всё то же самое, но в более удобном веб-интерфейсе.
Page Assist
Опенсорсное расширение для браузеров Chrome и Firefox, которое работает с Ollama и даёт достаточно возможностей для настройки. Вы сможете легко управлять установленными моделями, добавлять файлы для анализа или исследования, включить поиск в сети и даже делиться своими результатами со всем миром.
Open WebUI
Самый популярный веб-интерфейс для Ollama и других языковых моделей от OpenAI. Вы можете быстро установить его с помощью Docker или Kubernetes. Для работы не требуется подключение к сети. Также Open WebUI предлагает прогрессивное приложение для мобилок и интеграцию с генератором изображений.
Lobe Chat
Фреймворк для быстрого развёртывания частного чат-приложения Ollama и других подобных моделей. Также вы можете преобразовать текст в речь или сгенерить изображение из текста. Есть различные плагины и поддержка Progressive Web App.
Text Generation Web UI
Веб-интерфейс для запуска моделей, ориентированных на генерацию текста. Вы можете выбрать один из трёх стилей интерфейса: традиционное окно чата, двухколоночный вид или блокнот. Есть поддержка всех моделей, совместимых с OpenAI, и возможность работать с библиотекой Transformers.
Ollama UI
Подойдёт тем, кто не ищет чего-то навороченного, а хочет простой веб-интерфейс для запуска Ollama прямо в браузере. Также в выпадающем меню вы можете выбрать другие языковые модели для работы.
Ollama GUI
Бесплатное приложение с открытым кодом, которое построено на фреймворке SwiftUI и заточено под macOS.
LoLLMs Web UI
Довольно популярный веб-интерфейс, который позволяет генерировать текст, изображения, музыку, отладить код и делать многое другое. Интерфейс легко интегрируется с репозиторием GitHub и автоматически устанавливается на Linux с помощью скрипта.
LibreChat
Альтернатива ChatGPT с открытым кодом, которую можно развернуть локально или в облаке. Вы сможете запускать Ollama и другие популярные проприетарные модели, такие как Google Vertex AI, ChatGPT и т.д.
Minimal LLM UI
Веб-интерфейс для Ollama с чистым и современным дизайном. Он построен на React и позволяет сохранять переписку с чат-ботом локально, используя базу данных.
Enchanted
Приложение с открытым кодом для запуска частных моделей Ollama на iOS, macOS и Vision Pro.
Msty.app
Кроссплатформенное приложение для локального запуска моделей ИИ или LLM. Из основных фишек можно выделить использование нескольких диалоговых веток и возможность добавления стеков знаний с помощью хранилищ Obsidian и других сервисов.
Hollama
Ещё один минималистичный веб-интерфейс без лишних заморочек, который запускается локально из образа Docker.
Источник: https://itsfoss.com/
