ИИ-инструменты, которые можно запустить в ОС «Альт»
В операционных системах «Альт» есть возможность использовать инструменты для работы с искусственным интеллектом. Существует несколько вариантов их установки: из официального репозитория p11, непрерывно обновляемого Sisyphus (Сизиф), Flatpak и других открытых источников (к примеру, GitHub или HuggingFace).
Какие есть модели нейросетей
Модели искусственного интеллекта в основном делятся по доступности (закрытые и открытые) и по типам развёртывания (удалённые/облачные и локальные).
Закрытые нейросети разворачиваются на серверах компаний и доступны пользователям удалённо — через веб-интерфейс или API. Такие ИИ адаптированы под большие нагрузки и в основном предоставляются платно (по подписке).
Открытые модели разработчики выкладывают в свободный доступ. Они доступны для локального запуска, просмотра и модификации любому пользователю. Подробнее об открытых языковых моделях можно прочитать по ссылке.
Учитывайте возможности ПК
Для работы с нейросетями нужно учитывать ресурсы системы. Перед тем, как приступать к развертыванию моделей, рекомендуем ознакомиться с таблицей сравнения поддержки видеокарт разных производителей и проверить на соответствие ваше оборудование.
Инструменты для работы с нейросетями
В стабильном репозитории p11 доступны следующие пакеты для работы с нейросетями.
Для локальной генерации текста и поиска информации в документе:
• Llama.cpp — библиотека (движок) для запуска больших языковых моделей на своем компьютере без необходимости в мощном GPU или облачных сервисах. Программа обеспечивает полный контроль над ИИ благодаря гибкой настройке параметров генерации. Использовать llama.cpp можно через консоль и веб-интерфейс.
• Ollama — это "обёртка", включающая в себя llama.cpp + удобное управление для быстрого локального запуска больших языковых моделей из собственного репозитория. Она обеспечивает приватность данных и независимость от облачных сервисов при генерации ответов. Может работать как в консоли, так и в веб-интерфейсе.
Клиенты для работы как с llama.cpp и ollama, так и с облачными API:
• Aichat — инструмент для работы с нейросетями через командную строку и простой веб-интерфейс. Имеет встроенную полноценную поддержку RAG (технология, при которой ИИ‑модель перед ответом сначала ищет информацию во внешних источниках, а затем использует её для генерации точного результата), гибкую настройку параметров генерации, использование нескольких облачных провайдеров и многое другое.
• Alpaca — графический клиент с интуитивно понятным интерфейсом для удобной установки и «общения» с нейросетью. Один из лучших вариантов для локального запуска ollama, который имеет широкие функциональные возможности, включая распознавание картинок в совместимых нейросетевых моделях.
ИИ-агенты, которые воспринимают среду, анализируют данные и выполняют действия для достижения поставленных целей:
• Gemini-cli — инструмент для работы с облачной моделью Gemini (разработка Google) в командной строке. Представляет собой ИИ-помощника для программистов с возможностью анализа существующего кода локального проекта.
• Qwen-code — разработка на основе gemini-cli, оптимизированная для моделей Qwen3-Coder, а также имеющая возможность подключать других провайдеров и локальные модели нейросети.
• Goose — локальный, расширяемый ИИ-агент с открытым исходным кодом, который пишет и выполняет (запускает) код, отлаживает (находит и исправляет ошибки), оркестрирует рабочие процессы и взаимодействует с внешними API.
В стабильном репозитории p11 версии ИИ-инструментов (например, Alpaca) работоспособны, но могут быть устаревшими. Более актуальные версии данных программ можно найти в репозитории Sisyphus.
Доступные инструменты для работы с нейросетями из репозитория Sisyphus:
• ramalama — программа для простого запуска локальных языковых моделей в изолированных контейнерах с автоматической настройкой под ресурсы системы. Всё работает «из коробки» и не требует ручной установки зависимостей. Можно запустить в терминале или в веб-интерфейсе;
• kaichat — десктопное приложение от проекта KDE для общения с локальными и облачными ИИ-моделями, с возможностью расширения возможностей специальными дополнениями;
• sd-cpp (stable diffusion) — консольная утилита для локальной ИИ-генерации медиа контента, запускающая алгоритмы постепенной прорисовки;
• whisper-cpp — локальная версия запуска модели для распознавания речи Whisper от OpenAI, позволяющая, к примеру, транскрибировать речь (звук в текст), распознавать говорящих и делать таймкоды записанного разговора;
• newelle — настраиваемый виртуальный помощник в стиле GNOME, который может объединить в себе работу несколько моделей ИИ. Встроенные инструменты позволяют управлять файлами, запускать терминальные команды и общаться голосом. Также доступны дополнительные модули, расширяющие его возможности;
• crush — ИИ-агент, работающий в терминале и использующий глубокий анализ контекста кода, чтобы помогать программировать с помощью любой удобной нейросети;
• langchain — фреймворк для разработки приложений и агентов на базе больших языковых моделей, упрощающий интеграцию с внешними данными и управление логикой агентов.
Важно: При работе с нестабильным репозиторием Sisyphus требуется проявлять большое внимание и осторожность. Рекомендуем своевременно делать резервное копирование данных и снимков системы.
Помимо этого, возможно установить инструменты для работы с нейросетями из сторонних ресурсов. О некоторых из них можете прочитать по ссылке.
В случае установки приложений из нестабильных источников пользователь принимает на себя ответственность за возможные последствия, так как есть вероятность нарушения работоспособности и стабильности системы.