Gen

Gen - платформа для работы с LLM: сервер, клиентское приложение и сервисы исполнения инструментов образуют единую систему для AI-чатов, управления сессиями, подключения внешних MCP-инструментов и выполнения агентных сценариев.

Раннеры разворачиваются на отдельных серверах и регистрируются в платформе; на каждом узле можно использовать свои модели и так гибко распределять нагрузку.

Архитектура платформы

Платформа состоит из трех ключевых частей и набора MCP-серверов:

• Сервер
  Отвечает за бизнес-логику, управление сессиями, оркестрацию чатов, интеграции с моделями и внешними сервисами.

• Клиент
  Клиентское приложение для чатов, управления настройками сессий, работы с инструментами и взаимодействия пользователя с платформой на разных ОС.

• Runner
  gen-runner - cервис запуска и взаимодействия с LLM. Поддерживает развертывание на отдельных серверах, регистрацию в платформе и запуск разных моделей для горизонтального распределения нагрузки.

• MCP-серверы
  Подключают внешние источники данных и инструменты через единый MCP-подход.

Что позволяет платформа

• запускать AI-чаты с поддержкой инструментов;
• управлять параметрами сессии и поведением чата;
• подключать внешние MCP-инструменты и серверы;
• выполнять tool/action-вызовы в агентном цикле;
• разделять UI, оркестрацию и выполнение инструментов по независимым компонентам;
• разворачивать клиентское приложение на Linux, Android, iOS, macOS и Windows.

---

Репозитории

• gen-runner - отдельный сервис запуска и взаимодействия с LLM, который можно разворачивать на разных серверах и использовать для запуска разных моделей.

• gen-app - клиентское приложение с чатами и настройками

• gen-mcp-servers - набор MCP-серверов для внешних инструментов

---

Сборка сервера

Зависимости

• Go 1.26+
• Protobuf (protoc) 30.2+
• make
• PostgreSQL 16+

Локальная сборка

go mod download
make install
make build

Команда make build собирает серверный бинарник в ./build/gen

Сервер использует конфигурацию из configs/config.yaml (можно взять за основу configs/config.example.yaml).

Запуск сервера в dev-режиме

make run