Чатти Роутер — единый API для доступа к LLM-моделям

Чатти Роутер подключает сервисы компании напрямую к официальным провайдерам нейросетей. Маршрутизация и прокси уже работают внутри сервиса, поэтому не нужно поднимать свои сервера или настраивать VPN.

Все приложения — от внутренних систем и ботов до кодинг-агентов — работают через единый API. Новые инструменты подключаются сразу к готовой инфраструктуре, без персональной настройки доступа для каждой команды.

Сервис принимает запросы в стандартном OpenAI-формате. Если инструмент поддерживает сторонних провайдеров, достаточно указать базовый URL API и ключ доступа.

Новые модели подключаются на стороне сервиса без изменения настроек в приложениях. Это позволяет быстро переключаться между моделями под разные критерии — качество ответов, скорость или цену генерации.

API работает через эндпоинты /v1/chat/completions и /v1/responses. Встроенные адаптеры автоматически преобразуют запросы и отправляют их к выбранной модели.

При сетевых сбоях, отказе прокси или лимитах провайдера Чатти Роутер сразу отправляет запрос по резервному маршруту. Сервис непрерывно отслеживает состояние узлов, учитывая выбранную модель, ее доступность и текущую нагрузку.

Основной шлюз находится в России, а прокси-узлы распределены по разным юрисдикциям. На узлах настроены независимые аккаунты и ключи провайдеров, поэтому сбой на одном канале не блокирует остальные. Запросы в рамках одного диалога система по возможности ведет по единому пути. Обслуживание этой инфраструктуры — полностью на стороне Роутера.

В личном кабинете создаются API-ключи под отдельные сервисы, команды или тестовые окружения. Ролевая модель разграничивает права: определяет, кто видит ключи и может управлять настройками. Список моделей задается для проекта в целом или для каждого ключа отдельно, при этом ключи автоматически наследуют общие ограничения проекта.

Расход ресурсов контролируется лимитами: дневными, недельными, месячными или на весь срок проекта. Команды работают строго в рамках выделенных бюджетов.

Встроенная аналитика детализирует траты в токенах и деньгах по проектам, моделям, сотрудникам и ключам — это позволяет точно отслеживать, на какие задачи уходит бюджет. Оплата списывается в рублях с единого корпоративного баланса только по факту использования.

Для биллинга и учета потребления сервис собирает только технические метаданные и статистику — эти данные хранятся на серверах в России. Тексты запросов, сгенерированные ответы и файлы система не записывает. Промежуточные прокси-узлы также не сохраняют содержимое трафика.

Полный запрос передается напрямую поставщику выбранной нейросети. Условия обработки и хранения этих данных определяются политикой конфиденциальности конкретного провайдера.

Отказоустойчивость сервиса обеспечивают автоматический мониторинг и резервные маршруты. Целевая доступность по SLA — не менее 99% за календарный месяц, без учета согласованных плановых работ.