Свои LLM-модели: подписки ChatGPT, Claude и OpenAI-совместимые провайдеры

О чём урок

В этом уроке разбираем, как использовать в наших продуктах свои LLM-модели вместо предустановленных: подключить личную подписку ChatGPT или Claude, подключить любой OpenAI-совместимый сервис, а затем назначить эти модели на конкретный продукт.

Возможность доступна не на всех тарифах — актуальную информацию можно найти на странице продукта.

Зачем подключать свои модели

• Увеличенный ресурс токенов в личной подписке.
• Подписка плюс токены тарифа — непрерывная работа без ручных переключений.
• Свобода выбора модели и гибкость под конкретный продукт.
• Корпоративные шлюзы и локально развёрнутые модели.

Провайдеры включают в личную подписку значительно больший ресурс запросов, чем при работе по API. Для интенсивной работы рекомендуем подобрать подходящий тариф у провайдера и работать на нём. При этом токены вашего тарифа остаются на месте: благодаря механизму приоритизации продукт работает на вашей подписке, а как только её дневные лимиты закончатся — автоматически переключается на токены тарифа и продолжает в той же сессии. Через OpenAI-совместимый провайдер так же подключается корпоративный шлюз или локально развёрнутая модель — например, через LM Studio или Ollama, когда есть требование держать запросы внутри своего контура.

Подключение подписки на примере ChatGPT

Подключить можно подписку ChatGPT или Claude, а также любой OpenAI-совместимый сервис. Список доступных провайдеров и текущие настройки находятся в личном кабинете, в разделе «Свои LLM-провайдеры». Перед подключением внимательно прочитайте инструкцию к выбранному провайдеру.

На примере подписки Claude: после авторизации в браузере нужно скопировать локальный адрес и вставить его в поле подключения. Подписка ChatGPT подключается по такой же схеме.

После подтверждения подключение появляется в блоке «Мои подключения». Сразу можно раскрыть список моделей и убедиться, что подтянулись актуальные. У каждого подключения есть кнопки: «Проверить» — быстрая проверка доступа, «Модели» — обновить список, «Отключить».

Подключение OpenAI-совместимого провайдера на примере GLM

Третья карточка — «Свой API-провайдер». Подходит для любого сервиса, который умеет отвечать по протоколу OpenAI: GLM, OpenRouter, LM Studio, Ollama, корпоративные шлюзы.

На примере GLM: указываем адрес API и ключ из личного кабинета провайдера, список моделей подтянется автоматически. У подключения те же кнопки, что и у подписки, плюс «Настройки» — через них можно сменить адрес или ротировать ключ, не пересоздавая подключение и не теряя привязки к продуктам.

Настройка моделей на продукте — на примере консоли кода

Подключения сами по себе ни к чему не привязаны — мы лишь добавили источники моделей. Назначение моделей на конкретный продукт делается в карточке его подписки, кнопкой «Настройка моделей».

Логика цепочки простая: первая модель — основная, остальные — резервные на случай, если основная не отвечает. Отдельной строкой в списке доступных есть запись «По умолчанию» — это системная цепочка моделей для этого продукта. Добавьте её в конец, и при любых проблемах с вашими моделями работа продолжится на токенах вашего тарифа без обрыва сессии.