Назад

Алиасы моделей

Алиасы моделей

Алиасы моделей позволяют задавать пользовательские имена для реальных моделей. Клиент отправляет запрос с алиасом, система автоматически подставляет реальный идентификатор модели перед маршрутизацией.

Основные возможности

  • Создание произвольных имён для моделей (например, gpt-4 → local/llama-3.1-70b)
  • Прозрачная подстановка при обработке API-запросов — клиент не знает о реальном маршруте
  • Поддержка всех типов моделей: воркер-ноды, OpenAI-ноды, облачные модели
  • Сохранение суффикса :ru при резолвинге (для обработки данных в РФ)
  • Алиасы отображаются в списке доступных моделей (GET /v1/models) наравне с реальными

Как алиасы используются в API-запросах

При получении запроса к /v1/chat/completions или /v1/completions система выполняет следующее:

  1. Клиент передаёт поле model с именем алиаса, например "model": "my-assistant"
  2. Система ищет алиас в базе данных
  3. Если алиас найден — подставляет реальный model_id, например local/llama-3.1-8b
  4. Запрос маршрутизируется на соответствующий бэкенд по реальному идентификатору
  5. Если алиас не найден — имя используется как есть

Пример запроса с алиасом:

POST /v1/chat/completions
{
  "model": "my-assistant",
  "messages": [{"role": "user", "content": "Привет!"}]
}

Система резолвит my-assistant → local/llama-3.1-8b и направляет запрос на воркер-ноду.

Суффикс :ru

Если клиент передаёт "model": "my-alias:ru", система резолвит базовое имя (my-alias), а суффикс :ru сохраняется в итоговом идентификаторе. Это гарантирует обработку данных в российской инфраструктуре.

Пошаговые инструкции

Создать алиас

  1. Перейдите в раздел Алиасы моделей
  2. Нажмите Создать алиас
  3. Заполните поля формы (см. описание полей ниже)
  4. Нажмите Создать

Редактировать алиас

  1. В списке алиасов нажмите Редактировать напротив нужного алиаса
  2. Измените необходимые поля
  3. Нажмите Обновить

Удалить алиас

  1. В списке алиасов нажмите Удалить напротив нужного алиаса
  2. Подтвердите удаление в диалоге

⚠️ Удаление алиаса немедленно прекращает его работу. Клиенты, использующие этот алиас, начнут получать ошибки.

Описание полей

Поле Тип Обязательное Описание
alias_name строка ✓ Пользовательское имя модели. Только буквы, цифры, дефис, подчёркивание, точка и слеш. Должно быть уникальным.
model_id строка ✓ Реальный идентификатор целевой модели с префиксом типа (local/, api/, cloud/).
description строка — Произвольное описание назначения алиаса.

Форматы model_id

Префикс Бэкенд Пример
local/ Воркер-нода (vLLM) local/llama-3.1-8b
api/ OpenAI-совместимая нода api/gpt-4o
cloud/ Облачная модель cloud/gpt-4o
cloud/...:ru Облачная модель (обработка в РФ) cloud/yandex-gpt:ru

Важные замечания

⚠️ Имя алиаса не может начинаться с зарезервированных префиксов: local/, api/, cloud/. Эти префиксы зарезервированы для реальных идентификаторов моделей.

⚠️ Имя алиаса должно быть уникальным в системе. Попытка создать два алиаса с одинаковым именем вернёт ошибку валидации.

⚠️ Алиас не может указывать на другой алиас — только на реальный model_id.

Связанные разделы