Перейти к содержимому
ShareQuota

Глоссарий

Слова, на которых держится этот продукт и каждый роутер вроде него, каждое определено один раз — что оно значит вообще и что оно значит здесь.

Маршрутизатор ИИ (AI router)

Программа, которая стоит между вашими инструментами и несколькими провайдерами моделей, выставляет один эндпоинт и на каждый запрос решает, кто ответит, — обычно с переключением при отказе.

ShareQuota — это AI-роутер на пять провайдеров, работающий одним бинарником на вашей собственной машине.

LLM-прокси (LLM proxy)

Сервер, который принимает запрос, предназначенный языковой модели, может изменить или перенаправить его и передаёт дальше вверх по течению — та же форма, что у прокси HTTP, применённая к API моделей. Часто используется как синоним AI-роутера и LLM-шлюза.

Прокси слушает на localhost, переводит диалекты и отдаёт поток обратно без изменений в том диалекте, в котором вы обратились.

LLM-шлюз (LLM gateway)

LLM-прокси, поставленный как общая инфраструктура: одна точка входа для команды или продукта, с централизованно управляемыми ключами, лимитами и журналированием.

Это не про него. Управляющий API отвечает только на петлевом интерфейсе; общий шлюз — это про 9router или командное развёртывание.

Объединение подписок (subscription pooling)

Вход в потребительские планы, за которые вы уже платите, — Claude Pro, ChatGPT Plus, план Gemini — и использование их квоты через API вместо отдельной покупки токенов.

Основная работа. Бинарник входит через OAuth, на вашей машине, и тратит план, который у вас есть; ничего не перепродаётся и чужая квота не участвует.

Вход через OAuth (OAuth login)

Поток авторизации, в котором вы входите на собственной странице провайдера, а приложение получает токен, вместо того чтобы вы отдавали ему пароль.

Каждое подписочное подключение — это вход через OAuth, выполненный в вашем браузере; токен живёт в локальном файле SQLite и обновляется сам.

Диалект API (API dialect)

Формат запроса и ответа, на котором говорит API одного провайдера, — форма сообщений Anthropic, chat completions от OpenAI, OpenAI Responses, generateContent от Google. Инструменты пишутся под один из них.

Четыре диалекта на одном эндпоинте и переводчик между ними, чтобы инструмент, говорящий на одном, достал до провайдера, говорящего на другом.

Перевод диалектов (dialect translation)

Преобразование запроса из одного диалекта API в другой — и ответа, включая потоковый, — чтобы клиент и провайдер, которых никогда не собирали друг под друга, всё же говорили.

Формы Anthropic, OpenAI и Gemini переводятся в обе стороны и держатся на эталонных фикстурах из референсной реализации.

Автопереключение при отказе (auto-failover)

Автоматический перенос запроса на другого провайдера или другой аккаунт, когда первый падает, отказывает или исчерпал квоту, — так, что клиент этого не замечает.

Когда подключение отказывает, роутер переносит запрос на другое, обслуживающее ту же модель, а исчерпанное отправляет на паузу.

Пауза и отсрочка (cooldown and backoff)

После сбоя — ожидание перед повторной попыткой к той же цели, и всё более долгое ожидание после каждого следующего сбоя, чтобы не долбить провайдера с лимитом.

Исчерпанные подключения отступают экспоненциально и возвращаются в ротацию сами; константы лежат в пакете конфигурации.

Ограничение частоты (rate limit)

Установленный провайдером предел на то, сколько запросов или токенов аккаунт может израсходовать за окно; сигнализируется кодом HTTP 429 или равнозначной ошибкой.

Ограничение частоты на одном аккаунте — это спусковой крючок для переключения на следующий; его не обходят, его объезжают вашими же другими аккаунтами.

Квота (quota)

Объём использования, который позволяет план или ключ, — сообщения, токены или сессии за окно, — и то, что сгорает неиспользованным в конце месяца.

Квота, за которую вы уже заплатили, — весь смысл существования продукта: её делают достижимой из ваших инструментов, а не оставляют внутри приложения каждого провайдера.

Контекстное окно (context window)

Максимальное число токенов, которое модель может принять в одном запросе, вместе с промптом и историей. За его пределом запрос отклоняется или обрезается.

Каждая страница модели печатает окно, о котором сообщает реестр; самое большое в каталоге — миллион токенов.

MTok

Миллион токенов — единица, в которой провайдеры оценивают использование API, отдельно для входа, выхода и кэшированного входа.

Страницы моделей показывают прайсовые цены за MTok, чтобы месяц подписки можно было сравнить с тем, во что это обошлось бы потокенно.

Бесплатный уровень (free tier)

Использование, которое провайдер даёт бесплатно, обычно с более низкими лимитами, — настоящая квота, а не пробный период.

Подключения на бесплатном уровне объединяются как любые другие; каталог отмечает модели, у которых он есть.

Локальный эндпоинт (local endpoint)

URL, который обслуживается на вашей собственной машине и достижим как localhost и больше нигде, пока вы его не опубликуете.

http://localhost:20130 — это вся поверхность. Ничего не хостится; посередине нет сервера.

Внутренний ключ (internal key)

Единственные учётные данные, которые прокси выдаёт своим клиентам, заменяя собой каждый ключ провайдера и каждый вход за ним.

Ключ sq-, создаваемый при первом запуске. Инструменты видят только его, поэтому утёкшая конфигурация инструмента не утечёт ничего, за что можно выставить счёт.

Маршрутизация моделей (model routing)

Правило, которое сопоставляет поле model запроса с провайдером, который его обслужит, — явные префиксы, псевдонимы или вывод из самого id.

provider/model маршрутизирует явно; префиксы claude-, gpt-, gemini- и deepseek- выводятся; любой другой id со слешем уходит в OpenRouter.

Обратимая интеграция (reversible integration)

Изменение конфигурации инструмента так, что его можно в точности отменить: сначала снимается резервная копия, при отключении исходные значения восстанавливаются.

Главное правило интеграций с CLI: никогда не разрушать пользовательскую конфигурацию. Разница после включения и выключения пуста.

Туннель (tunnel)

Публикация локального порта по публичному адресу https через релей — быстрый туннель Cloudflare или Tailscale Funnel — чтобы сервис, который обращается со своих серверов, смог до него достать.

То, что нужно Cursor, потому что запрос делает бэкенд Cursor. Всё остальное на этом сайте работает на localhost.