Для чего: один endpoint к множеству провайдеров — bring-your-own-key, бюджеты, фолбэки, балансировка.

Что это и кому

Vercel AI Gateway — управляемый шлюз к моделям множества провайдеров через один endpoint, с BYOK без наценки, бюджетами, фолбэками и наблюдаемостью. Для команд на Vercel/Next.js, которые строят ИИ-фичи и хотят менеджить ключи, лимиты и затраты централизованно, не поднимая свою инфраструктуру. Выделяется родной связкой с AI SDK от Vercel и нулевой наценкой на свои ключи.

Ключевые возможности

Единый endpoint к моделям OpenAI, Anthropic, Google, xAI, открытым и др.
Bring-your-own-key без наценки: платишь провайдеру по своим тарифам.
Бюджеты, лимиты и алерты на уровне проекта/команды.
Автоматические фолбэки и ретраи между провайдерами.
Наблюдаемость: логи, латентность, расходы по моделям.
Глубокая интеграция с Vercel AI SDK (ai пакет) и стримингом в Next.js.

Как начать за 5 минут

В дашборде Vercel включи AI Gateway, добавь ключи провайдеров (BYOK) или используй кредиты.
Поставь AI SDK и обращайся к моделям единым интерфейсом:

npm install ai

import { generateText } from "ai";
const { text } = await generateText({ model: "anthropic/claude-3-5-sonnet", prompt: "Привет" });

Меняй строку модели на любого провайдера — endpoint и код остаются прежними.

Когда брать, а когда нет

✅ Бери, если: уже на Vercel/Next.js и нужен managed-шлюз с BYOK, бюджетами и фолбэками без DevOps.
✅ Бери, если: строишь стриминговые ИИ-фичи на AI SDK и хочешь единый учёт затрат.
❌ Не бери → лучше «LiteLLM», если нужен полностью self-hosted прокси под своим контролем с логами в свою БД.
❌ Не бери → лучше «OpenRouter», если ты вне экосистемы Vercel и хочешь максимально широкий каталог моделей.

Цена по-честному

BYOK — без наценки шлюза (платишь провайдерам). Если пользуешься кредитами Vercel — по их тарифам; есть бесплатный объём на старте, дальше — план Vercel. Точные суммы — у провайдера, меняются.

Подводные камни

Максимум пользы — внутри экосистемы Vercel; вне её преимущества тают.
BYOK требует аккуратно завести ключи провайдеров и следить за их лимитами.
Набор провайдеров/моделей расширяется, но уже экзотики OpenRouter может не быть.
Привязка к AI SDK удобна, но это всё же привязка — миграция на другой стек потребует правок.

🤖 Промт-ускоритель

«Я на Next.js + Vercel AI SDK, использую AI Gateway с BYOK. Помоги настроить ИИ-фичу <ОПИШИ>: выбрать 2–3 модели по цена/качество, прописать фолбэк (основная → запасная), включить стриминг ответа в UI, и задать бюджет/лимиты на проект. Дай пример кода с streamText и обработкой ошибок провайдера.»