Для чего: один из самых дешёвых OpenAI-совместимых инференсов открытых моделей — оплата по токенам, без минималок.

Что это и кому

DeepInfra — облако инференса открытых моделей с акцентом на минимальную цену за токен и предельную простоту: один OpenAI-совместимый API, оплата по факту, без минимальных платежей и сложных тарифов. Для разработчиков и стартапов, которым нужно дёшево гонять Llama/Qwen/DeepSeek в проде и не возиться с GPU. Выделяется тем, что держит собственное железо в своих дата-центрах и за счёт этого предлагает одни из самых низких ставок на рынке.

Ключевые возможности

50+ открытых моделей (Llama, Qwen, DeepSeek, Mistral и др.) по низкой цене за токен.
OpenAI-совместимый API — миграция сменой base URL и ключа.
Не только LLM: embeddings, STT (Whisper), картиночные модели.
Dedicated-деплои под стабильную латентность для нагруженных сценариев.
Один из провайдеров в Hugging Face Inference Providers.
Стартовый бесплатный кредит без привязки карты.

Как начать за 5 минут

Зарегистрируйся на deepinfra.com, получи API-токен.
Вызови модель через OpenAI-совместимый endpoint:

curl https://api.deepinfra.com/v1/openai/chat/completions \
  -H "Authorization: Bearer $DEEPINFRA_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/Llama-3.3-70B-Instruct","messages":[{"role":"user","content":"Привет"}]}'

Сравни цену за токен с другими провайдерами под свою модель — часто выходит дешевле.

Когда брать, а когда нет

✅ Бери, если: главное — минимальная цена за токен на открытых моделях и простой OpenAI-совместимый вызов.
✅ Бери, если: нужен дешёвый STT/embeddings в довесок к LLM из одного места.
❌ Не бери → лучше «Together AI»/«Fireworks», если нужен богатый fine-tuning и продакшен-деплои с гарантиями.
❌ Не бери → лучше «OpenRouter», если важны проприетарные топ-модели и единый биллинг по сотням провайдеров.

Цена по-честному

Оплата по токенам (часть моделей — по времени инференса); ставки одни из самых низких, но точные суммы и наличие модели меняются. Есть стартовый кредит. Точные суммы — у провайдера.

Подводные камни

Дёшево ≠ всегда быстро: под жёсткую латентность бери dedicated-деплой.
Каталог — открытые модели; проприетарного фронтира нет.
Наличие конкретной модели и её версия меняются — фиксируй в конфиге.
Облако: чувствительные данные покидают контур — оцени комплаенс.

🤖 Промт-ускоритель

«Я хочу удешевить инференс и рассматриваю DeepInfra. Под задачу <ОПИШИ> подбери открытую модель, дай пример OpenAI-совместимого запроса на <Python/Node>, посчитай стоимость на 1М токенов и сравни с моим текущим провайдером. Подскажи, когда переходить на dedicated-деплой ради латентности и как замерить time-to-first-token.»