Together AI — это serverless inference: ключ TOGETHER_API_KEY, SDK pip install together (или uv add together) и client.chat.completions.create. Фокус-ключ: together ai. Канон: Quickstart и Available models. Соседи: Groq, OpenAI API, LiteLLM, ИИ-автоматизация.

Ниже — первый запрос за несколько минут. Конкретные model string и тарифы берите из каталога на дату запуска; ₽ в статье не выдумываем.

Ориентиры каталога (serverless chat)

API model string Организация Context Input / 1M* Output / 1M* Заметка
MiniMaxAI/MiniMax-M3 Minimax 524288 $0.30 $1.20 Пример Quickstart; vision/JSON/stream в доке
openai/gpt-oss-120b OpenAI 131072 $0.15 $0.60 Open-weight в каталоге Together
meta-llama/Llama-3.3-70B-Instruct-Turbo Meta 131072 $1.04 $1.04 Классический Llama-контур
deepseek-ai/DeepSeek-V4-Flash-0731 DeepSeek 1048576 $0.14 $0.28 Длинный контекст flash
Qwen/Qwen3.5-9B Qwen 262144 $0.17 $0.25 Лёгкий / vision-старт в доке

*Источник: docs.together.ai/docs/inference-models (Chat serverless). Сверка: 2026-10-08. Quickstart использует MiniMaxAI/MiniMax-M3. Cached input у части моделей дешевле — колонка Cached в каталоге. Image/video — отдельные единицы биллинга. ₽ не фиксируем.

Первый вызов на Python

  1. Создайте API key в проекте Together и сохраните сразу (показывается один раз).
  2. Экспорт: export TOGETHER_API_KEY="your_api_key".
  3. Установите SDK: pip install together или uv add together.
  4. Вызовите chat.completions с model string из каталога.
export TOGETHER_API_KEY="your_api_key"
pip install together

from together import Together

client = Together()  # читает TOGETHER_API_KEY

response = client.chat.completions.create(
    model="MiniMaxAI/MiniMax-M3",  # сверяйте каталог на дату запуска
    messages=[
        {"role": "user", "content": "Назови 3 шага первого запроса к Together AI"},
    ],
)
print(response.choices[0].message.content)

Если код уже на OpenAI SDK, укажите base_url="https://api.together.ai/v1" и тот же TOGETHER_API_KEY — формат messages сохраняется. Streaming: stream=True; у reasoning-моделей в чанках отдельно приходят reasoning и content.

Типичные ошибки

  • Потерять ключ: новые keys показываются один раз.
  • Взять image/video model string в chat endpoint без чтения раздела каталога.
  • Путать serverless (per-token) и dedicated GPU (резерв/fine-tune).
  • Жёстко прошить устаревший model string из старого блога.
  • Фиксировать рублевый прайс вместо сверки USD-каталога и баланса.

FAQ: Together AI

Что такое Together AI простыми словами?

Together AI — serverless inference каталог моделей: ключ TOGETHER_API_KEY, pip install together (или uv add together), client.chat.completions.create. Канон: docs.together.ai/docs/quickstart.

Какой model id брать для первого запроса?

В официальном Quickstart пример на MiniMaxAI/MiniMax-M3. Каталог serverless шире (Qwen, DeepSeek, Llama, GPT-OSS и др.) — id и цены смотрите в docs.together.ai/docs/inference-models на дату запуска.

Можно ли звать Together через OpenAI SDK?

Да: OpenAI(api_key=TOGETHER_API_KEY, base_url=’https://api.together.ai/v1′) и тот же chat.completions.create. Удобно, если код уже на openai-пакете.

Serverless или dedicated?

Serverless — общий per-token API без провижининга GPU. Dedicated — когда нужен резерв железа, свой fine-tune или модели вне serverless-каталога. Новичку обычно хватает serverless.

Чем Together отличается от Groq?

Оба дают быстрый API, но каталоги model string и биллинг разные. Groq сильнее акцентирует LPU-скорость на своём списке; Together — широкий multi-vendor serverless каталог и OpenAI-compatible base_url.

Где цены?

В таблице inference-models цены в USD за 1M токенов (и отдельные единицы для image/video). Рубли не фиксируем — сверяйте каталог и баланс в кабинете.

Вывод

Together AI — ключ в env, официальный SDK (или OpenAI SDK на api.together.ai/v1), один chat completion на актуальном model string. Старт: Quickstart → свой скрипт → каталог. Когда нужна система обучения под интеграции — форматы на странице обучения.

Артём Денисов — эксперт Нетологии и автор курса Яндекс Практикума по промпт-инжинирингу. Сверяет Together AI с docs.together.ai quickstart и inference-models.

Хотите нейросети под свои задачи, а не «для всех»?

Когда базовых гайдов уже мало, помогает разбор под вашу работу. Наставничество, курсы и подписка Артёма Денисова — все форматы на странице обучения. Соседи по стеку — ИИ-автоматизация и Groq.