Groq — это облачный инференс GroqCloud: API-ключ, переменная GROQ_API_KEY, SDK pip install groq и вызов chat.completions.create. Фокус-ключ: groq. Канон: Quickstart и Supported Models. Соседи: OpenAI API, LiteLLM, ИИ-автоматизация.
Ниже — маршрут новичка: ключ → SDK → один рабочий chat completion. Model id и тарифы сверяйте в кабинете на дату запуска; рублевый прайс в статье не фиксируем.
Production vs Preview: что брать
| MODEL ID | Класс | Скорость (док) | Цена / 1M (док)* | Context | Когда |
|---|---|---|---|---|---|
llama-3.3-70b-versatile |
Production (Enterprise в таблице) | ~280 t/s | Contact Sales | 131072 | Пример Quickstart; сильный общий чат |
llama-3.1-8b-instant |
Production | ~560 t/s | Contact Sales | 131072 | Когда нужна максимальная скорость на лёгкой модели |
openai/gpt-oss-120b |
Production | ~500 t/s | $0.15 in / $0.60 out | 131072 | Open-weight флагман в каталоге Groq |
openai/gpt-oss-20b |
Production | ~1000 t/s | $0.075 in / $0.30 out | 131072 | Дешевле и быстрее 20B-контур |
whisper-large-v3 / whisper-large-v3-turbo |
Production (ASR) | — | $0.111 / $0.04 per hour | — | Речь в текст, не chat |
| Preview (Qwen, Orpheus, Prompt Guard…) | Preview | разное | см. таблицу | разное | Только оценка; не для прода без сверки deprecations |
*Источник: console.groq.com/docs/models (Production / Preview; Developer plan rate limits). Сверка: 2026-10-08. Quickstart-пример: llama-3.3-70b-versatile. Цены в USD; ₽ не выдумываем. Список активных id также: GET https://api.groq.com/openai/v1/models.
Первый вызов на Python
- Создайте API Key в console GroqCloud и экспортируйте:
export GROQ_API_KEY=…. - Установите SDK:
pip install groq. - Вызовите chat completion с model id из Quickstart или актуального каталога.
- Для прода берите Production; Preview — только для тестов (могут снять без долгого notice).
export GROQ_API_KEY="your_api_key_here"
pip install groq
import os
from groq import Groq
client = Groq(api_key=os.environ.get("GROQ_API_KEY"))
chat_completion = client.chat.completions.create(
messages=[
{"role": "user", "content": "Объясни за 3 пункта, зачем быстрый LLM API"},
],
model="llama-3.3-70b-versatile", # сверяйте каталог на дату запуска
)
print(chat_completion.choices[0].message.content)
Ключ держите в env / .env, не в репозитории. Для JS-стека в доке есть путь через AI SDK (@ai-sdk/groq) — это отдельный клиент, не замена Python SDK.
Типичные ошибки
- Тащить Preview-модель в прод без чтения deprecation notes.
- Путать Whisper (аудио) с chat model id.
- Копировать устаревший id из чужого туториала вместо актуальной таблицы Models.
- Фиксировать рублевый прайс токенов в статье — смотрите USD в доке и свой биллинг.
- Коммитить GROQ_API_KEY в git или в публичный фронтенд.
FAQ: Groq
Что такое Groq простыми словами?
Groq — это GroqCloud API для быстрых инференс-вызовов LLM и Whisper: ключ GROQ_API_KEY, pip install groq, chat.completions.create с model id из каталога. Канон: console.groq.com/docs/quickstart.
Какой model id брать для первого вызова?
В официальном Quickstart пример на llama-3.3-70b-versatile. Production-каталог также держит openai/gpt-oss-120b, openai/gpt-oss-20b и Whisper. Перед продом сверяйте console.groq.com/docs/models: preview-модели не для production.
Как сделать первый вызов на Python?
export GROQ_API_KEY=…, pip install groq, создать Groq() и вызвать client.chat.completions.create с messages[] и model. Ключ не коммитьте в git.
Чем Groq отличается от OpenAI API?
Интерфейс chat completions похож на OpenAI-стиль, но хостинг, model id и биллинг — у GroqCloud (api.groq.com). Скорость (tokens/sec) — сильный аргумент Groq; список моделей другой.
Можно ли звать Groq через LiteLLM?
Да, когда нужен единый gateway на несколько провайдеров. Для одного скрипта достаточно официального SDK groq. Соседний лонгрид: LiteLLM.
Есть ли цены в рублях в статье?
Нет. В таблице — ориентиры в USD из console.groq.com/docs/models на дату сверки. Рубли и курс смотрите в своём кабинете/посреднике.
Вывод
Groq — ключ в env, официальный SDK, один chat completion на актуальном Production model id. Старт: Quickstart → свой скрипт → сверка каталога. Когда нужна система обучения под интеграции — форматы на странице обучения.
Хотите нейросети под свои задачи, а не «для всех»?
Когда базовых гайдов уже мало, помогает разбор под вашу работу. Наставничество, курсы и подписка Артёма Денисова — все форматы на странице обучения. Соседи по стеку — ИИ-автоматизация и OpenAI API.