Hugging Face Inference Endpoints — это managed-деплой моделей с Hub в production: вы выбираете репозиторий, инстанс и autoscaling, а платформа поднимает HTTPS endpoint без своего Kubernetes. Фокус-ключ: huggingface inference endpoints. Канон: Inference Endpoints docs, Create an Endpoint, Send Requests. Соседи: Hugging Face, vLLM, Replicate, Modal, ИИ-автоматизация.

Ниже — маршрут новичка: аккаунт Hub → Create Endpoint → Running → первый POST. Стоимость инстанса и регион сверяйте в UI на дату запуска; рублевый прайс не фиксируем.

Маршрут Create → Call

Шаг Суть Где Заметка
1. Repo + имя Hugging Face Repository ID Create Endpoint UI пример в гиде: distilbert SST-2
2. Instance cloud, region, тип GPU/CPU Instance Configuration недоступный тип — запрос в поддержку
3. Scale-to-Zero гасить при простое Autoscaling экономия vs cold start
4. Security уровень доступа endpoint Security Level токен HF в Authorization
5. Engine vLLM / TGI / custom Advanced Configuration для LLM смотрите vLLM docs IE
6. Call POST + Bearer token Playground / cURL / SDK init обычно 1-5 минут

Источник: huggingface.co/docs/inference-endpoints (managed deploy, autoscaling, vLLM/TGI/custom); guides/create_endpoint (шаги 1-8, cost estimate per hour); guides/test_endpoint (cURL Bearer, @huggingface/inference); engines/vllm (TP/DP defaults). Сверка: 2026-10-12. ₽ не выдумываем.

Первый вызов

  1. Залогиньтесь на huggingface.co и откройте Inference Endpoints.
  2. Create Endpoint: укажите Repository ID, имя, cloud/region/instance, при необходимости scale-to-zero и security.
  3. Нажмите Create Endpoint и дождитесь статуса Running (дока: типично 1-5 минут в зависимости от размера модели).
  4. Проверьте в Playground на странице Endpoint Overview.
  5. Скопируйте сгенерированный cURL/python/js или вызовите endpoint своим клиентом с HF token.
# URL и путь - из вашего Endpoint Overview (пример из доки, не копируйте как прод)
curl https://YOUR_ENDPOINT.aws.endpoints.huggingface.cloud/ \
  -X POST \
  -d '{"inputs": "Deploying my first endpoint was an amazing experience."}' \
  -H "Authorization: Bearer $HF_TOKEN"

# Python: huggingface_hub / InferenceClient (см. сниппеты в UI endpoint)
# JS: @huggingface/inference → inference.endpoint('https://…').textGeneration(…)

Для LLM с vLLM на multi-GPU смотрите defaults: tensor_parallel_size = число GPU инстанса, data_parallel_size = 1; формула TP×DP = число GPU. Payload задач совпадает с контрактом Inference API / Supported Tasks в доке. Токен — из настроек аккаунта HF, не коммитьте в git.

Типичные ошибки

  • Путать serverless Inference API / Hub playground и dedicated Inference Endpoints — разный биллинг и контроль инстанса.
  • Оставлять TP=число GPU при маленькой модели на multi-GPU — часть GPU простаивает; для throughput поднимайте DP.
  • Ждать мгновенный Running у большой модели — init 1-5+ минут по доке.
  • Коммитить HF token в репозиторий.
  • Фиксировать рублевый прайс часа GPU — в UI estimate per hour без полного autoscaling; смотрите биллинг.

FAQ: Hugging Face Inference Endpoints

Что такое Hugging Face Inference Endpoints простыми словами?

Inference Endpoints — это managed-сервис Hugging Face для деплоя модели в production: выбираете repo на Hub, инстанс, autoscaling и получаете HTTPS endpoint. Канон: huggingface.co/docs/inference-endpoints.

Чем это отличается от гайда «Hugging Face для новичков»?

Пост /huggingface-kak-polzovatsya/ — про Hub и общий старт. Здесь фокус на dedicated Inference Endpoints: Create Endpoint, instance, scale-to-zero, вызов cURL/SDK. Focus_keyword: huggingface inference endpoints.

Как создать первый Endpoint?

В UI: Repository ID + имя → cloud/region/instance → scale-to-zero и security → Create Endpoint → дождаться Running (обычно 1-5 минут) → тест в Playground. Гид: docs Create an Endpoint.

Какие движки можно выбрать?

В доке есть интегрированная поддержка open-source inference engines, в том числе vLLM, TGI и custom container. Для LLM часто берут vLLM/TGI/SGLang; параметры TP/DP описаны в разделе vLLM.

Как вызвать Endpoint из кода?

POST на URL вашего endpoint с Authorization: Bearer и телом задачи (для NLP часто {«inputs»: «…»}). UI генерирует примеры python/javascript/curl. Также: huggingface_hub и @huggingface/inference.

Есть ли цены в рублях в статье?

Нет. В Create Endpoint показывают estimate per hour (без полного учёта autoscaling). Смотрите биллинг Hugging Face на дату запуска; рубли не фиксируем.

Вывод

Hugging Face Inference Endpoints — Create Endpoint из Hub repo, нужный instance/engine, первый POST с Bearer token. Старт: Create guide → Playground → свой клиент. Когда нужна система обучения под интеграции — форматы на странице обучения.

Артём Денисов — эксперт Нетологии и автор курса Яндекс Практикума по промпт-инжинирингу. Сверяет Inference Endpoints с официальной докой на дату публикации.

Хотите нейросети под свои задачи, а не «для всех»?

Когда базовых гайдов уже мало, помогает разбор под вашу работу. Наставничество, курсы и подписка Артёма Денисова — все форматы на странице обучения. Соседи по стеку — ИИ-автоматизация и vLLM.