AnythingLLM — это open-source оболочка для локальных LLM, RAG по вашим файлам и AI-агентов: ставите Desktop на один ПК или Docker как сервер для команды. Документы остаются в вашем storage; модели — локальные или облачные. Фокус-ключ: anythingllm. Pillar — ИИ-автоматизация; соседние локальные стеки — Ollama API, LM Studio, UI-чат — Open WebUI.

Соседи: RAG + LangChain + n8n, нейросети бесплатно с нуля.

Desktop vs Docker

Фича Desktop Docker
Установка one-click (Mac/Windows/Linux) образ + volume, UI в браузере
Multi-user / password нет да
Browser UI нет (native app) да, http://localhost:3001
Built-in LLM provider да нет (нужен внешний)
Chat widgets / white-label нет да
RAG, agents, connectors да да

Источники: docs.anythingllm.com → Desktop overview (таблица Desktop vs Docker, network discovery); Docker quickstart (localhost:3001, mintplexlabs/anythingllm); Chat Modes (Chat / Query / Agent ≥ v1.11.1); LLM configuration overview. Цены облачных ключей провайдеров в ₽ не фиксируем. Срез: 2026-10-01.

Как пользоваться AnythingLLM

  1. Выберите контур: один человек и максимум приватности → Desktop; команда / браузер / виджет → Docker.
  2. Desktop: установите с официальной страницы, создайте workspace, загрузите документы, выберите LLM (встроенный или Ollama/LM Studio).
  3. Docker: docker pull mintplexlabs/anythingllm:latest, смонтируйте storage в /app/server/storage, откройте http://localhost:3001.
  4. Настройте System LLM (дефолт), при необходимости Workspace LLM и отдельно Agent LLM под tool calling.
  5. Режим чата в workspace: Query для строгих ответов из документов; Chat для гибкости; Agent если нужны skills/tools/MCP (с v1.11.1 по умолчанию для новых workspace).
  6. Если Query отвечает «No relevant information found» — ослабьте Document similarity threshold (No restriction) и перефразируйте вопрос словами из файла.
# Ориентир Docker (см. docs.anythingllm.com installation-docker)
# UI: http://localhost:3001
# image: mintplexlabs/anythingllm:latest
# volume → /app/server/storage  (обязателен для persistence)
# UID/GID default 1000 - иначе chown storage, не chmod 777

Режимы workspace:
Query  - только документы
Chat   - документы + знания модели
Agent  - tools / skills / MCP (модель должна уметь tool calling)

Чеклист:
[ ] Выбран Desktop или Docker под задачу
[ ] Storage персистентный
[ ] LLM отвечает до загрузки «тонны» PDF
[ ] Desktop не торчит в публичный интернет
[ ] Не путать с Open WebUI (другой продукт)

Типичные ошибки

  • Ждать multi-user от Desktop — берите Docker.
  • Включить network discovery и решить, что это «шаринг UI» — открывается API, браузер на UI получит 404.
  • Строгий Query + высокий similarity на плохо нарезанном PDF → ложные «не нашёл».
  • Путать AnythingLLM с n8n: здесь workspace+RAG+агенты, не визуальный iPaaS.

FAQ: AnythingLLM

Что такое AnythingLLM?

AnythingLLM — open-source приложение для локальных LLM, RAG по документам и агентов. Есть Desktop (single-player) и Docker (multi-user, browser UI). Канон: docs.anythingllm.com.

Чем Desktop отличается от Docker?

Desktop — one-click, встроенный LLM provider, без multi-user и без browser UI. Docker — сервер с браузером на :3001, multi-user, password protection, chat widgets, без built-in LLM (нужен внешний провайдер).

Какие режимы чата есть в AnythingLLM?

Chat — документы + общие знания модели. Query — только загруженные документы (иначе скажет, что не нашёл). Agent (с v1.11.1, по умолчанию для новых workspace) — skills/tools/MCP, если модель умеет tool calling.

Как поставить Docker-версию?

По доке: docker pull mintplexlabs/anythingllm:latest, volume на /app/server/storage, UI на http://localhost:3001. UID/GID по умолчанию 1000 — иначе возможны permission issues.

Какие LLM можно подключить?

System / Workspace / Agent LLM настраиваются отдельно. Поддерживаются локальные (Ollama, LM Studio и др.) и облачные провайдеры. Список — в docs → LLM configuration.

Можно ли открыть Desktop в интернет?

Дока прямо запрещает: у Desktop нет user accounts/auth. Network discovery открывает API, не UI (браузер получит 404). Для нескольких людей берите Docker.

Вывод

AnythingLLM — локальный RAG и агенты в Desktop или Docker. Старт: один workspace, маленькая пачка документов, режим Query для фактов и Chat для гибкости. Когда нужна система обучения под локальный стек — форматы на странице обучения.

Артём Денисов — эксперт Нетологии и автор курса Яндекс Практикума по промпт-инжинирингу. Сверяет AnythingLLM с docs.anythingllm.com (Desktop/Docker, Chat Modes, LLM setup).

Хотите нейросети под свои задачи, а не «для всех»?

Когда базовых гайдов уже мало, помогает разбор под вашу работу. Наставничество, курсы и подписка Артёма Денисова — все форматы на странице обучения. Тех-pillar — ИИ-автоматизация / n8n.