Private AI

Private AI vs OpenAI API: когда облако дешевле, а когда дороже на порядок

Считаем стоимость, безопасность и vendor lock облачных LLM против собственного контура. С точкой безубыточности, чек-листом 152-ФЗ и сценариями, где облако всё ещё выигрывает.

11 минут
Private AI
Xencom · Блог
Private AI vs OpenAI API: когда облако дешевле, а когда дороже на порядок

Каждый второй разговор про AI начинается с одного и того же вопроса: «А не проще ли подключиться к OpenAI и не строить ничего своего?». Иногда — действительно проще. Иногда — это решение, которое через полгода стоит компании контракта с госзаказчиком и репутации в индустрии. Разбираем по полкам, где облачный LLM экономит миллионы, а где — превращает компанию в заложника чужой инфраструктуры.

Коротко для тех, кто торопится

  • Облако дешевле при объёме до 150–200 тыс. ₽/мес на токены. Выше — на горизонте года выгоднее свой контур.
  • 152-ФЗ, КИИ и врачебная тайна закрывают облачный путь для большинства серьёзных задач почти автоматически.
  • Vendor lock у OpenAI выше, чем кажется: prompt-engineering, тонкие настройки и история промптов накапливаются годами и не переносятся.
  • Гибрид (Private AI для чувствительных данных + облако для публичных задач) — то, что в реальности работает у крупных клиентов.
  • Решение «облако vs контур» сводится к четырём осям: данные, объём, регуляторика, скорость внедрения.

Что меняется в 2026 году

Пару лет назад open-source модели объективно проигрывали GPT-4 по большинству задач. Сейчас разрыв закрылся:

  • Llama 3.3 70B и Qwen 2.5 72B на ключевых бенчмарках (MMLU, HumanEval, BBH) сопоставимы с GPT-4 Turbo. Meta открыто публикует сравнения в техническом блоге, Anthropic и OpenAI — тоже.
  • Контекстное окно у open-source выросло до 128K токенов и выше — этого хватает для типовых корпоративных документов.
  • Инференс: фреймворки vLLM, SGLang и TensorRT-LLM выжимают из одного GPU в 3–5 раз больше токенов в секунду, чем наивные пайплайны 2024 года.

То есть утверждение «open-source хуже» в 2026 году требует уточнения: хуже на каких именно задачах, на сколько процентов и за какие деньги. На многих типовых корпоративных сценариях — уже не хуже.

Ось 1. Экономика: где проходит точка безубыточности

Самый цитируемый аргумент в пользу облака — «нам не надо покупать GPU». Это верно ровно до определённого объёма.

Расклад облачного OpenAI API на GPT-4 Turbo:

  • Цена: примерно $10 / 1M input tokens и $30 / 1M output tokens.
  • Типичный бизнес-кейс (саппорт, ассистент по документам, sales): 200–400 токенов на запрос, 800–1500 токенов на ответ.
  • При нагрузке ~50 000 диалогов в день стоимость уходит за $2 000 в сутки — это около 5,5 млн ₽ в месяц.

Расклад своего контура на Llama 3.3 70B:

  • Железо: 2× NVIDIA H100 80GB — от 12–14 млн ₽ в закупке или ~350 тыс. ₽/мес в аренде у российских провайдеров (Selectel, VK Cloud, Yandex Cloud).
  • Пропускная способность с vLLM: 30–50 запросов/сек на двух H100 — это до 4 млн запросов в день.
  • Эксплуатация: 1 DevOps на 0,3–0,5 ставки, мониторинг, обновления моделей — 200–400 тыс. ₽/мес.

Точка безубыточности. Если ваш счёт за облачные API стабильно превышает 150–200 тыс. ₽ в месяц, собственный контур окупается в горизонте 9–15 месяцев. Если нагрузка спайковая (один пик в месяц, остальное время тишина) — облако всё ещё удобнее: вы не платите за простой железа.

«Решение между cloud и on-prem всегда сводится к utilization. При устойчивой загрузке выше 30–40% собственная инфраструктура почти всегда выгоднее по TCO» — типовой вывод из отчётов a16z по экономике AI-инфраструктуры, 2025.

Ось 2. Данные: где облака просто запрещены

Тут начинается зона, где экономика отходит на второй план.

152-ФЗ. Любая обработка персональных данных российских граждан попадает под закон. С 2024 года изменения сделали трансграничную передачу ПДн фактически невозможной без отдельного уведомления Роскомнадзора и согласия субъектов. Передача в OpenAI (юрисдикция США) — это трансграничка по определению. Подробнее — в реестре операторов ПДн на портале Роскомнадзора.

Объекты КИИ. Банки, телеком, энергетика, транспорт, медицина — это 187-ФЗ «О безопасности КИИ». Передача любых данных, связанных с критической инфраструктурой, в зарубежные облака — основание для отзыва лицензии и уголовной ответственности руководителя.

Врачебная, банковская и адвокатская тайна. Каждая регулируется отдельно (323-ФЗ, 395-1, 63-ФЗ соответственно). Все три не оставляют легального пути «отправлять данные пациентов в OpenAI».

Коммерческая тайна и ноу-хау. Формально 98-ФЗ это не запрещает, но любой публичный API сохраняет логи запросов на стороне вендора. Условия OpenAI на 2026 год прямо говорят: данные, переданные через API, могут использоваться для мониторинга злоупотреблений и удерживаются 30 дней. Что считать «злоупотреблением» — определяет OpenAI, а не вы.

Что остаётся. Российские облачные LLM: YandexGPT, GigaChat. Они юридически в РФ и формально соответствуют 152-ФЗ. По качеству они в 2026 году догнали GPT-3.5 на типовых задачах, но всё ещё уступают GPT-4 и Claude на reasoning и длинных контекстах. Для многих задач — нормально, для критичных — нет.

Ось 3. Vendor lock: невидимый счёт

Облачные API кажутся «легко заменяемыми»: переключил endpoint — и всё. На практике переключение стоит дорого по трём причинам.

Промпты. За год работы с GPT-4 у команды накапливается 50–200 хорошо настроенных system-промптов и 1000+ feedback-примеров. Переписать всё под Claude или Llama — 1–2 месяца работы senior-инженера. Каждая модель «слушается» по-своему.

Function calling и tool use. Формат вызова инструментов у OpenAI, Anthropic и Llama-based моделей разный. Если у вас сложный агент с 30+ инструментами, миграция превращается в полноценный refactoring.

История взаимодействий. Логи диалогов, разметка, дообученные классификаторы поверх ответов модели — всё это привязано к конкретному провайдеру. Открытые форматы (OpenAI-compatible API, поддерживаемый vLLM и большинством локальных серверов) частично решают проблему, но не полностью.

Цены и условия. OpenAI меняет тарифы и SLA в среднем раз в 6 месяцев. В 2024 году цена GPT-4 Turbo снижалась четырежды, но в 2025 году появились новые модели с премиальными тарифами и условие «приоритетная очередь только для подписчиков Enterprise». Бизнес, у которого критичный процесс зависит от чужой цены — это бизнес, у которого нет контроля над юнит-экономикой.

Ось 4. Скорость внедрения: где облако очевидно выигрывает

Это редко обсуждаемая, но честная сильная сторона облака:

  • Подключиться к OpenAI API — час работы инженера.
  • Запустить Llama-кластер с vLLM, мониторингом, fallback и rate-limiting — 2–4 недели команды из 2–3 человек.

Если ваша задача — быстро проверить гипотезу, прототип, пилот на 50 пользователях — облако правильный выбор. Не потому что оно «лучше», а потому что вы экономите 3–4 недели, которые сейчас стоят дороже инфраструктуры.

Поэтому в реальной практике даже компании, которые в итоге уезжают на свой контур, начинают с облака. PoC через OpenAI → решение о масштабе → миграция на private — нормальный путь.

Ось 5. Качество ответов: где разрыв ещё есть

Честный список задач, где GPT-4 / Claude 4 / Gemini 2 пока действительно сильнее open-source:

  • Сложные агентные цепочки с 10+ шагами рассуждения. Llama 3.3 на длинных цепочках чаще теряет состояние.
  • Мультимодальность (изображения, аудио). GPT-4o и Claude обрабатывают «из коробки», open-source требует отдельных моделей (Qwen-VL, LLaVA).
  • Редкие языки и узкие домены: юридический английский, медицинская латынь, корейский, иврит. Здесь у проприетарных моделей бо́льший корпус.
  • Reasoning на математике и коде: специализированные модели OpenAI o-серии и Anthropic пока обгоняют open-source аналоги на ~5–10 п.п. на бенчмарках вроде SWE-bench.

На бытовых корпоративных сценариях (саппорт, классификация, RAG по документам, генерация черновиков) разрыв уже неотличим.

Ось 6. Compliance и аудит

Этот пункт часто не замечают на старте — и больно встречают на финише, когда юристы заказчика начинают проверять контракт.

Что нужно для серьёзного B2B-контракта в 2026 году:

  • Договор обработки персональных данных (DPA), где явно указано: данные не покидают периметр заказчика.
  • Сертификация ИБ: ФСТЭК, ISO 27001, SOC 2 — зависит от индустрии.
  • Возможность аудита: журналы запросов, контроль доступа, retention policy.
  • Bring-your-own-key (BYOK) для шифрования.

С OpenAI и большинством зарубежных вендоров эти требования закрываются только в рамках Enterprise-контракта от $100K+/год и при условии работы через специализированный регион (Azure OpenAI Service с резидентностью в ЕС, например). В России — практически невозможно.

С собственным контуром вы изначально владеете всем стеком и контролируете каждый журнал.

Ось 7. Что считать «безопасностью»

«Безопасность» — слово, под которым каждая команда понимает своё. Полезно разобрать на четыре уровня:

  1. Конфиденциальность данных в передаче — закрывается TLS, и у облака, и у on-prem.
  2. Конфиденциальность данных в обработке — у облака это вопрос доверия к вендору (читай: условиям API). У on-prem — вопрос вашего инженера.
  3. Контроль модели: можете ли вы быть уверены, что модель завтра не «забыла» уметь делать то, что умела вчера. С облаком — нет, вендор может выкатить обновление. С on-prem — да, вы фиксируете версию веса.
  4. Контроль данных обучения: попадают ли ваши данные в дообучение модели вендора. OpenAI с 2023 года заявляет, что данные API не используются для тренировки, но без аудита это утверждение проверить нельзя.

Чем критичнее процесс, тем выше нужный уровень. Для саппорта обычным клиентам достаточно уровня 1–2. Для обработки финансовых документов — нужны 3 и 4.

Гибридная архитектура: то, что реально работает

В крупных проектах редко выбирают «только облако» или «только on-prem». Работающая схема обычно выглядит так:

  • Private AI на собственном контуре — для всего, где есть ПДн, коммерческая тайна, медицинские записи, переписка с клиентами, финансовые отчёты.
  • Облачный LLM (OpenAI, Anthropic, Google) — для публичных задач: модерация открытого контента, парсинг open data, эксперименты, A/B-тесты на новых моделях.
  • Роутер на входе — простой классификатор (можно на той же Llama 7B), который смотрит на содержимое запроса и принимает решение, какой модели отдать.

Так вы получаете лучшее из обоих миров: безопасность и контроль на чувствительных данных, скорость и качество последних моделей на публичных задачах.

Чек-лист принятия решения

Если на бо́льшую часть пунктов ответ «да» — вам по-прежнему подходит облако:

  1. У нас нет персональных данных российских граждан в потоке.
  2. Мы не работаем с объектами КИИ или регулируемыми тайнами.
  3. Объём токенов в месяц меньше 5 000 ₽ × количество ассистентов.
  4. Нам критична скорость запуска (счёт идёт на недели, не месяцы).
  5. Мы готовы переключиться на другую модель за 1–2 квартала, если цены изменятся.

Если хотя бы два пункта — «нет», стоит считать TCO своего контура. На горизонте 18 месяцев результат почти всегда в пользу private.

Что в итоге

«Облако дешевле» — миф ровно той части рынка, которая не дошла до серьёзных объёмов и регулируемых данных. Как только проект становится крупным, чувствительным или долгим, экономика и риски разворачиваются в обратную сторону.

Полезно держать в голове три практических правила:

  • Начинайте с облака, если задача быстрая и данные публичные.
  • Считайте TCO на горизонте 18–24 месяцев, не 3.
  • Стройте гибрид. Архитектура «всё в одном поставщике» — это всегда долгосрочный риск.

Если хочется не теоретизировать, а посчитать экономику под конкретный процесс — это та задача, под которую мы делаем экспресс-диагностику за 3–5 дней. Разбираем поток данных, считаем TCO и говорим прямо, окупится у вас private AI или нет.

Читать дальше

Другие статьи

Private AI
Xencom · Блог
Llama 3.3 vs GPT-4: когда open-source LLM реально выгоднее
14 марта 2026 г. 8 минут

Llama 3.3 vs GPT-4: когда open-source LLM реально выгоднее

Разбираем, в каких сценариях open-source модели обходят облачные API по качеству, цене и безопасности — и когда это, наоборот, плохая идея.

Читать
Private AI
Xencom · Блог
Kubernetes для LLM: когда нужен, а когда просто мешает
22 ноября 2025 г. 7 минут

Kubernetes для LLM: когда нужен, а когда просто мешает

Разбираем, в каких случаях Kubernetes реально оправдан для инференса LLM, а когда одного Docker-хоста достаточно — на примере типовых нагрузок.

Читать
AI-юрист
Xencom · Блог
AI-юрист для малого бизнеса в 2026: как работает, для кого и где границы
2 июня 2026 г. 10 минут

AI-юрист для малого бизнеса в 2026: как работает, для кого и где границы

Что такое AI-юрист, чем он отличается от ChatGPT и от обычного юриста, для каких задач реально подходит малому бизнесу и где у него границы. Без рекламы и без обещаний.

Читать

Обсудим ваш AI-проект?

Расскажите о задаче — на 30-минутном звонке подскажем, с чего начать и чего избегать.