Главное Авторские колонки Пресс-релизы Промо Вакансии Вопросы
arrow-right Created with Sketch. Анна Гречаная 132 0 В избр. Сохранено
Авторизуйтесь
Вход с паролем

Что мы закладываем в смету ИИ-проекта и о чём заказчик обычно не спрашивает

Пилот чат-бота выглядит дёшево, а после него приходят счета за данные, проверку ответов, смену модели и токены. Рассказываем, как команда Фортех считает эти строки заранее.
Мнение автора может не совпадать с мнением редакции

Пилот чат-бота выглядит дёшево, а после него приходят счета за данные, проверку ответов, смену модели и токены. Рассказываем, как команда Фортех считает эти строки заранее.

Пилот ИИ-проекта почти всегда выглядит недорого. Бот за несколько недель научился отвечать по базе знаний, демо прошло хорошо, осталось «чуть доделать». Через полгода оказывается, что запуск стоил заметно дороже пилота, а про ежемесячные расходы на старте никто не говорил.

Команда Фортех (fortech.dev) делает ИИ-решения для бизнеса: ботов, ассистентов, ИИ-цепочки внутри продуктов. Когда мы считаем смету, в ней всегда есть строки, о которых заказчик на первой встрече не спрашивает. Дело не в невнимательности: на пилоте эти расходы почти не видны. Ниже четыре такие строки и способы прикинуть их до подписания договора.

Почему пилот дешевле продукта

Пилот дешевле, потому что его делают в тепличных условиях. Небольшая выгрузка документов, вопросы, которые придумала сама команда, одна модель и пара тестировщиков. В продукте документы противоречат друг другу, люди спрашивают совсем не так, как ожидали, нагрузка растёт, а провайдер модели выпускает новую версию.

Каждое из этих отличий стоит денег, и в смете пилота их нет. Поэтому, когда мы делаем внедрение ИИ в бизнес-процессы, в оценке отдельно написано, что относится к пилоту, а что к запуску. Иначе две цифры начинают сравнивать напрямую, и вторая кажется завышенной.

Строка первая: подготовка данных

Модель отвечает настолько хорошо, насколько хороши документы, на которые она опирается. Для пилота берут чистый набор. В продукте приходится работать с тем, что у компании лежит на самом деле: регламенты в трёх версиях, ответы поддержки в переписке, прайс в таблице, которую правят вручную, сканы договоров.

Что входит в эту работу:

  • собрать источники и решить, какой из них главный, когда они расходятся;
  • убрать дубли, устаревшие версии и персональные данные;
  • настроить обновление, чтобы новый регламент попадал в базу без ручной загрузки;
  • назначить у заказчика человека, который отвечает за актуальность каждого источника.

Последний пункт забывают чаще всего, хотя он важнее остальных. Без владельца данных база тихо устаревает, и бот начинает уверенно цитировать отменённые правила.

Для ориентира по масштабу: «Яндекс Такси» построил ИИ-агента поддержки на четырёх моделях, дообученных на обезличенных диалогах операторов. Обезличить и подготовить такой массив диалогов сама по себе серьёзная задача. У средней компании объём меньше, но работа того же рода.

Как оценить заранее: покажите подрядчику реальные выгрузки до сметы, а не их описание в брифе. Пара часов на настоящих файлах скажет больше, чем созвон.

Строка вторая: проверка качества ответов

На демо качество оценивают на глаз: задали десять вопросов, ответы понравились. В продукте нужен способ понять, что бот отвечает правильно сегодня и не стал отвечать хуже после очередной правки.

Мы закладываем:

  • эталонный набор вопросов с правильными ответами, который собирают вместе с экспертами заказчика;
  • автоматический прогон этого набора после каждого изменения промптов, данных или модели;
  • журнал диалогов и выборочную проверку человеком: где ответ неверный, где бот выдумал, где отказал зря;
  • список тем, о которых бот молчит: цены без согласования, юридические обещания, медицинские советы.

Самая затратная часть здесь время экспертов со стороны заказчика. Правильные ответы может написать только тот, кто знает предмет: юрист, старший оператор поддержки, продакт. Если их часов нет в плане, проект застревает на приёмке. Как принять бота, если никто заранее не договорился, что считать хорошим ответом?

Как оценить заранее: до старта договоритесь, какая доля правильных ответов на эталонном наборе считается приемлемой и кто из ваших сотрудников выделит время на разметку.

Строка третья: поддержка и смена модели

ИИ-решение нельзя запустить и забыть, как сайт-визитку. Провайдеры выпускают новые версии моделей, выводят старые из работы, меняют тарифы и лимиты. Новая версия на тех же данных может отвечать иначе: длиннее, осторожнее, в другом формате. Если интеграция ждала ответ определённого вида, она ломается.

Бывают и внешние причины переехать. 6 октября 2026 года Михаил Мишустин сказал, что правительство определит случаи, когда в критически значимой инфраструктуре и других чувствительных сферах можно будет использовать только суверенные или национальные модели. Нормы начнут действовать с 1 марта 2027 года, конкретные сферы пока не названы. Компании из таких отраслей переезд лучше держать в смете как вероятный сценарий.

Что мы закладываем на этот случай:

  • прослойку между продуктом и моделью, чтобы смена провайдера сводилась к настройке и доработке промптов;
  • прогон эталонного набора из второй строки на новой модели до переключения;
  • ежемесячные часы команды на мониторинг, разбор жалоб пользователей и обновление промптов.

Как оценить заранее: спросите подрядчика, сколько займёт переезд на другую модель и что для него уже предусмотрено в архитектуре. Если ответ звучит как «перепишем», это расход, которого нет в смете.

Строка четвёртая: токены и инфраструктура

На пилоте счёт за модель почти незаметен: пользователей мало, вопросы короткие. В продукте расход растёт с каждым пользователем и ещё сильнее с длиной контекста. Бот, который подтягивает в каждый ответ несколько страниц документов, тратит заметно больше токенов, чем бот с короткими справками.

К токенам добавляются хранилище для поиска по документам, логи диалогов, резервирование. Если данные нельзя отправлять внешнему провайдеру, модель разворачивают на своих серверах, и тогда в смете появляются видеокарты и их обслуживание.

Как оценить заранее: возьмите логи пилота. Средний расход токенов на диалог умножьте на ожидаемое число диалогов в месяц и на тариф выбранной модели, добавьте запас на рост. Пилот даст нижнюю границу, реальный трафик часто выше. Снизить счёт помогают кеш для повторяющихся вопросов и маршрутизация: простые запросы уходят на модель поменьше, сложные на большую.

История из проекта

Команда Фортех делала платформу для продавцов на Ozon и Wildberries: CRM для товаров и конструктор ИИ-цепочек на базе Dify. Пользователи платят за работу ИИ токенами, так что расход модели здесь сразу стал частью продукта и тарифной сетки, а не строкой в счёте подрядчика.

Команда с нуля спроектировала бэкенд из нескольких сервисов с очередями, кешем и единой обработкой ошибок, настроила приём вебхуков от парсера с проверкой подписи. В продукте, где каждый запрос к модели стоит денег, такие вещи работают и на экономику: повторный запрос не оплачивается дважды, а пик нагрузки встаёт в очередь и не превращается в сбой.

Что спросить у подрядчика до подписания сметы

  1. Какие наши источники данных вы смотрели и сколько работы с ними заложено?
  2. Как будем измерять качество ответов и кто с нашей стороны готовит эталонный набор?
  3. Что произойдёт, если провайдер выведет модель из работы или поднимет тариф?
  4. Сколько будет стоить месяц работы при нашей нагрузке и на каких данных построен расчёт?
  5. Что входит в ежемесячную поддержку после запуска и сколько она стоит?

Если смета ИИ-проекта у вас уже на руках, пройдитесь по ней с этими пятью вопросами. Каждый вопрос без ответа в документе подскажет, где после пилота появится незапланированный счёт.

0
В избр. Сохранено
Авторизуйтесь
Вход с паролем