ИИ предложил уволить человека. Но сначала людям пришлось напомнить ему его же правила
Но один вопрос из фантастики уже вполне рабочий: сколько решений в бизнесе собственник готов отдать искусственному интеллекту — и кто будет отвечать, если система ошибётся?
Недавно наткнулся на интересную историю из Сан-Франциско. Andon Labs проводит эксперимент с реальным магазином Andon Market. Частью управления занимается ИИ-агент Luna, работающий на моделях Claude. Это не симуляция. Есть магазин, сотрудники, покупатели и обычные операционные задачи.
И в какой-то момент возник вполне обычный для руководителя вопрос — что делать с сотрудником, который систематически опаздывает. Сотрудник опоздал на 17 из 23 смен. ИИ в итоге рекомендовал прекратить с ним работу.
На этом месте легко поставить заголовок: «ИИ начал увольнять людей». И пойти обсуждать восстание машин. Только мне гораздо интереснее то, что произошло до этого решения.
ИИ забыл правила, которые сам же создал
Ранее Luna сформировала правила посещаемости для сотрудников. Но эта информация выпала из её рабочего контекста.
Получилась довольно знакомая управленческая картина:
правило есть;
нарушения есть;
но в момент принятия решения одно с другим не связывается.
Команде Andon Labs пришлось вернуть агента к его же правилам и предложить ещё раз посмотреть на ситуацию. После этого Luna рекомендовала расстаться с сотрудником. Окончательное решение проверяли и реализовывали люди.
Получается интересная конструкция: ИИ участвует в управлении человеком. А человеку приходится контролировать ИИ, который участвует в управлении человеком. И вот сюда я бы смотрел собственнику. Не на громкое слово «уволил». А на то, как вообще было принято решение.
Уберите из этой истории ИИ
Представьте обычную компанию. Когда-то руководитель написал регламент. Положил его в папку. Потом в CRM. Потом ещё куда-нибудь. Сотрудники работают. Возникает проблема. И в нужный момент выясняется, что никто не помнит, что по этому поводу уже было принято решение.
Знакомо? Мне — да. В бизнесе вообще много документов, которые прекрасно существуют до тех пор, пока ими не нужно воспользоваться. Регламенты есть. Скрипты есть. Должностные инструкции есть. CRM есть.
Только управленческий вопрос всегда один:
Система использует всё это тогда, когда нужно принять решение?
Если нет, не так важно, забывает правило человек или нейросеть. Результат примерно один.
ИИ сам по себе систему не создаёт
Вот это, на мой взгляд, сегодня особенно важно. Предприниматели активно внедряют нейросети. И правильно делают. Можно ускорять аналитику. Помогать продажам. Разбирать звонки. Собирать информацию. Работать с базой клиентов. Автоматизировать часть найма. Подготавливать управленческие решения.
Но я бы не путал два процесса:
внедрить ИИ
и
построить систему управления.
Если в компании нет нормальных данных, нейросеть не сделает их качественными одним фактом своего появления. Если правила существуют только в голове собственника, ИИ тоже не обязан о них догадаться. Если никто не понимает, кто проверяет решение, автоматизация не снимает этот вопрос. Она просто делает его менее заметным.
Самая опасная фраза здесь — «так решил ИИ»
Вот её я бы вообще убрал из управленческого словаря. ИИ может дать рекомендацию. Может обратить внимание на отклонение. Может найти то, что человек пропустил. Отлично.
Но дальше я хочу понимать:
на каких данных основан вывод;
какого контекста системе может не хватать;
по каким правилам она оценивает ситуацию;
кто проверяет результат до того, как рекомендация становится действием.
Если ответ один:
«Ну, нейросеть так посчитала»,
для меня это не система.
Это передача решения в чёрный ящик. Передать работу и передать ответственность — разные вещи Допустим, ИИ анализирует ваш отдел продаж. Он видит, что менеджер не возвращается к части клиентов. Подсвечивает это руководителю. Полезно. ИИ находит сделки, которые давно зависли без движения. Тоже полезно. Показывает отклонения от процесса. Отлично. Но дальше возникает управленческое решение.
Почему менеджер так работает?
Это единичный случай или система?
Есть ли информация, которую ИИ не видит?
Нужно менять сотрудника, процесс, контроль или вообще постановку задачи?
Вот здесь ответственность собственника или руководителя никуда не исчезла. Функцию можно передать. Ответственность — намного сложнее. И я бы эту границу не стирал только потому, что технология стала умнее.
История Luna интересна ещё и проблемой памяти
Andon Labs сама отмечала, что память агента оставалась одним из источников ошибок. В частности, Luna могла терять часть предыдущей информации из рабочего контекста, из-за чего возникали противоречия, например при работе с графиками сотрудников. Разработчикам приходилось добавлять дополнительные механизмы памяти и отдельные инструменты для конкретных задач. Для меня здесь очень простой вывод.
Если правило нельзя достать в момент, когда оно нужно, система фактически им не управляет. И опять же — это касается не только ИИ.
Сколько компаний сегодня имеют огромную базу знаний, которой менеджеры не пользуются?
Сколько CRM заполнены данными, на которые никто не смотрит?
Сколько регламентов собственник когда-то утвердил, но никто не проверяет их выполнение?
ИИ здесь не создаёт новую проблему. Он очень хорошо показывает старую.
Я бы начинал внедрение не с вопроса «что ещё отдать нейросети»
Я бы начал с другого:
Что должно быть настроено в компании, чтобы нейросеть могла работать нормально?
Данные?
Правила?
Ответственные?
Точки контроля?
Понятные критерии результата?
Если этого нет, можно очень быстро автоматизировать хаос. Он просто станет технологичнее. В моей практике я вообще сначала смотрю на систему. Где деньги. Где ответственность. Где контроль. Кто принимает решение. На основании каких цифр. И только после этого — чем это можно ускорить. ИИ здесь отличный инструмент. Но инструмент не должен заменять собственнику понимание собственного бизнеса.
Два вопроса перед тем, как дать ИИ больше полномочий
Возьмите любой процесс, который сейчас хотите автоматизировать. Продажи. Найм. Контроль сотрудников. Работу с клиентской базой.
И задайте себе два вопроса:
Каких данных ИИ может не видеть?
И:
Кто заметит ошибку до того, как рекомендация превратится в действие?
Если ответить сложно, я бы пока не увеличивал автономность. Сначала разобрался бы с системой. Потому что ситуация, где человеку каждый раз приходится восстанавливать контекст, искать правила и напоминать их ИИ, пока мало похожа на автономное управление. И в этом нет ничего страшного. Просто нужно правильно понимать, что именно мы сейчас внедряем.
Сара Коннор пока может отдохнуть
Никакого восстания машин в Сан-Франциско не произошло. ИИ не получил бесконтрольную власть над магазином. Наоборот. Люди вернули ему нужный контекст, проверили рекомендацию и реализовали решение сами. Но именно поэтому этот эксперимент мне и кажется полезным для предпринимателей.
Он показывает, где мы находимся сейчас. ИИ уже можно передавать часть реальной работы. Но контроль, контекст и ответственность пока никуда не исчезают.
Поэтому я бы сегодня не спрашивал:
«Заменит ли ИИ руководителя?»
Для бизнеса вопрос практичнее:
Какое решение я уже готов доверить ИИ — и что всё равно должен оставить под контролем человека?
Вот с этого я бы и начинал автоматизацию. Если вам близки темы продаж, управления и системного бизнеса, подписывайтесь на меня. Ниже оставлю ссылки на мои соцсети.
Мои контакты:
Там же есть бесплатная диагностика «Продажи под контролем». За несколько минут можно посмотреть на свою систему продаж со стороны и увидеть, где сейчас стоит проверить цифры, работу менеджеров, контроль и роль собственника.
Пройдите её для себя. Иногда прежде чем внедрять ещё один инструмент, полезнее сначала понять, где именно система уже даёт сбой.