Как внедрять ИИ без проблем с законом: что нужно предусмотреть бизнесу

Автор статьи: Владимир Белозеров, заместитель коммерческого директора KODE

ИИ всё активнее используется в поддержке, маркетинге, найме, финансах и других бизнес-процессах. Вместе с возможностями растут и риски: модель может придумать факт о человеке, воспроизвести дискриминацию из обучающих данных, раскрыть чувствительную информацию или принять решение, которое компания потом не сможет объяснить клиенту.

И здесь важно понимать главное: если бизнес использует ИИ в своём продукте или процессе, то ответственность нельзя переложить на алгоритм.

Поэтому до внедрения стоит думать не только о качестве модели, но и о персональных данных, прозрачности, человеческом контроле, безопасности и возможности исправить ошибку.

Какие риски ИИ уже проявляются на российском рынке

ИИ-продукт может просто не выполнить обещанную задачу

Первый риск гораздо прозаичнее галлюцинаций: компания платит за AI-решение, но получает продукт, который нельзя нормально использовать.

В 2026 году Невский районный суд Санкт-Петербурга рассматривал спор вокруг разработки чат-бота на базе ИИ. Заказчик заплатил за сервис 210 тыс. рублей, но во время тестирования обнаружил ошибки и несоответствие ожидаемому функционалу. Суд пришёл к выводу, что разработчик не доказал возможность использовать продукт по назначению, и взыскал в пользу заказчика 652,5 тыс. рублей с учётом возврата оплаты, неустойки, компенсации и штрафа.

Для бизнеса здесь важен не размер конкретной суммы, а сам принцип: AI в договоре не отменяет обычных требований к качеству IT-продукта. До начала проекта нужно зафиксировать, что именно должна делать система, на каких данных её проверяют, какая точность считается приемлемой и по каким критериям заказчик принимает результат.

Сотрудники могут сами отправлять конфиденциальные данные в публичные нейросети

Один из наиболее практических рисков для российского бизнеса сегодня связан не со сложными атаками, а с обычным использованием публичных AI-сервисов сотрудниками.

В 2026 году Бабушкинский районный суд Москвы признал законным увольнение директора по продажам ГК «ЭнергоПроф». Среди выявленных нарушений была загрузка сведений, составляющих коммерческую тайну, в DeepSeek. При рассмотрении дела учитывалось, что в компании был установлен режим защиты конфиденциальной информации и сотрудница была с ним ознакомлена.

При этом проблема гораздо шире одного кейса. ГК «Солар» проанализировала 12 тыс. взаимодействий сотрудников крупных российских компаний с публичными AI-сервисами в первом полугодии 2026 года. В 38% случаев запросы содержали конфиденциальную информацию: исходный код и конфигурации, персональные и финансовые данные, сведения об интеллектуальной собственности.

Поэтому компании недостаточно просто сказать сотрудникам: «не загружайте документы в нейросеть». Нужна понятная политика: какими AI-сервисами можно пользоваться, какую информацию разрешено туда отправлять, какие данные запрещены и когда сотрудник обязан использовать корпоративный защищённый инструмент.

Пользователь должен понимать, когда с ним общается алгоритм

AI всё чаще используется там, где раньше клиент взаимодействовал с человеком: в поддержке, продажах, скоринге, взыскании задолженности. И здесь появляется вопрос о том, насколько прозрачно компания использует автоматизацию.

Российские суды уже разбирали споры вокруг использования роботизированных систем при взаимодействии с должниками. В одном из дел суд оценивал использование банком автоматизированного голосового агента и то, были ли соблюдены требования законодательства к такому способу общения.

Само российское регулирование также движется в сторону большей прозрачности. Банк России рекомендует финансовым организациям информировать клиента о взаимодействии с ИИ и предоставлять возможность переключиться на сотрудника. По данным регулятора на март 2026 года, этой рекомендации уже следовали более 80% финансовых организаций, постоянно использующих ИИ.

Для бизнеса отсюда следует простой принцип: если клиент считает, что разговаривает с человеком, хотя на самом деле решение принимает или ответ формирует AI, то это создаёт лишний юридический и репутационный риск.

Сгенерированный контент может вводить покупателя в заблуждение

Ещё один сценарий особенно актуален для e-commerce. Генеративный ИИ позволяет быстро создавать описания, рекламные материалы и изображения товаров. Но чем дальше сгенерированная картинка от реального продукта, тем выше риск, что покупатель сформирует неправильные ожидания.

В 2026 году вопрос дошёл до Минэкономразвития. В обращении к ведомству отдельно отмечалось, что на российских маркетплейсах распространяются карточки с созданными нейросетями изображениями, которые могут существенно искажать представление покупателя о товаре. Министерство сообщило, что вопрос специального регулирования таких карточек будет рассматриваться с учётом практики применения нового законодательства о платформенной экономике.

Это хороший пример того, почему AI-контент нельзя оценивать только по критерию «красиво получилось». Если изображение или описание влияет на решение о покупке, то компания должна проверять, соответствует ли оно реальному товару и не вводит ли потребителя в заблуждение.

Автоматизированное решение не снимает ответственность с компании

Особенно чувствительная область — финансы, где AI давно используется в скоринге, антифроде и других автоматизированных процессах. Банк России прямо указывает: применение ИИ не освобождает финансовую организацию от ответственности за нарушение прав клиента. Регулятор рекомендует предусматривать возможность пересмотра решения, принятого с использованием AI, сотрудником компании.

Отдельно Кодекс этики Банка России закрепляет принцип справедливости: финансовым организациям рекомендуется не использовать дискриминационные факторы и следить за тем, чтобы сами наборы данных не создавали необоснованной дискриминации.

Если автоматизированная система влияет на кредит, тариф, блокировку операции или другой значимый для клиента результат, то компания должна понимать, на каких данных строится решение, уметь его проверить и иметь процедуру работы с ошибками.

Что объединяет эти примеры

Большинство рисков выглядит гораздо менее фантастично, чем истории про «ИИ, вышедший из-под контроля». Сотрудник загрузил внутренний документ в публичный чат-бот. Разработчик не зафиксировал критерии качества AI-сервиса. Нейросеть сделала привлекательную, но недостоверную карточку товара. Компания автоматизировала взаимодействие с клиентом, но не объяснила, где заканчивается алгоритм и начинается человек. Именно такие ситуации российскому бизнесу сейчас важнее учитывать в первую очередь.

Проблема обычно не в том, что ИИ неожиданно сделал что-то невероятное, а в том, что компания не определила заранее, какие данные ему можно передавать, какие решения разрешено принимать, кто проверяет результат и кто отвечает, если система ошибётся.

Как регулируют ИИ в разных странах

Единого подхода к регулированию искусственного интеллекта в мире пока нет. Где-то вводят отдельный закон об ИИ, где-то используют существующие нормы о персональных данных, защите потребителей и дискриминации, а отдельные отрасли регулируют самостоятельно.

В Евросоюзе действует AI Act, построенный на риск-ориентированном подходе: чем сильнее система может повлиять на права и безопасность человека, тем строже требования. Часть наиболее опасных практик запрещена, для высокорисковых систем предусмотрены отдельные требования, а с 2 августа 2026 года действуют правила прозрачности для ряда AI-сервисов. Например, пользователь в предусмотренных законом случаях должен понимать, что общается с ИИ, а сгенерированный или изменённый контент должен маркироваться. Параллельно на работу с персональными данными распространяется GDPR.

В США единого федерального закона, аналогичного европейскому AI Act, нет. ИИ регулируется через уже действующие правила о защите потребителей, конфиденциальности и недопустимости дискриминации, а также законы отдельных штатов и отраслей. NIST разработал добровольный AI Risk Management Framework, который помогает компаниям выявлять и контролировать риски AI-систем.

В Китае действуют специальные правила для генеративного ИИ. Временные меры по управлению генеративными AI-сервисами регулируют сервисы, доступные широкой публике, и устанавливают требования к безопасности, персональным данным и генерируемому контенту. В 2026 году вступили в силу дополнительные правила для сервисов, имитирующих человеческое общение.

Для российского бизнеса международные правила особенно важны, если продукт работает с пользователями или данными за пределами России. Но если говорить о внутреннем рынке, основная часть требований формируется российским законодательством.

Что происходит с регулированием ИИ в России

До недавнего времени в России не было отдельного федерального закона, который бы системно регулировал непосредственно технологии ИИ. Компании в первую очередь должны были соблюдать уже существующие требования к персональным данным, информационной безопасности, защите потребителей и другие отраслевые нормы.

В 2026 году регулирование стало более предметным. Был принят Федеральный закон № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации». Основная часть его положений действует с 1 сентября 2026 года. Закон вводит понятия искусственного интеллекта и больших фундаментальных моделей, устанавливает общие принципы их регулирования, а также отдельные требования для суверенных и национальных моделей и правила, связанные с маркировкой создаваемых с их помощью материалов.

При этом 243-ФЗ нельзя воспринимать как полный аналог европейского AI Act, который регулирует практически весь спектр AI-систем по уровню риска. Российский закон в значительной степени сосредоточен именно на больших фундаментальных моделях, поэтому для конкретного AI-продукта по-прежнему нужно смотреть и на другие нормы.

Например, если система работает с персональными данными, действуют требования законодательства об их обработке и защите. Если ИИ используется в финансовой организации, появляются дополнительные отраслевые рекомендации.

Банк России придерживается риск-ориентированного и технологически нейтрального подхода. Для финансового рынка действует Кодекс этики применения ИИ, а в июне 2026 года регулятор выпустил отдельные методические рекомендации по информационной безопасности при разработке и применении искусственного интеллекта. В сентябре Банк России также опубликовал сборник практик применения своего Кодекса этики.

Даже если для конкретного сценария пока нет отдельной нормы с названием «про искусственный интеллект», на него могут распространяться требования к персональным данным, безопасности, рекламе, защите потребителей, интеллектуальной собственности или конкретной отрасли.

Что это означает для бизнеса

Юридический риск зависит не столько от того, какая нейросеть используется, сколько от того, для чего именно она используется. ИИ, который помогает сотруднику переписать внутреннее письмо, и система, которая автоматически отказывает человеку в кредите, требуют совершенно разного уровня контроля. Поэтому до запуска полезно пройти несколько проверок.

1. Определите, какие решения ИИ имеет право принимать

Сначала нужно описать границы системы.

Что она только рекомендует?

Что может делать автоматически?

В каких случаях результат обязательно проверяет человек?

Что произойдёт, если модель не уверена в ответе?

Чем выше последствия решения для клиента, тем важнее возможность человеческого вмешательства.

Например, если AI-система участвует в кредитном скоринге, у компании должна быть возможность проверить решение и объяснить его логику в объёме, которого требует применимое регулирование.

Банк России в своих рекомендациях для финансового рынка отдельно говорит о возможности пересмотра решений, принятых с применением ИИ, сотрудником организации.

2. Разберитесь с данными до обучения или интеграции

Нужно понимать:

• откуда получены данные;
• есть ли право использовать их в выбранной задаче;
• содержат ли они персональную или чувствительную информацию;
• насколько они полны и актуальны;
• нет ли в них систематической предвзятости;
• кто отвечает за их качество.

Если компания использует стороннюю AI-модель, то нужно отдельно проверить, какие данные ей передаются и что с ними происходит после отправки. Принцип здесь простой: не передавать модели больше информации, чем действительно необходимо для решения задачи.

3. Не оставляйте AI-комплаенс только юристам

Юридический отдел не сможет самостоятельно исправить систему, если ограничения не заложены в продукт. Комплаенс должен превращаться в технические требования:

• какие данные запрещено отправлять модели;
• какой контент нужно блокировать;
• когда требуется предупреждение пользователя;
• какие действия логируются;
• где обязательна ручная проверка;
• как можно удалить или исправить данные.

Поэтому в таких проектах юристы, разработчики, безопасность, продуктовая команда и бизнес должны работать вместе.

4. Предупреждайте пользователя, когда это необходимо

Человек должен понимать, когда перед ним AI-система, особенно если она общается с ним напрямую или создаёт контент, который можно принять за человеческий. Это не только вопрос этики.

В ЕС подобные требования уже предусмотрены AI Act для ряда сценариев, а Банк России рекомендует финансовым компаниям информировать клиентов об использовании ИИ и давать возможность переключиться на сотрудника.

5. Документируйте работу системы

Для серьёзного AI-продукта важно сохранять не только код.

Нужны:

• описание назначения системы;
• источники и характеристики данных;
• ограничения модели;
• результаты тестирования;
• известные риски;
• версии моделей;
• изменения настроек;
• журнал критичных действий.

Документация нужна не ради отчёта. После ошибки компания должна иметь возможность восстановить цепочку событий и понять, почему система выдала конкретный результат.

6. Проверяйте модель не только на точность

Средняя точность на тестовой выборке мало говорит о рисках реального использования.

Стоит отдельно проверять:

• дискриминационные результаты;
• галлюцинации;
• нестандартные запросы;
• попытки обойти ограничения;
• утечки данных;
• работу с чувствительными темами;
• сценарии намеренного злоупотребления.

Особенно важно тестировать случаи с высокой ценой ошибки, даже если они происходят редко.

7. Продумайте, что делать после ошибки

Заранее нужно понимать:

• как остановить опасный сценарий;
• как откатить изменение;
• можно ли исправить или удалить данные;
• кто принимает решение об отключении функции;
• как уведомляются пострадавшие пользователи;
• как проводится расследование;
• что меняется, чтобы ошибка не повторилась.

Если план появляется только после инцидента, реакция почти всегда обходится дороже.

8. Защитите сотрудников от случайных утечек

Одним из слабых мест AI-безопасности становится не сама модель, а пользователь. Сотрудник может скопировать во внешний чат-бот персональные данные клиента, финансовый документ, коммерческую тайну или фрагмент внутреннего кода.

Поэтому компании нужны понятные правила:

• какими сервисами можно пользоваться;
• какие данные туда разрешено отправлять;
• какие сценарии запрещены;
• когда нужен корпоративный защищённый инструмент;
• кто отвечает за исключения.

Одной формулировки «не отправляйте конфиденциальные данные в ChatGPT» обычно недостаточно. Правила должны быть встроены в реальные рабочие процессы.

9. Не убирайте человека из процесса просто ради автоматизации

Human in the Loop особенно важен там, где решение влияет на деньги, здоровье, работу, права или безопасность человека. ИИ может подготовить рекомендацию, отфильтровать поток, выделить подозрительные случаи или собрать информацию. Но у сотрудника должна оставаться возможность проверить результат и вмешаться. Это одновременно снижает юридические, продуктовые и репутационные риски.

Короткий чек-лист перед запуском AI-продукта

Перед выходом в продакшн стоит проверить:

1. Понятна цель использования ИИ и границы его полномочий?
2. Известно происхождение данных и есть ли право их использовать?
3. Не получает ли модель лишние персональные или конфиденциальные сведения?
4. Проверялась ли система на дискриминацию, галлюцинации и опасные ответы?
5. Понимает ли пользователь, когда взаимодействует с ИИ?
6. Определены ли случаи обязательной передачи решения человеку?
7. Можно ли восстановить историю критичного решения?
8. Есть ли возможность быстро отключить функцию или откатить изменение?
9. Определено, кто отвечает за инцидент?
10. Следит ли компания за изменениями регулирования после запуска?

Если на часть вопросов ответа пока нет, проблема не обязательно в самой технологии. Скорее всего, проект ещё не готов к безопасному промышленному использованию.

Главное

Внедрение ИИ — это уже не только задача разработчиков. Как только модель начинает работать с клиентскими данными, создавать публичный контент или участвовать в решениях, влияющих на человека, проект одновременно становится юридическим, этическим и управленческим.

Поэтому безопасный AI-продукт начинается с понятных границ: какие данные получает система, какие решения ей разрешено принимать, где нужен человек, что фиксируется и что компания сделает, когда модель ошибётся.

Законодательство будет продолжать меняться. Но эти принципы позволяют снизить риски уже сейчас — независимо от того, какой именно AI-инструмент использует бизнес.