Как искусственный интеллект применяется в экономической безопасности?

В условиях современной национальной экономики, которая сталкивается с высокой степенью неопределенности, важнейшую роль играет внедрение инновационных риск-ориентированных подходов для построения системы экономической безопасности. Одним из таких подходов является использование искусственного интеллекта. ИИ открывает широкие возможности в этой области, предоставляя инновационные инструменты для мониторинга, анализа и предотвращения нарушений.

Больше статей, новостей и проектов на тему ИИ в TG-канале BPA — https://t.me/bpa_tech

Доступ к ИИ открыт для широкого круга пользователей, включая малый и средний бизнес. На сегодняшний день в России более 40% организаций уже находятся на стадии внедрения ИИ в разные бизнес-функции. По прогнозам совокупный экономический потенциал ИИ в России к 2028 году может достигнуть 22–36 трлн рублей, а фактический эффект — от 4,2 до 6,9 трлн рублей, что может составить до 4% от ВВП. Около 70% этого потенциала сосредоточено в шести ключевых отраслях для российской экономики: транспорт и логистика, банковская сфера, ритейл, добыча полезных ископаемых, производство потребительских товаров и ИТ.

Ожидаемый финансовый эффект от внедрения ИИ для экономики России, трлн руб. в год представлен на рисунке 1.

Рис. 1. Источник: составлено автором по исследованию рынка искуственного интеллекта в России 2023 от Яков Партнёры и Яндекс.

Как работает ИИ для экономической безопасности?

ИИ в сфере безопасности анализирует большие массивы данных из различных источников, чтобы распознавать типичные модели поведения в компании, такие как время и место доступа сотрудников, объемы сетевого трафика, а также устройства и облачные сервисы, которые они используют. Освоив нормальные паттерны, ИИ может выявлять необычную активность, которая требует внимания. При этом конфиденциальные данные остаются внутри организации и не передаются другим компаниям.

ИИ обучается на данных с помощью алгоритмов машинного обучения, адаптируясь к новой информации. Когда генеративный ИИ обнаруживает известные угрозы (например, вредоносные программы), он помогает интерпретировать угрозу, создавая описание или визуализацию происходящего.

Хотя люди остаются основными участниками в области обеспечения безопасности компаний, ИИ помогает повысить эффективность обнаружения и устранения угроз.

Использование новейших технологий становится особенно актуально в настоящее время, когда количество кибератак на российскую инфраструктуру кратно выросло.

Во II квартале 2024 года было зарегистрировано 381 тыс. событий информационной безопасности (ИБ), что на 17% больше, чем в предыдущем квартале. Это указывает на нарастающую активность угроз в киберпространстве и необходимость постоянного усиления мер безопасности. Рост инцидентов на 20% в сравнении с концом 2023 года говорит о том, что злоумышленники усиливают атаки, чтобы нанести максимальный ущерб инфраструктурам российских компаний.

При этом согласно исследованию, компании становятся более готовыми к предотвращению угроз. Статистика по количеству инцидентов представлена на рис. 2.

Рис. 2. Источник: составлено автором по исследованию кибератак на российские компании во II квартале и I полугодии 2024 года от Solar JSOC

ИИ уже сегодня способен выполнять разбор инцидентов, проводить анализ, обнаруживать и реагировать на инциденты.

Технологии ИИ в области безопасности играют важную роль в автоматизации рутинных операций, что особенно актуально на фоне дефицита квалифицированных специалистов по информационной безопасности. Спрос на таких профессионалов значительно превышает предложение на рынке труда. В ответ на эту проблему разработчики ИБ-систем активно создают решения, которые позволяют сократить нагрузку на сотрудников. ИИ способен обрабатывать огромные объемы данных, распознавать угрозы и автоматически реагировать на инциденты, освобождая время специалистов для решения более сложных и критически важных задач.

Так, ИИ в экономической безопасности помогает:

· Быстрее обнаруживать различные виды угроз, как внешние, так и внутренние. Он помогает определять поведение, которое может указывает на потенциальную угрозу в совокупности с другими анализируемыми факторами, даже если отдельно взятое событие подозрительным не выглядит.

· Упрощать отчетность. С помощью BI-систем искусственный интеллект собирает данные из разных источников, обрабатывает их и предоставляет в наглядном виде. Отчеты формируют автоматически и являются наглядными и удобными для изучения.

· Выявлять уязвимости. ИИ помогает находить потенциальные угрозы, включая неавторизованные устройства и приложения, устаревшие операционные системы и незащищенные конфиденциальные данные.

· Повышать эффективность анализа угроз. Опытные злоумышленники часто стремятся скрыть свои действия, меняя устройства, приложения и инфраструктуру. ИИ, обрабатывая большие объемы данных из разных источников, помогает распознать подозрительную активность и выделить приоритетные угрозы, требующие особого внимания специалистов по безопасности.

Одним из успешных примеров применения ИИ для повышения экономической безопасности можно рассмотреть кейс компании BPA, которая внедрила интеллектуальную систему контроля рабочего места (ИСКРМ) для оптимизации работы и предотвращения несанкционированного доступа к критически важной инфраструктуре. Система была разработана для мониторинга активности сотрудников на рабочих местах. Она отслеживает, сколько времени сотрудники проводят за своими рабочими местами, фиксирует аномальные поведения, такие как длительное отсутствие или попытки несанкционированного доступа. ИСКРМ анализирует данные о работе сотрудников и своевременно выявляет действия, которые могут указывать на потенциальную угрозу, например, попытки получить доступ к неавторизованным зонам компании или серверам.

Искусственный интеллект системы использует алгоритмы машинного обучения для построения профилей сотрудников, учитывая поведенческие паттерны и время работы. При выявлении несоответствий система автоматически оповещает службу безопасности, что позволяет оперативно реагировать на потенциальные угрозы и предотвращать возможные инциденты, например, несанкционированные входы в центры обработки данных (ЦОД). Искусственный интеллект активно используется в кибербезопасности, в том числе в SIEM-системах, выполняя широкий спектр задач на разных уровнях защиты — от обнаружения угроз на устройствах до оценки рисков и ранжирования событий безопасности. Одним из ключевых направлений сегодня — внедрение генеративного ИИ, особенно крупных языковых моделей (LLM). Эти модели, способные обрабатывать неструктурированные данные и генерировать текст, значительно упрощают работу специалистов: они помогают в анализе отдельных инцидентов и создают подробные отчеты по угрозам. ИИ в экономической безопасности — это не только удобный инструмент для автоматизации, но и важный элемент стратегии защиты, способный кардинально изменить подход к управлению рисками. Использование интеллектуальных систем для мониторинга активности сотрудников может существенно снизить риски, связанные с несанкционированными действиями, и оптимизировать работу службы безопасности. В условиях растущих угроз ИИ становится необходимым инструментом для компаний, стремящихся обеспечить экономическую безопасность и сохранить конкурентоспособность.

Автор: Александр Сизов, генеральный директор компании BPA