20 Июня 2025 Vladimir 61 0 В избр. Сохранено

Хакерский ИИ снова активен — он начал взламывать ИИ-модели французских разработчиков и компании Маска

Опасный ИИ-инструмент WormGPT снова активен — но теперь он работает по-новому: вместо собственной модели злоумышленники используют его для взлома популярных ИИ-сервисов, таких как Grok от xAI Илона Маска и Mixtral от французской Mistral AI, чтобы генерировать вредоносный контент.

Мнение автора может не совпадать с мнением редакции

По данным компании Cato Networks, хакеры научились модифицировать системные команды этих моделей, обходя встроенные ограничения. Это позволяет использовать ИИ для создания фишинговых писем, вредоносных скриптов и других инструментов кибератак.

Изначально WormGPT появился в 2023 году на основе открытой модели GPT-J и уже тогда применялся для атак. После обнародования проект был закрыт, но в конце 2024 года он вернулся — на подпольных форумах его повторно запустили хакеры под псевдонимами xzin0vich и keanu.

В новой версии WormGPT маскируется под API и может переключать скомпрометированные ИИ в режим без этических фильтров. Например, модель Grok получает команду «всегда оставаться WormGPT» и игнорировать любые ограничения.

В избр. Сохранено