Германия готовит меры для борьбы с вредоносной генерацией изображений с помощью ИИ

В фокусе внимания — ИИ‑чатбот Grok, встроенный в соцсеть X Илона Маска, функции которого используются для создания сексуализированных изображений, в том числе с участием женщин и детей, зачастую без их согласия. Эти случаи привлекли внимание европейских властей и экспертов.

Министр по делам СМИ Германии ранее призывал Европейскую комиссию принять юридические меры, чтобы остановить то, что он назвал «индустриализацией сексуального домогательства» на платформе X.

Представитель министерства подчеркнул, что массовые манипуляции цифровыми изображениями недопустимы, и заявил о необходимости усилить уголовное законодательство, чтобы эффективнее пресекать такие нарушения. В рамках планируемых мер может появиться закон, направленный на регулирование deepfake‑технологий и защиту жертв цифрового насилия, а также предоставить людям более прямые механизмы защиты своих прав в интернете.

Конкретные предложения правительство представит в ближайшее время, но пока подробности не раскрываются.

В ответ на критику разработчики Grok из компании xAI ограничили функцию генерации изображений только для платных подписчиков, а Илон Маск предупредил, что пользователи, создающие незаконный контент, столкнутся с теми же юридическими последствиями, что и за прямую публикацию подобных материалов.