Google, Microsoft и xAI допустят власти США к тестированию своих AI-моделей
Главная цель проекта — оценка потенциальных рисков передовых AI-систем. Правительство США усиливает давление на индустрию после того, как генеративный ИИ начал стремительно проникать в экономику, образование, медиа и государственные структуры.
В последние два года власти многих стран начали опасаться неконтролируемого развития AI-технологий. Основные вопросы касаются безопасности моделей, генерации дезинформации, киберугроз, автоматизации атак и потенциальной потери контроля над сверхмощными системами.
Согласно предварительной информации, компании позволят специалистам американских ведомств проводить стресс-тесты моделей, анализировать ограничения безопасности и оценивать устойчивость систем к злоупотреблениям. Речь идет не только о чат-ботах, но и о более продвинутых мультимодальных AI-системах.
Особый интерес вызывает участие xAI — компании Илона Маска. Ранее Маск неоднократно критиковал подход крупных AI-компаний к безопасности искусственного интеллекта и предупреждал о потенциальных рисках сверхразумного ИИ. Теперь его собственная компания также становится частью государственного контроля.
Google и Microsoft уже давно активно взаимодействуют с американскими властями по вопросам AI-регулирования. Компании понимают, что государственное давление на отрасль будет только усиливаться, поэтому пытаются участвовать в формировании будущих правил игры.
Эксперты считают, что это только начало глобального регулирования искусственного интеллекта. Европейский союз уже продвигает собственный AI Act, а США постепенно переходят от добровольных соглашений к более жестким механизмам контроля.
В индустрии существуют опасения, что чрезмерное регулирование может замедлить инновации. Однако сторонники контроля считают, что развитие сверхмощных AI-моделей без надзора может привести к серьезным последствиям для общества и экономики.
Особенно остро стоит проблема национальной безопасности. Военные и разведывательные ведомства все активнее изучают применение ИИ для анализа данных, автоматизации операций и кибербезопасности. Именно поэтому правительства стремятся получить больше контроля над крупнейшими AI-системами еще до появления более мощных поколений моделей.
Многие аналитики уверены, что в ближайшие годы взаимодействие AI-компаний и государств станет одним из ключевых факторов развития всей индустрии.