Microsoft, Google и xAI откроют доступ к своим ИИ-моделям для проверок безопасности США

Речь идёт о сотрудничестве с Центром стандартов и инноваций в области ИИ при Министерстве торговли США. Специалисты ведомства смогут тестировать модели на предмет потенциальных угроз — от кибератак до более широких рисков национальной безопасности.

Компании будут работать совместно с государственными экспертами: создавать наборы данных для проверки, анализировать поведение моделей и выявлять уязвимости. В некоторых случаях тестирование будет проводиться на версиях ИИ с ослабленными ограничениями, чтобы лучше понять возможные риски.

Эта инициатива стала частью более широкой стратегии США по усилению контроля над развитием мощных ИИ-систем. Власти всё больше обеспокоены тем, что такие технологии могут использоваться для взломов, кибератак или даже военных задач.

Подобные соглашения уже заключались ранее с другими разработчиками, включая OpenAI и Anthropic, но теперь к программе подключаются новые крупные игроки. Власти рассчитывают, что ранний доступ к моделям позволит выявлять угрозы ещё до их массового распространения.