Политика
Правительство США теперь будет тестировать безопасность моделей Google, Microsoft и xAI перед их выпуском
Министерство торговли США заключило соглашения с Google DeepMind, Microsoft и xAI о проверке передовых моделей ИИ перед их публичным выпуском — значительный сдвиг по сравнению с предыдущим безучастным подходом администрации Трампа.
Майкл С.
Администрация Трампа сделала значительный поворот в вопросах надзора за ИИ. Министерство торговли США достигло соглашений с Google DeepMind, Microsoft и xAI о проверке ранних версий их новых моделей ИИ до их публичного выпуска — шаг, который сигнализирует о том, что администрация больше не довольна полностью пассивным подходом к передовому ИИ.
Соглашения были подтверждены преемником нового Института безопасности ИИ при Министерстве торговли, CAISI, который будет проводить проверки. Эта новость появилась вместе с отдельными сообщениями о том, что Белый дом изучает возможность издания исполнительного указа, который потребует от моделей ИИ проходить проверку безопасности перед коммерческим выпуском.
Тихий политический сдвиг
Значение этого шага заключается в контексте. Когда администрация Трампа вступила в должность, она в значительной степени разрушила рамочную систему безопасности ИИ эпохи Байдена, отменив исполнительный указ октября 2023 года и изначально сигнализируя, что регулирование ИИ будет минимальным. Новые соглашения предполагают, что эта позиция эволюционировала — как утверждают источники, под влиянием вопросов национальной безопасности, а не защиты прав потребителей.
Конкретная озабоченность заключается в следующем: противники могут использовать уязвимости передовых моделей ИИ — либо модели могут использоваться для содействия разработке оружия массового уничтожения, кибератак на критическую инфраструктуру или масштабных кампаний дезинформации. Рамки проверки разработаны для выявления этих рисков до того, как модели станут доступными для публики.
Добровольно, пока что
Нынешние соглашения носят добровольный характер. Google DeepMind, Microsoft и xAI согласились участвовать, однако юридической обязательности для этого нет — и что особенно важно, OpenAI и Anthropic не числятся среди первоначальных подписантов. Изучаемый указ президента Белого дома мог бы изменить это, потенциально сделав обязательным предварительное тестирование безопасности для всех передовых моделей.
Администрация Трампа, которая придерживалась невмешательского подхода к искусственному интеллекту, теперь обсуждает возможность введения надзора за моделями ИИ до их выпуска.
The New York Times, 4 мая 2026 года
Что фактически охватывают тесты
CAISI не публиковала подробную методологию, но ожидается, что оценки будут сосредоточены на рисках для биобезопасности (может ли модель предоставить значительную помощь тому, кто пытается создать биологическое оружие?), рисках в области кибербезопасности (может ли она помочь в разработке нового вредоносного ПО или эксплуатации критической инфраструктуры?) и более широких свойствах безопасности, включая возможности обмана и манипуляции.
Эта структура в общих чертах отражает подход, применяемый Институтом безопасности ИИ Великобритании, который провёл оценку передовых моделей нескольких крупных лабораторий. Разница заключается в том, что американская структура реализуется при администрации, которая публично скептически относится к регулированию ИИ.
Реакция отрасли
Три компании, подписавшие соглашения, представили своё участие как проявление ответственного лидерства. Генеральный директор Google DeepMind Демис Хассабис ранее утверждал, что тестирование безопасности соответствует долгосрочным интересам отрасли. Позиция Microsoft более сложная — компания одновременно является крупным государственным подрядчиком в области ИИ и коммерческим поставщиком ИИ, что создаёт у неё сильные стимулы быть воспринятой как сотрудничественный партнёр по вопросам безопасности.
Участие xAI является самым удивительным. Илон Маск публично критиковал регулирование ИИ и был ярким противником исполнительного указа администрации Байдена по ИИ. Согласие его компании участвовать в тестировании до выпуска предполагает либо прагматичный расчёт относительно взаимоотношений с правительством, либо реальное изменение позиции.
Что будет дальше
Исполнительный указ, если он будет реализован, станет самым значительным действием США по управлению ИИ за последние годы. Следите за двумя вещами: будет ли он применяться только к крупнейшим передовым моделям или к более широкому классу систем ИИ, и будут ли включены механизмы принуждения или он останется в виде целей. Разница между бессильной рамкой и значимой будет заключаться в этих деталях.