Политика

Инициатива Белого дома по стандартам ИИ превращает кибер-эталоны в новую точку выпуска

Белый дом движется к добровольным стандартам выпуска продвинутых моделей ИИ. Важный сигнал заключается в том, что возможности кибербезопасности, доступ оценщиков и сроки запуска становятся стандартизированными частями процесса работы с передовыми моделями.

Майкл С.

Инициатива Белого дома по стандартам ИИ превращает кибер-эталоны в новую точку выпуска
MANTIS_

С Белый дом стремление ускорить стандарты для выпуска продвинутых моделей ИИ — это попытка системы политики догнать цикл продукта. После вмешательств вокруг Anthropic и OpenAI выпусков, следующим шагом является не грандиозный закон об ИИ. Это практический контрольный список для моделей, которые могут существенно повлиять на кибербезопасность, критическую инфраструктуру и национальную конкуренцию.

Это важно, потому что стандарты меняют исходный разговор. Вместо того чтобы импровизировать каждый раз, когда модель вызывает опасения, лаборатории и агентства могут прийти к единому мнению относительно ожидаемых тестов, форматов отчетности, уровней доступа и порогов доказательств до того, как окно запуска станет политически взрывоопасным.

Кибер — первая сложная категория

Кибербезопасность становится первым шлюзом для выпуска моделей фронтира, потому что ущерб достаточно конкретен, чтобы его оценивать, и двойного назначения достаточно, чтобы обеспокоить законодателей. Система, которая помогает защитникам оценивать уязвимости, также может помочь злоумышленникам понять пути эксплуатации. Эта неопределенность делает стандарты и доступ оценщиков центральными.

Стандарты передовых моделей, вероятно, сначала будут представлять собой контрольные списки перед выпуском, прежде чем стать обязательным регулированием. Изображение: MANTIS_.
Стандарты передовых моделей, вероятно, сначала будут представлять собой контрольные списки перед выпуском, прежде чем стать обязательным регулированием. Изображение: MANTIS_.

Трудная часть заключается в разработке стандартов, которые не замораживают рынок вокруг существующих лабораторий. Если соблюдение требует огромных внутренних команд, привилегированных правительственных связей и месяцев проверок, маленькие лаборатории и группы с открытым исходным кодом будут утверждать, что безопасность стала барьером для входа. Если стандарты будут слишком легкими, агентства будут обвинены в формальном утверждении мощных систем.

Доступ оценщиков — тихая борьба

Наиболее важной деталью может быть доступ оценщиков. Внешние тестировщики нуждаются в достаточной информации и времени для оценки опасных возможностей, но более широкий доступ также увеличивает риски утечек, злоупотреблений и конкуренции. Вопрос, который возникает в рамках новой политики, заключается в том, какой уровень доступа к модели, информации о системе и времени для оценки следует считать приемлемым для разных уровней риска.

Бенчмарки кибербезопасности будут иметь значение только в том случае, если оценщики получат достаточно доступа для тестирования реального поведения модели. Изображение: MANTIS_.
Бенчмарки кибербезопасности будут иметь значение только в том случае, если оценщики получат достаточно доступа для тестирования реального поведения модели. Изображение: MANTIS_.

Процесс стандартизации также дает США дипломатический инструмент. Если Вашингтон сможет определить шаблон проверки перед выпуском, которому доверяют союзники, он сможет влиять на перемещение передовых моделей через границы, не полагаясь исключительно на жесткие экспортные ограничения. Это превратит стандарты моделей в форму технологической дипломатии.

Темы: Белый дом, стандарты ИИ, кибербезопасность, передовые модели