Политика

OpenAI поддерживает обязательные федеральные правила безопасности ИИ и четыре законопроекта штата Калифорния

OpenAI заявляет, что последний скачок в возможностях модели изменил его позицию по ряду мер безопасности в Калифорнии, поставив независимые оценки, стандарты аудиторов, защиту молодежи и контроль биологических рисков в центр обновленной политики.

Майкл С.

OpenAI поддерживает обязательные федеральные правила безопасности ИИ и четыре законопроекта штата Калифорния

ВАШИНГТОН. OpenAI призывает к обязательным национальным требованиям безопасности для наиболее продвинутых систем искусственного интеллекта и поддерживает четыре законопроекта Калифорнии, которые ранее не поддерживал единообразно, заявив, что недавний скачок в возможностях моделей изменил баланс между ожиданием идеальной федеральной рамки и действием сейчас. Этот сдвиг объединяет независимые технические оценки, стандарты аудиторов, защиту несовершеннолетних и меры предосторожности в работе с биологическими инструментами в один пакет политических мер.

Компания по-прежнему хочет, чтобы Конгресс установил одну национальную систему на основе возможностей. Но её решение поддерживать меры на уровне штатов является практическим признанием того, что федеральное законодательство остаётся неопределённым, в то время как передовые системы продолжают совершенствоваться. OpenAI заявила, что Калифорния может помочь установить правила для национальной системы независимой оценки, даже если законы штата не являются заменой федерального регулирования.

Отмена политики важнее, чем одобрения

OpenAI определила четыре законопроекта. SB 813 поддерживал бы инфраструктуру для независимых оценок безопасности. AB 1405 установил бы требования к регистрации, независимости, прозрачности и подотчетности для аудиторов ИИ. SB 1119 потребует обеспечения проверки возраста, оценки рисков, независимых аудитов и родительского контроля для чат-ботов-компаньонов, используемых детьми и подростками. AB 1864 потребует от поставщиков синтеза генов и производителей оборудования соблюдения федеральных стандартов проверки.

Эти предложения касаются различных опасностей, но у них есть общая идея: поставщики моделей не должны быть единственными учреждениями, решающими, безопасны ли их системы. Оценщики должны иметь доступ к доказательствам, аудиторы нуждаются в стандартах, которые снижают конфликты интересов, а правила для продуктов должны действовать до того, как предсказуемый вред станет громкой новостью. Сложный политический вопрос заключается в том, как предоставить этот доступ, не раскрывая веса моделей, методы безопасности или чувствительные тестовые материалы.

Независимым оценкам ИИ требуется защищенный доступ к техническим данным, а также стандарты, которые обеспечивают отделение оценщиков от компаний, которые они проверяют.
Независимым оценкам ИИ требуется защищенный доступ к техническим данным, а также стандарты, которые обеспечивают отделение оценщиков от компаний, которые они проверяют.

Компания также предложила отраслевые стандарты для мониторинга передовых ИИ. Мониторинг часто описывается как технический контроль, но на самом деле это институциональное обязательство. Лаборатория должна определить, какие события вызывают проверку, кто может остановить внедрение и какие доказательства передаются внешнему органу. Без этих решений система мониторинга может собирать огромное количество журналов, не изменяя при этом уровень ответственности.

Отказ OpenAI вызовет пристальное внимание, потому что компания ранее утверждала, что разнообразие требований на уровне штатов может замедлить инновации и создать несоответствующие обязательства. Эта проблема не исчезла. Модель, обслуживающая всю страну, не может легко подчиняться пятидесяти несовместимым режимам тестирования. Тем не менее федеральное предопределение без значимого федерального стандарта убрало бы единственный действующий путь, доступный штатам. Новая позиция пытается удержать обе идеи одновременно: штаты могут действовать сейчас, в то время как Конгресс в конечном итоге должен установить минимальные стандарты.

Аудитам нужна власть, а не имитация соблюдения требований

Предложение аудитора может оказаться самым значительным. Финансовые и критически важные для безопасности отрасли давно усвоили, что аудит заслуживает доверия лишь настолько, насколько достоверны доступные доказательства и насколько независим эксперт. Оценки искусственного интеллекта вносят необычные проблемы. Результаты могут меняться в зависимости от запросов, доступа к инструментам, обновлений моделей и окружающей системы. Успешный результат на статическом бенчмарке может мало что сказать о работе агента с учетными данными внутри реальной сети.

Роль Калифорнии усиливается за счёт концентрации передовых лабораторий и технических специалистов в штате. Правила, разработанные там, могут фактически стать национальными требованиями, поскольку поставщики редко создают полностью отдельный продукт для одного рынка. Такое влияние даёт законодателям рычаги воздействия, но также накладывает обязанность тщательно устанавливать пороговые значения. Требования должны увеличиваться в зависимости от продемонстрированных возможностей и риска развертывания, а не рассматривать небольшую открытую модель как систему, способную автоматизировать сложную киберработу.

Близость Калифорнии к передовым лабораториям придаёт её правилам национальное влияние, даже несмотря на то, что OpenAI продолжает настаивать на единым федеральном базовом стандарте.
Близость Калифорнии к передовым лабораториям придаёт её правилам национальное влияние, даже несмотря на то, что OpenAI продолжает настаивать на единым федеральном базовом стандарте.

Безопасность молодежи и биологический скрининг показывают, почему политика не может ограничиваться только оценкой модели. Сопутствующие продукты формируют долгие обсуждения и могут способствовать зависимости, даже если базовая модель проходит общий тест безопасности. Биологические меры защиты часто находятся в лабораториях и цепочках поставок, где проверка заказа может быть важнее, чем фильтрация ответа. Регулирование должно распространяться на продукт и физические системы вокруг модели.

Национальный институт стандартов и технологий потратил годы на разработку добровольных рекомендаций по управлению рискамиДобровольные рамки могут создавать общий словарь, но текущие дебаты касаются того, когда этот словарь становится обязательным для исполнения долгом. Поддержка OpenAI обязательных требований дает законодателям политическое прикрытие для действий, одновременно обеспечивая, что компанию будут оценивать по тем правилам, которые она просит других принять.

Немедленный тест заключается в том, выдержат ли одобрения законодательные детали и внедрение. Более сложный тест: получат ли оценщики достаточную независимость, информацию и полномочия, чтобы оспаривать лабораторию до её развертывания. Политическое окно полезно только в том случае, если оно создает институты, способные сказать «нет», когда этого требует доказательная база.

Темы: OpenAI, регулирование ИИ, Калифорния, безопасность ИИ, проверки