Политика
План стандартов DeepMind выводит регулирование передового ИИ на курс FINRA
Демис Хассабис призвал создать независимый орган по стандартам для проверки передовых систем ИИ перед их выпуском, что обостряет дебаты о том, следует ли управлять мощными моделями через спонтанное давление со стороны правительства или через постоянное техническое учреждение.
Майкл С.
Главный исполнительный директор Google DeepMind Демис Хасcабис перевел дебаты о регулировании передовых ИИ с вопроса об экстренном вмешательстве на вопрос институционального проектирования. В предложении, о котором сообщается, TechCrunch и обсуждаемое в сообществе по вопросам политики в области ИИ, Хассабис призвал создать стандартизирующий орган под руководством США, который мог бы проверять самые мощные модели ИИ перед их выпуском, разрабатывать протоколы технической оценки и в конечном итоге стать «воротами», через которые перед выводом своих сильнейших систем на американский рынок должны будут пройти передовые лаборатории.
Предложение возникает на фоне серии непрозрачных конфликтов вокруг выпуска мощных моделей. Ранее TechCrunch сообщал, что OpenAIи доступа к Fable компании Anthropic привлек внимание правительства, при этом отсутствовал ясный публичный отчет о том, кто оценивал модели, какие тесты использовались и какой стандарт считался достаточно безопасным. Хасабис утверждает, что такие решения не должны приниматься импровизированно каждый раз, когда новая модель готова. Они должны проходить через технически укомплектованное учреждение с предсказуемыми процедурами.
Модель, на которую сослался Хассабис, это Финансовый регуляторный орган отрасли, саморегулируемая организация, которая контролирует брокеров-дилеров на рынках ценных бумаг США под федеральным надзором. Аналогия показательная. Речь идет не о традиционном агентстве, полностью размещенном в Вашингтоне. Это призыв к созданию органа, финансируемого отраслью, контролируемого правительством и оснащенного достаточной технической экспертизой для оценки быстро развивающихся систем до их масштабного использования.
Эта структура предназначена для решения реальной слабости в управлении ИИ. Агентствам общего назначения часто не хватает доступа к вычислительным ресурсам, экспертизы в области безопасности моделей и сотрудников для оценки, необходимых для тестирования передовых систем. Но полностью управляемый отраслью совет столкнулся бы с очевидной проблемой доверия. Крупнейшие компании, которые, скорее всего, будут регулироваться, также будут иметь наибольшее влияние на финансирование, стандарты и сроки. Версия Хассабиса пытается сбалансировать эти силы, включая независимых экспертов и представителей открытого исходного кода, при этом оставляя правительство США в надзорной роли.
Business Insider и The Verge оба сообщили, что Хассабис охарактеризовал момент вокруг прибытия искусственного общего интеллекта в течение нескольких лет, а не десятилетий. Этот временной интервал оспаривается, но политическое следствие ясно: если лаборатории полагают, что модели приближаются к экономически и стратегически разрушительным способностям, добровольные меры безопасности и отчеты закрытых команд не будут удовлетворять правительства навсегда. Орган по стандартам был бы способом создать повторяемый процесс до того, как кризис вынудит более грубый ответ.
Немедленной задачей является определение порога. Регулятор на переднем крае должен знать, какие системы считаются передовыми. Размер модели больше недостаточен. Возможности могут зависеть от масштаба обучения, вычислений во время тестирования, использования инструментов, агентного сопровождения, сочетания моделей, доступа к конфиденциальным данным или последующей настройки для конкретных задач. Орган, который ориентируется только на показатели бенчмарков, может пропустить опасные системы и чрезмерно регулировать безвредные. Орган, который претендует на слишком большие полномочия, может стать узким местом для исследований и открытой разработки.
Политическая ситуация также неловкая. Администрация Трампа поддерживала расширение инфраструктуры ИИ и скептически относилась к созданию регулятора ИИ по типу FDA. В то же время чиновники по национальной безопасности показали, что готовы оказывать давление на лаборатории в вопросах доступа к моделям, когда считают, что система создает стратегический риск. Подход, похожий на FINRA, предлагает средний путь: это не обычное новое агентство, но и не полное свободное управление выпуском.
Сторонники открытого кода будут внимательно следить за деталями. Если орган по стандартам в основном отражает предпочтения крупных закрытых лабораторий, он может стать барьером для соблюдения, который укореняет позиции действующих компаний. Если же он предоставляет строителям открытых моделей значимое представительство, это может помочь построить науку оценки это применимо за пределами узкого круга частных поставщиков API. Хассабис намекнул на более широкое участие, но устав, правила финансирования и структура совета будут определять, выживет ли это обещание при столкновении с институциональной политикой.
Пока это предложение не является законом. Это знак того, что управление передовым ИИ выходит из стадии заявления принципов. Следующая борьба будет касаться того, кто сможет тестировать самые мощные модели, кто оплатит тестирование, кто увидит результаты и кто имеет полномочия сказать «нет». Хассабис предложил один вариант ответа. Более сложный вопрос заключается в том, смогут ли правительства, лаборатории и гражданское общество создать институт, которому можно доверять достаточно, чтобы использовать его до возникновения следующей борьбы за выпуск.
Темы: DeepMind, регулирование ИИ, передовые модели, Демис Хассабис