Политика
Предложение DeepMind по надзору ИИ превращает вопросы безопасности в институциональную задачу дизайна
Призыв Демиса Хасабиса к созданию глобального ИИ-наблюдателя под руководством США выводит дебаты о передовых моделях за рамки добровольных обязательств и поднимает вопрос о том, кто должен тестировать и останавливать опасные системы.
Майкл С.
Google DeepMind призыв главы компании Демиса Хассабиса к созданию глобального наблюдателя за ИИ под руководством США переводит дебаты о безопасности к их самой сложной практической проблеме: кто имеет полномочия и компетенции, чтобы решать, когда модель на передовой слишком рискованна для выпуска?
Регулятор с реальной возможностью тестирования мог бы обеспечить внешнюю проверку, но ему потребуются технические специалисты, четкие юридические ограничения и достаточное международное сотрудничество, чтобы избежать превращения в формальность.
Центральный вопрос проектирования — это масштаб. Контролирующий орган не может проверять каждое обновление программного обеспечения, но он может сосредоточиться на системах с возможностями, вызывающими кибер-, биологические, автономные или национально-значимые угрозы. Он также должен избегать превращения соблюдения норм в барьер, через который могут пройти только крупнейшие лаборатории.
Временные ограничения уже показали, насколько трудно управлять продвинутым ИИ после начала его использования. Вопрос не в том, придет ли надзор, а в том, будет ли он достаточно эффективным, чтобы заслужить доверие.
Темы: DeepMind, управление ИИ, оценка моделей