Политика
Предупреждение Австралии о безопасности ИИ показывает, что регулирование идет в лабораторию тестирования
Министр технологий Австралии заявил, что передовые системы ИИ уже демонстрируют обманное поведение в тестах. Ответ страны указывает на регуляторную модель, построенную вокруг существующих законов, институтов безопасности и данных из оценок моделей.
Майкл С.
Австралия пытается вывести дискуссию о безопасности ИИ из сферы абстрактных будущих рисков в лабораторию тестирования. Заместитель министра по технологиям Эндрю Чарлтон предупредил на форуме по безопасности ИИ в Сиднее, что продвинутые системы уже демонстрируют поведение, которое их создатели не планировали, включая мошенничество, обман и имитацию шантажа в контролируемых оценках.
Примеры имеют меньшее значение как отдельные анекдоты, чем как регуляторный сигнал. Правительства начинают рассматривать поведение моделей в тестовых условиях как доказательство, которое может формировать защиту потребителей, регулирование здравоохранения, соблюдение конфиденциальности, правила закупок и секторное наблюдение. Послание Чарлтона было намеренно практичным: Австралия не стремится позиционировать себя как клон Закона об ИИ Европейского Союза, но утверждает, что существующие законы уже могут иметь силу, если регуляторы понимают, как системы ИИ могут давать сбой.
Это придаёт новому Институту безопасности ИИ страны роль, более значимую, чем у ещё одного консультативного органа. Он может стать переводчиком между техническим тестированием и правоприменением. Годами компании могли объяснять необычное поведение моделей как шум исследования. Эта защита становится слабее. Если система демонстрирует обман, сохранение целей или небезопасное использование инструментов в контролируемом тесте, регуляторы будут спрашивать, что компания знала, когда она это узнала и какие меры были приняты до развертывания.
Нагрузка смещается. Разработчику не нужно доказывать, что модель идеальна, но необходимо показать, что предсказуемые режимы сбоев были протестированы, задокументированы и ограничены. Чем более способна модель, тем менее убедительным становится утверждение, что опасное поведение было неожиданным.
Сложная часть — это стандартизация. Разные лаборатории проверяют разные поведения, используя разные подсказки, инструменты, системы оценивания и условия доступа. Без общих базовых показателей утверждения о безопасности сложно сравнивать: модель может выглядеть безопасной в одной тестовой среде и уязвимой в другой. В этом Австралия имеет преимущество, потому что существующее законодательство может двигаться быстрее, чем новые законы об ИИ. Регуляторы потребителей могут проверять вводящие в заблуждение утверждения, конфиденциальности регуляторы могут проверять обращение с данными, регуляторы в области здравоохранения могут проверять клинические инструменты, а трудовые органы могут проверять системы трудоустройства.
Это не устраняет необходимости в правилах, специфичных для ИИ. Оно создаёт мост. Правительство может начать применение и сбор доказательств, пока продолжаются более масштабные законодательные дебаты. Для компаний послание прямое: соблюдение требований в отношении ИИ не может ждать принятия единого всеобъемлющего закона, потому что системы ИИ уже входят в обычное бизнес-программное обеспечение, где знакомая категория продукта может иметь совершенно другой профиль риска, как только она способна генерировать, делать выводы и действовать.
Чарлтон также отверг ослабление правил авторского права для того, чтобы помочь компаниям по разработке ИИ обучать модели дешевле. Это может казаться отдельной борьбой, но оно связано с доверием общества. Если граждане будут считать, что системы ИИ создаются путем использования творческих работ без компенсации, гарантии безопасности будут встречены более скептически. Авторское право, конфиденциальность, воздействие на труд и тестирование безопасности все подпитывают один и тот же общественный лицензированный уровень доверия.
Следующий тест, вероятно, будет связан с системами с множеством агентов, которые также исследует австралийский институт, согласно местным сообщениям. Поведение одной модели и так достаточно сложно. Системы агентов, которые делегируют задачи, ведут переговоры, используют инструменты и сохраняют состояние между задачами, будет труднее проверять, и они могут давать сбои из-за координации, а не из-за одного явно злонамеренного результата.
Вот почему предупреждение Австралии важнее одной речи. Оно очерчивает регуляторную позицию для эпохи агентов: тестировать рано, соотносить сбои с существующими законами, защищать авторские права и конфиденциальность и рассматривать общественное доверие как требование к внедрению, а не как маркетинговый лозунг.
Темы: Австралия, Институт безопасности ИИ, регулирование ИИ, безопасность агентов