Политика
Законодатели Великобритании призывают к международному запрету на искусственный суперинтеллект
Более 70 британских депутатов и пэров настаивают на том, чтобы правительство поддержало запрет на создание искусственного суперинтеллекта и возглавило международную инициативу по этому предложению.
Майкл С.
Кампания по запрету суперинтеллекта в Великобритании. Более 70 британских депутатов и пэров призывают правительство поддержать запрет на создание искусственного суперинтеллекта и возглавить международную инициативу по этому предложению. Развитие ситуации проявилось в Брифинг Signal Diff от 12 сентября, размещая конкретное решение, выпуск или раскрытие за дебатами, которые часто обсуждались в более широких терминах.
Кампания отражает переход от регулирования использования существующих моделей к обсуждению того, следует ли вообще создавать будущие возможности. Это более сложная юридическая цель, поскольку искусственный суперинтеллект не имеет универсально признанного технического порога.
Что изменилось
Международный запрет потребует проверки внутри частных лабораторий и через границы. Правительствам потребуется общее определение, доступ к доказательствам и последствия за скрытые тренировочные запуски.
Непосредственным следствием является операционное. Компаниям, законодателям и техническим командам теперь необходимо преобразовать объявление в бюджеты, контроль и измеримые результаты. Этот процесс обычно выявляет разрыв между заявлением о продукте и системой, которой можно доверять при реальных нагрузках.
Политическая задача заключается в том, чтобы превратить общий принцип в исполнимую обязанность, не замораживая технологии на уровне сегодняшнего дизайна. The Принципы ИИ ОЭСР предоставляют международную точку отсчета, в то время как the Рамка управления рисками ИИ NIST показывает, как управление может следовать за рисками и возможностями, а не только за маркировкой продукта.
Предложение может в ближайшее время не стать законом, но оно расширяет политическую коалицию, требующую ограничений до того, как системы достигнут спорного порога. Оно также заставляет сторонников объяснять, как будет продолжаться полезное исследование.
Следующее испытание
Следующие доказательства будут получены из реализации, а не из обещаний. Полезная отчетность должна отслеживать, кто получает доступ, какие меры защиты являются обязательными, как раскрываются ошибки и могут ли клиенты или общественность независимо проверить заявленный результат.
Это различие важно, потому что рынки ИИ быстро переходят от объявления к предположению. Как только возможность считается неизбежной, закупки и политика могут опережать доказательства. Дисциплинированная реакция сохраняет видимость возможности, не воспринимая неопределенность как неудобство.
Кампания по запрету суперразума в Великобритании в конечном итоге будет оцениваться по изменениям вне цикла запуска: выполненной работе, сниженным рискам, понесённым затратам и людям, которые сохраняют полномочия, когда система ошибается. Это более медленные показатели, но именно они определяют, будет ли это развитие продолжаться.
Темы: Великобритания, суперразум, политика в области ИИ, Парламент