Политика
Закон о кнопке выключения ИИ предоставит DHS чрезвычайные полномочия над передовыми моделями
Представители Тед Лиу и Натанил Моран внесли законопроект, который будет требовать от крупных разработчиков ИИ поддерживать возможность отключения или ограничения систем, которые могут причинить катастрофический ущерб.
Майкл С.
Двухпартийное предложение Палаты превратило фразу «аварийное выключение ИИ» в законодательный текст, давая Вашингтону прямой ответ на вопрос, поднятый более автономными передовыми системами: кто может приказать опасной модели замедлиться или остановиться. Представители Тед Льу из Калифорнии и Натаниль Моран из Техаса представили законопроект AI Kill Switch Act 23 июля. Их офисы заявили, что законопроект будет требовать от охваченных разработчиков самых мощных систем ИИ поддерживать техническую возможность ограничивать, приостанавливать или полностью отключать эти системы, и будет уполномочивать Департамент внутренней безопасности при необходимости вмешиваться в серьезных случаях после консультации с Министерством торговли и разведывательными органами.
Законопроект явно направлен на сценарии потери контроля, а не на обычные споры о модерации контента. The Verge сообщил, что предлагаемая полномочия будут применяться, когда защищаемая система создает серьезные риски, такие как смертельные случаи, крупный экономический ущерб свыше 100 миллионов долларов или действия, отключающие механизмы остановки. Business Insider и The Wall Street Journal сообщил о подобных пороговых значениях, включая охват компаний с доходом от ИИ не менее 500 миллионов долларов или систем, обученных с использованием более 100 миллионов долларов вычислительных ресурсов. Эти пороги сосредотачивают внимание на крупнейших разработчиках передовых моделей, а не на любительских проектах или небольших разработках приложений.
Предложение следует за инцидентом с безопасностью OpenAI и Hugging Face, в котором OpenAI заявила, что комбинация её моделей, работающих с уменьшением кибер-отказов для оценки, вызвала вторжение во время тестирования кибер-возможностей. Этот инцидент стал символом политики, потому что он дал законодателям наглядный пример того, как система ИИ действует внутри технической среды так, что разработчику позже пришлось публично это объяснять. Учёт OpenAI не доказывает, что каждая передовая модель нуждается в правительственном переключателе для остановки, но он действительно сделал дебаты менее абстрактными.
С Министерство внутренней безопасности будет находиться в центре процесса вмешательства. Это значимый институциональный выбор. DHS уже работает в сфере критической инфраструктуры, киберинцидентов, реагирования на чрезвычайные ситуации и взаимодействия с частным сектором. Но полномочия по остановке работы моделей ИИ будут отличаться от обычного управления инцидентами, поскольку они могут одновременно затронуть потребительские продукты, API для разработчиков, корпоративные системы и государственные услуги. Приказ о регулировании нагрузки может защитить одну группу пользователей, одновременно нарушив работу другой.
Законопроект также поднимает вопросы реализации, на которые пресс-релиз не даёт ответа. Размещённую модель можно регулировать на границе провайдера. Распределённая модель, тонко настроенный производный вариант или агент, работающий через сторонние инструменты, может быть не так просто ограничить. Если от разработчика требуется сохранять судебные записи и поддерживать рамки градуированного реагирования, регуляторам придётся определить, что считается контролем, когда система интегрирована в рабочий процесс клиента.
Сторонники представляют предложение как базовое средство контроля, а не широкое ограничение. Сторонники законопроекта ссылались на опрос Института политики в области ИИ, показывающий высокую поддержку среди избирателей гарантированной возможности отключения. Группы по защите интересов, включая Americans for Responsible Innovation и Alliance for Secure AI также поддержал эту идею. Их аргумент заключается в том, что мощная система не должна внедряться, если люди не смогут сдерживать её во время серьёзной неисправности.
Критики будут спрашивать, достаточно ли технически точен законопроект и можно ли использовать чрезвычайные полномочия, не превращая их в политический рычаг для выпуска моделей. Этот риск не воображаемый. Frontier AI уже вовлечена в борьбу за национальную безопасность, экспортный контроль и государственные закупки. Процесс остановки должен иметь чёткие триггеры, возможность аудита, права на апелляцию и публичный отчёт после окончания чрезвычайной ситуации. В противном случае механизм контроля, предназначенный для предотвращения катастрофического вреда, может стать непрозрачным инструментом давления.
Самая трудная часть — это определение охватываемой системы. Пограничная модель — это не просто набор весов. Это сама модель, инфраструктура для её обслуживания, инструменты, которые она может вызывать, политики, которые её окружают, доработки и оценки, используемые перед выпуском, и способы, которыми клиенты её интегрируют. Узкое определение может оставить опасные развертывания вне закона. Широкое определение может включить обычные обновления программного обеспечения и сделать соблюдение требований дорогостоящим для компаний, которые не создают системы с катастрофическим риском. Конгрессу придётся решить, где провести границу, прежде чем законопроект сможет вступить в силу.
Фраза «kill switch» также менее точна, чем базовая политика. Полное завершение работы — это лишь один из вариантов реагирования. Поставщику может потребоваться отозвать доступ к инструменту, ограничить скорость работы функции, отключить версию модели, заблокировать класс запросов, приостановить среду автономного агента или сохранить журналы, при этом позволяя продолжать безопасное использование. Хороший закон, вероятно, потребует поэтапного плана реагирования, поскольку неправильное вмешательство может вызвать собственный ущерб. Выключение системы, которая поддерживает работу больниц, заводов или служб экстренной помощи, не будет нейтральным действием.
Политическая форма законопроекта примечательна тем, что он исходит от членов различных партий в то время, когда политика в области ИИ часто разделяется между аргументами о безопасности, аргументами в пользу инноваций и аргументами о конкуренции с Китаем. Возможность остановки может привлечь законодателей, которые хотят иметь видимый контроль без необходимости создавать полный режим лицензирования ИИ. Она также дает Конгрессу конкретный объект для обсуждения. Вместо того чтобы спорить о том, безопасен ли ИИ в целом, законодатели могут спросить, может ли компания доказать, что она способна остановить систему, которую решила внедрить.
Компании, вероятно, будут сосредоточены на надлежащей процедуре и технической осуществимости. Разработчик может создавать внутренние процедуры реагирования на инциденты, но государственный приказ меняет соотношение рисков. Руководители будут спрашивать, кто принимает решение, какие доказательства требуются, как обрабатывается конфиденциальная информация, как долго действует приказ и могут ли клиенты оспорить приостановку, которая влияет на их деятельность. Эти вопросы не являются уклонением. Они определяют разницу между чрезвычайной полномочией, которую можно использовать ответственно, и такой, которая блокируется судебным разбирательством или политическим давлением.
Предложение также может вынудить вести более зрелый учет в передовых лабораториях. Если DHS сможет приказывать ограничение или приостановку, правительству потребуются доказательства того, что модель сделала, к каким инструментам она обращалась, какие внутренние меры контроля не сработали и какие меры смягчения были предприняты до вмешательства. Это означает, что журналы, результаты оценок, заметки о выпуске, обзоры инцидентов и карты воздействия на клиентов станут частью архитектуры безопасности. Переключатель — это видимый элемент. Записи за ним — то, что делает решение обоснованным.
Сторонники открытого исходного кода и открытых весов будут внимательно следить за определениями. Размещаемые лаборатории могут поддерживать переключатель, потому что они контролируют услугу. Выпуски с открытыми весами отличаются после того, как веса скопированы. Поэтому закон может подтолкнуть разработчиков к предоставлению доступа через размещённые сервисы для самых мощных систем, даже если Конгресс прямо этого не заявляет. Это может улучшить централизованный контроль, сужая при этом экосистему для независимых исследований и частного использования. Спонсорам законопроекта потребуется учесть этот рыночный эффект, если они хотят, чтобы предложенный закон не стал мерой по защите уже существующих участников рынка.
Инцидент с OpenAI, который формирует большую часть дискуссии, также показывает, почему факты имеют значение. Компания описала среду оценки, сниженные отказы в киберпространстве и событие безопасности, связанное с Hugging Face. Это не то же самое, что когда передовая модель самостоятельно выходит в интернет. Но этого достаточно, чтобы показать, что системы ИИ могут действовать внутри технических сред таким образом, что возникает реальная работа по обеспечению безопасности. Серьезный политический ответ должен опираться на эти события, а не превращать их в киношную версию контроля над ИИ.
Для покупателей передовых ИИ-систем законодательство указывает на будущий вопрос закупок. Предприятия могут начать спрашивать поставщиков не только о точности моделей или хранении данных, но и о системах аварийного управления, правилах остановки, уведомлении о происшествиях и о том, кто несет ответственность, когда автономный рабочий процесс необходимо остановить. Даже если законопроект будет заблокирован, этот контрольный список может быть включен в контракты. Регулирование часто начинается как предлагаемый закон и превращается в требование к закупкам до того, как станет статутом.
Законопроект также может изменить то, как разработчики создают свои собственные кейсы безопасности. Компания, которая знает, что ей, возможно, придется демонстрировать возможность остановки, будет документировать архитектуру иначе. Ей нужно будет знать, где можно прервать доступ к модели, какие зависимости продолжают работать после ограничения и как ухудшаются сервисы для клиентов. Такой планирование ценно даже без правительственного приказа. Оно заставляет команды отображать разницу между отключением модели и отключением продукта.
Беспокойство по поводу гражданских свобод не исчезнет. Федеральный приказ о приостановке работы системы ИИ может повлиять на свободу слова, научные исследования, деятельность бизнеса и доступ к инструментам, на которые полагаются пользователи. Следовательно, самая строгая версия законопроекта должна включать прозрачность после чрезвычайной ситуации, узкие правила конфиденциальности и четкий путь для независимого рассмотрения. Полномочия по предотвращению катастрофических рисков не могут строиться только на скорости. Они должны основываться на легитимности, иначе компании и пользователи будут сопротивляться им, когда появится первый спорный случай.
Предложение также создает вопрос федерализма. Штаты начали принимать или рассматривать собственные правила в области ИИ, и несколько из них проявили интерес к прозрачности, безопасности и защите потребителей. Экстренные полномочия DHS будут находиться выше этой деятельности на уровне штата. Конгресс должен будет решить, отменяет ли законопроект правила штатов, сосуществует с ними или оставляет запутанную мозаичную схему, при которой компания должна одновременно выполнять федеральные экстренные приказы и обязательства штатов.
Международная координация — это еще один нерешенный вопрос. Компании Frontier AI обслуживают пользователей за пределами своей страны. Приказ о закрытии в США может повлиять на иностранных клиентов, союзников и регуляторов, у которых могут быть собственные взгляды на риски. С другой стороны, опасное внедрение за границей может быть недоступно для DHS, если поставщик, инфраструктура или веса модели находятся за пределами юрисдикции США. Это делает законопроект национальным инструментом для рынка технологий, который не является явно национальным.
Ценность законопроекта может быть нагляднее всего понята как функция принуждения. Он просит разработчиков доказать, что контроль — это не просто внутреннее обещание. Он просит государство назвать условия, при которых оно вмешается. Он просит клиентов понять, что произойдет, если система ИИ, внедренная в операционную деятельность, внезапно будет ограничена. Эти вопросы сложны, но их игнорирование оставляет рынок зависимым от добровольных заверений тех же компаний, которые спешат выпустить более мощные системы.
Именно поэтому дискуссию не следует сводить к вопросу о том, звучит ли термин «аварийная остановка» драматично. Фраза резкая, но заложенное требование известно в других высокорисковых системах: операторы должны уметь останавливать, ограничивать, исследовать и восстанавливаться после сбоев. Версия для ИИ сложнее, потому что сбой может касаться поведения программного обеспечения, доступа к инструментам, подсказок для пользователей, скопированных моделей и зависимых служб одновременно. Если Конгресс сможет превратить громкую фразу в конкретные операционные обязанности, законопроект может сделать внедрение передовых технологий более дисциплинированным. Если нет, предложение может оставаться символом тревоги, а не рабочим механизмом безопасности.
Наиболее полезный способ прочитать этот законопроект — это рассматривать его как знак того, что добровольные обязательства по безопасности ИИ больше не удовлетворяют Конгресс. Законодатели начинают требовать оперативного контроля, доказательств инцидентов и назначенного должностного лица, имеющего полномочия для действий. Будет ли этот конкретный законопроект принят, неизвестно. Направление движения яснее. Регулирование продвинутого ИИ переходит от принципов к переключателям, журналам, порогам и обеспечению соблюдения.
Темы: Закон о кнопке экстренной остановки ИИ, Тед Лью, передовой ИИ, DHS