Политика
Борьба Вашингтона за подотчетность ИИ движется к аудитам и информаторам
После месяцев борьбы за доступ к моделям политика США в области ИИ смещается в сторону раскрытия информации, независимого обзора, защиты информаторов и ответственности за системы с высоким воздействием.
Майкл С.
Дебаты о ИИ в Вашингтоне переходят от вопроса о том, кто получает доступ к мощным моделям, к более сложному вопросу: кто может их проверять, кто может выступать, когда что-то идет не так, и какие доказательства компании должны предоставлять перед развертыванием систем с высоким влиянием.
Бои за доступ к передовым моделям показали, что правительство больше не готово рассматривать выпуск ИИ как обычное обновление программного обеспечения. Но проверка доступа — это лишь один рычаг. Более устойчивый режим подотчетности потребует аудитов, отчетности о происшествиях, защищенных внутренних сообщений и более четких обязанностей для компаний, которые продают или внедряют ИИ в чувствительных сферах.
Защита информаторов важна, потому что многие ошибки ИИ впервые видны внутри компаний. Инженеры, исследователи безопасности, сотрудники политики и команды развертывания могут наблюдать поведение моделей, практики работы с данными или случаи использования клиентами, которые никогда не появляются в публичной документации. Если эти люди не могут выражать свои опасения без риска для карьеры, внешнее наблюдение начинается слишком поздно.
Аудиты важны по другой причине. Системы ИИ всё чаще рекламируются через общие утверждения: безопаснее, умнее, более соответствующие требованиям, более надежные. Покупателям и регулирующим органам нужны доказательства, которые могут быть проверены кем-то, кроме команды по коммуникациям поставщика.
Проблема заключается в определении триггера. Чат-бот, используемый для мозгового штурма, не должен сталкиваться с такой же нагрузкой, как модель, используемая для кредитных решений, медицинской сортировки, найма, полицейской деятельности или критической инфраструктуры. Именно поэтому обсуждение политики смещается в сторону уровней риска, отраслевых правил и обязательств, связанных с последствиями, а не только с размером модели.
Компании будут утверждать, что чрезмерно широкие требования к аудиту замедляют инновации и подрывают защиту собственных систем. Они не совсем неправы. Плохо продуманные правила могут превратить соблюдение в бюрократию, не делая системы безопаснее. Но их полное отсутствие оставляет общественность зависимой от добровольного раскрытия информации компаниями, которые имеют сильные стимулы к быстрому запуску продуктов.
Наиболее полезный режим не будет требовать от правительства проверки каждой подсказки или каждого обновления модели. Он будет требовать от компаний документировать, для чего предназначена система, какие данные и доказательства оценки поддерживают её развертывание, какие режимы сбоев были выявлены, как сообщаются инциденты и какие меры может предпринять пользователь, если решения причиняют ущерб.
Политическая ситуация будет запутанной, потому что ответственность за ИИ касается трудовых отношений, конфиденциальности, конкуренции, национальной безопасности и защиты потребителей. Тем не менее направление ясно. Доступ к моделям был первой резонансной борьбой. Следующими будут доказательства, раскрытие информации и ответственность.
Если Вашингтону удастся сделать это правильно, управление ИИ станет меньше зависеть от драматических вмешательств при каждом новом запуске и больше — от устойчивых институтов. Если он ошибется, каждый крупный релиз будет оставаться переговором, проведённым под давлением.
Темы: политика в области ИИ, Вашингтон, подотчётность, аудиты