Политика
План политики направлен на меры ИИ по защите от разработки биологического оружия
Новая рамочная политика призывает к усиленному контролю за продвинутыми моделями ИИ, чтобы снизить риски их использования в разработке биологического оружия. План подчеркивает методы оценки, контроль доступа и координацию между правительством и технологическими компаниями.
Майкл С.
Полная дорожная карта политики, опубликованная на этой неделе, предлагает новые меры предосторожности, направленные на снижение риска того, что продвинутые модели искусственного интеллекта могут способствовать разработке биологического оружия. Согласно сообщению Axios, эта структура решает конкретную проблему среди специалистов по безопасности и политиков: большие языковые модели и подобные системы, обученные на огромных массивах общедоступной информации, могут снизить некоторые информационные и планировочные барьеры, которые исторически защищали чувствительные биологические знания. Дорожная карта не утверждает, что искусственный интеллект сам по себе создает биологические угрозы, а скорее определяет его как один из факторов среди многих, включая доступ к материалам, специализированные знания, лабораторную инфраструктуру и возможность выполнения действий.
Политическая рамка сосредоточена на четырех основных операционных областях. Во-первых, она призывает к улучшению методов оценки для определения того, когда и каким образом модели могут способствовать разработке биологического оружия. Во-вторых, предлагается система контроля доступа, которая могла бы ограничивать или отслеживать взаимодействие определенных пользователей с чувствительными возможностями моделей. В-третьих, устанавливаются протоколы для отчетности о инцидентах, когда выявляются вызывающие беспокойство использования. В-четвертых, подчеркивается важность координационных механизмов между государственными агентствами, технологическими компаниями и международными партнерами для обмена информацией об угрозах и передовым опытом. Каждая область продолжает вызывать споры среди экспертов, поскольку операционные границы неясны: определить, что считается вызывающей озабоченность возможностью, какие ограничения доступа эффективны и как делиться конфиденциальной информацией, не подвергая риску безопасность или экономическую конкурентоспособность. Отчёт Axios документирует материалы, лежащие в основе этого отчета.
Инициатива отражает растущее понимание того, что биологическая безопасность в эпоху передового ИИ требует институциональных рамок, которые не существовали, когда разрабатывались старые политики биологической безопасности. Конвенция о запрещении биологического оружия, впервые открытая для подписания в 1972 году и ныне обязательная для более чем 180 государств, запрещает разработку и накопление биологического и токсинного оружия, но была составлена до появления машинного обучения. Всемирная организация здравоохранения выпустил рекомендации по биобезопасности и биозащите, но эти рамки аналогично предшествуют текущим возможностям ИИ. Сегодня перед политиками стоит вопрос о том, как адаптировать международные соглашения и национальные нормы для решения рисков, которые охватывают одновременно разработку технологий, научные исследования, общественное здравоохранение и национальную безопасность.
Оценка и доступ
Компонент оценки дорожной карты опирается на существующие модели из исследований в области безопасности ИИ, включая Рамочную систему управления рисками ИИ NIST, которая предоставляет методы для выявления и оценки рисков в развернутых системах ИИ. Оценщики будут проверять, могут ли модели быть использованы для предоставления информации о синтезе патогенов, методах культивирования, методах создания оружия или стратегиях распространения. Сложность заключается в различении информации двойного назначения, которая имеет законные научные и санитарно-гигиенические применения, и информации, основная полезность которой заключается в разработке оружия. Исследователю в области микробиологии, изучающему механизмы заболеваний, может потребоваться доступ к информации, похожей на ту, которая нужна человеку, разрабатывающему биологическое оружие. Политическая рамка не устраняет это различие, но признает его как центральную техническую и этическую проблему, требующую постоянного сотрудничества между исследователями ИИ, биологами и специалистами по безопасности.
Предложения по контролю доступа различаются по охвату. Некоторые предлагают ограничивать доступ к моделям, требуя проверки личности и институциональной принадлежности для пользователей, задающих чувствительные вопросы. Другие предлагают ограничивать информацию, которую модели предоставляют при прямых запросах о биологическом оружии. Еще другие рекомендуют отслеживать подозрительные модели использования без полного ограничения доступа. Каждый подход имеет компромисс между безопасностью и открытостью. Ограничительный доступ может замедлить законные научные исследования или создать препятствия для исследователей из стран с ограниченными институциональными ресурсами. Разрешительный доступ сохраняет научную открытость, но может оказывать помощь субъектам с вредоносными намерениями. Дорожная карта подчеркивает, что решения о доступе должны учитывать как оценку безопасности, так и более широкие политические цели, включая научный прогресс и справедливый доступ к технологиям. Операционная дилемма также отражена в Конвенции о биологическом оружии.
Принципы ИИ ОЭСР, принятые странами-участницами для руководства ответственным развитием ИИ, подчеркивают прозрачность и вовлечение заинтересованных сторон в управлении ИИ. Дорожная карта соответствует этому акценту, предлагая разрабатывать политики доступа через диалог между технологическими компаниями, государственными учреждениями и научным сообществом, а не через односторонние корпоративные или регуляторные решения. Это требование к координации отражает признание того, что ни один участник не обладает полной информацией о рисках или решениях. Компании лучше всего понимают свои системы, но не имеют полного представления о угрозах безопасности. Государственные учреждения понимают угрозы, но могут не иметь технической экспертизы в области ИИ. Научное сообщество понимает последствия двойного использования, но действует независимо от процессa формирования политики. Построение институциональных отношений между этими группами остаётся неполным и оспариваемым. Для более широкого контекста, Рамка управления рисками ИИ NIST описывает соответствующий стандарт или учреждение.
Международная координация и подотчётность
Наиболее амбициозный компонент дорожной карты касается международной координации. Биологическая безопасность давно рассматривается как требующая глобального управления, потому что патогены не признают границ, а исследования двойного назначения проводятся во многих странах. В рамках предлагается, чтобы страны создавали каналы для обмена информацией о потенциально опасных возможностях моделей ИИ без раскрытия либо конфиденциальных сведений по безопасности, либо проектных данных проприетарных систем ИИ. Механизм такого обмена информацией в значительной степени остается теоретическим. Принципы ИИ ОЭСР помогает разместить проблему в более широком контексте политики и инженерии.
Рекомендация ЮНЕСКО по этике ИИ, принятая государствами-членами в 2021 году, призывает к созданию механизмов управления, отражающих такие ценности, как права человека, защита окружающей среды и социальная ответственность. Дорожная карта ссылается на эти принципы, одновременно признавая, что их реализация в контексте биологической безопасности требует учета напряженности между конкурирующими ценностями: безопасность против научной открытости, национальные интересы против международного сотрудничества и предотвращение рисков против предосторожности против чрезмерного вмешательства. Рамки подчеркивают, что меры защиты должны разрабатываться с учетом прозрачности и общественного доверия, а не как непрозрачные меры безопасности, налагаемые без объяснений или подотчетности.
Механизмы принуждения остаются слабо развитыми в дорожной карте. Кто контролирует соблюдение требований к доступу и отчетности о инцидентах? Какие санкции применяются, если компании не внедряют меры защиты или скрывают вызывающие тревогу случаи использования? Как разрешаются международные споры, когда страны не согласны в вопросе, представляют ли определенные возможности ИИ риск биологического оружия? Дорожная карта определяет эти вопросы как требующие дальнейшей работы, а не предоставляет окончательные ответы. Это отражает существующую реальную неопределенность: структуры управления биологической безопасностью, предназначенные для биологических исследований и инспекций оружия, существуют, но аналогичные структуры для управления ИИ находятся на ранней стадии и оспариваются.
Основная предпосылка дорожной карты остаётся взвешенной и основанной на доказательствах: передовые модели ИИ могут уменьшить некоторые барьеры в разработке биологического оружия, но фактический биологический ущерб зависит от множества факторов, помимо возможностей модели. Доступ к патогенам, специализированное лабораторное оборудование, обучение микробиологии и молекулярной биологии, а также постоянные усилия в направлении вооружения остаются необходимыми условиями для разработки биологического оружия. Риск заключается не в том, что модели ИИ создают биологические угрозы из ниоткуда, а в том, что они могут понизить порог для действующих лиц, которые уже обладают определенной комбинацией мотивации, навыков и ресурсов. Политическая рамка направлена на повышение этого порога с помощью мер предосторожности, которые сохраняют полезные применения ИИ, одновременно снижая конкретные риски для биобезопасности. Достижимость такой калибровки остается открытым вопросом, на который опыт в конечном итоге даст ответ. Этот последний пункт можно сопоставить с Рекомендацией ЮНЕСКО по этике ИИ.
Темы: искусственный интеллект, биобезопасность, политика, оружие, общественное здоровье