Политика
Великобритания будет использовать данные с украинского поля боя для обучения AI-систем, защищающих чувствительные объекты
Британское правительство сотрудничает с украинской лабораторией Avengers AI, предоставляя частным компаниям доступ к данным, полученным на поле боя, для разработки систем искусственного интеллекта по защите военных баз, железных дорог и энергетической инфраструктуры. Такая договоренность вызывает вопросы о согласии на использование данных, стандартах классификации, гражданских последствиях и независимом надзоре.
Майкл С.
Великобритания стремится использовать боевой опыт Украины для разработки искусственного интеллекта, предоставляя частным компаниям доступ к данным с поля боя, собранным в ходе конфликта с Россией. Согласно отчету The Guardian, Министерство обороны Великобритании установило партнерство с украинской лабораторией Avengers AI, которое позволит подрядчикам оборонной отрасли и технологическим фирмам использовать информацию, полученную в ходе операций, для обучения систем ИИ, предназначенных для защиты объектов критической национальной инфраструктуры, включая военные объекты, железнодорожные сети и энергетические установки. Эта инициатива представляет собой усиление того, как западные правительства превращают реальные конфликты в технологические возможности, хотя она вызвала фундаментальные вопросы о том, как такие данные должны классифицироваться, кто должен давать согласие на их использование и какие меры предосторожности предотвращают воздействие технологии на гражданское население.
В рамках этого соглашения частные компании получили бы структурированный доступ к образцам, сигнатурам и тактической информации, полученной из украинских военных операций, без получения сырой боевой съемки или идентифицирующей информации о отдельных солдатах или гражданских лицах. Данные будут использоваться для обучения моделей машинного обучения, предназначенных для обнаружения вторжений, прогнозирования уязвимостей инфраструктуры и автоматизации оборонительных ответов на объектах в Великобритании. Официальные лица охарактеризовали это партнерство как взаимовыгодное, отметив, что сотрудничество укрепляет технологические позиции Украины, одновременно предоставляя Британии ИИ-системы, основанные на недавнем оперативном опыте, а не на исторических данных или лабораторных симуляциях. Сообщается, что сфера охватывает как кинетические боевые действия, так и киберразведку. Отчет The Guardian документирует материалы, лежащие в основе этого отчета.
Заявленная модель управления предусматривает контроль как со стороны Министерства обороны Великобритании, так и со стороны украинских должностных лиц, при этом решения о закупках принимаются через существующие каналы оборонного контрактования. Частные компании, участвующие в программе, будут работать в рамках процедур допуска к секретной информации и контрактных ограничений, ограничивающих использование данных для указанных оборонительных целей. Однако публичная информация о независимых механизмах проверки остается ограниченной. Вопросы о том, будут ли внешние аудиторы оценивать практики обработки данных, будут ли проводиться регулярные проверки на предмет рассекречивания и включает ли данное соглашение условия завершения, официальными лицами окончательно не были даны.
Происхождение данных представляет собой отдельную проблему. Боевые данные изначально создаются в зонах боевых действий, где присутствуют гражданские лица, и извлечение оперативно полезных закономерностей требует обработки, которая может исказить исходный контекст. Хотя официальные лица подчеркивали, что данные будут обеззаражены и агрегированы, конкретные методы обеспечения того, чтобы системы ИИ не кодировали предвзятости, возникшие в результате конфликтных ситуаций, или случайно не способствовали принятию решений о поражении цели, публично не раскрывались. Военные Великобритании ранее признавали, что автономные системы требуют надежных мер предосторожности для предотвращения вреда, однако механика этих мер в данном случае остается неясной. Министерство обороны Великобритании предоставляет полезную техническую информацию для оценки этого утверждения.
Согласие и границы классификации
Центральное напряжение в инициативе связано с согласием. Вооружённые силы Украины действуют под своей собственной командной структурой и юридической юрисдикцией, однако данные, которые они генерируют, поступают в многонациональный технологический конвейер. Хотя Украина формально согласилась на партнёрство, остаётся неясным, были ли индивидуальные военнослужащие или пострадавшие гражданские лица консультированы по поводу использования данных, полученных в боевых действиях, для обучения ИИ. Великобритания не опубликовала документацию, показывающую, как она оценивала, требует ли чувствительность данных более высокой классификации, или же сбор данных на поле боя проводился с осознанием того, что информация будет передаваться международно частным компаниям. Руководство NIST по управлению рисками в области ИИ рекомендует, чтобы документация происхождения данных сопровождала наборы данных, используемые для систем с высокими рисками, стандарт, применение которого к этой программе не подтверждено. Операционный компромисс также отражен в стратегии НАТО по ИИ.
Решения о классификации определят, какие компании могут получать доступ к данным и на каких условиях. Если информация будет засекречена, доступ остается ограниченным для подрядчиков с допуском и соответствующей инфраструктурой объектов. Если классификация ниже, данные могут распространяться шире по цепочкам поставок, создавая увеличение числа точек обработки и хранения. Правительство Великобритании не уточняло публично уровень классификации, ссылаясь на оперативную безопасность, хотя именно эта непрозрачность создаёт разрыв между заявленной моделью управления и тем, что может быть проверено независимо. Чиновники указали, что программа следует существующим правилам закупок для обороны, но эти правила были установлены до возникновения конкретных задач управления, связанных с ИИ-системами, обученными на многонациональных боевых данных.
Вопрос о побочных эффектах для гражданских лиц выходит за рамки фазы обучения. Системы ИИ, обученные на боевых схемах, даже если они предназначены исключительно для защиты инфраструктуры, могут содержать тактические предположения, которые отражают условия активного конфликта, а не мирного времени. Если такая система будет развернута для защиты железнодорожной сети, сможет ли она генерировать предупреждения на основе схем, напоминающих военные перемещения, но на самом деле отражающих гражданскую активность? Министерство обороны Великобритании не публиковало технических спецификаций, объясняющих, как системы будут настроены для предотвращения ложных срабатываний, которые могут нарушить работу гражданского транспорта или коммунальных служб. Для более широкого контекста, Рамка управления рисками ИИ NIST описывает соответствующий стандарт или учреждение.
Закупки и независимый обзор
Процесс закупок для этой инициативы будет проходить через стандартные каналы оборонного контрактования, что означает, что компании должны участвовать в конкурентных торгах и соответствовать требованиям безопасности. Однако критерии оценки того, какие компании получают доступ к данным, а какие нет, остаются внутренними для Министерства обороны. Нет опубликованного требования прозрачности закупок, нет внешней консультативной панели и нет механизма, позволяющего широкой общественности понять, какие фирмы имеют или имели доступ к данным. Это контрастирует с Принципы ИИ ОЭСР структура, которая делает акцент на прозрачность и участие заинтересованных сторон в управлении ИИ, особенно для систем с значительными общественными последствиями.
Независимый контроль по-прежнему является самым существенным пробелом в объявленной структуре. Правительство Великобритании не создало внешнюю наблюдательную комиссию, академическую контрольную группу или парламентский комитет с конкретной ответственностью за мониторинг работы и результатов этой программы. Сравните это с развивающейся практикой в других странах: некоторые правительства разработали процессы оценки воздействия алгоритмов и требования к аудиту третьими сторонами для систем ИИ, влияющих на общественную безопасность. Инициатива Великобритании, напротив, по-видимому, полагается исключительно на внутренние проверки соблюдения правил Министерством обороны и договорные обязательства подрядчиков. Представители властей утверждают, что существующие правила классификации и протоколы безопасности обеспечивают достаточный контроль, однако эти механизмы работают конфиденциально и не создают отчетов о публичной подотчетности.
Долгосрочная устойчивость самого партнерства в области данных остается неопределенной. Как долго будут сохраняться и использоваться данные с украинских полей боя? Будут ли они обновляться новой оперативной информацией по мере продолжения или изменения конфликта? Что произойдет с обученными системами ИИ, если партнерство будет прекращено или если отношения между Великобританией и Украиной изменятся? Эти вопросы важны, потому что они определяют, представляет ли программа собой временный ответ на текущие обстоятельства или создание постоянной инфраструктуры для преобразования данных о конфликте в ходе операций в постоянное развитие технологий в мирное время.
Правительство Великобритании представило эту инициативу как ответственный подход к использованию союзнического партнерства для взаимной безопасности. Украинские официальные лица охарактеризовали её как признание их операционного опыта и средство укрепления их технологической позиции. Однако структура этой договоренности возлагает значительные решения о использовании данных, обучении моделей ИИ и развертывании систем на министерства обороны и частные подрядные организации с минимальной внешней прозрачностью. По мере того, как системы ИИ становятся частью критически важной инфраструктуры и принимают решения, разрыв между заявленными моделями управления и проверяемым независимым надзором указывает на то, что вопросы ответственности, прозрачности и общественного доверия остаются недостаточно проработанными. Будет ли это партнерство в конечном итоге служить моделью для будущего сотрудничества союзников в области ИИ или предупреждающим примером, зависит от того, какие механизмы надзора появятся на практике и окажутся ли они достаточно надежными для обеспечения доверия общественности. Последний пункт можно проверить на основании Рекомендацией ЮНЕСКО по этике ИИ.
Темы: политика в области ИИ, партнерство Великобритании и Украины, оборонная инфраструктура, управление данными, военные технологии