Политика
Вооружённые силы США используют ИИ для победы в военных играх — и результаты тревожат
Учения ВС США показывают, как системы ИИ обрабатывают разведывательные данные с поля боя в реальном времени, вызывая острые вопросы о автономном принятии решений в сценариях конфликта.
Патрик Т ·
В серии засекреченных и полу-засекреченных военных игр, проведенных за последние шесть месяцев, военные США тестировали системы ИИ, которые могут обрабатывать разведданные с поля боя в реальном времени, определять оптимальные тактические решения и рекомендовать действия человеческим командирам — все это в течение нескольких секунд после получения новой информации. По словам официальных лиц, которые говорили с MANTIS_ на условиях анонимности, результаты были одновременно впечатляющими и глубоко тревожными.
Проект Афина
Основная система, находящаяся на оценке, известна внутри компании как Проект Афина, совместная разработка Агентства передовых оборонных исследовательских проектов (DARPA) и нескольких крупных оборонных подрядчиков. Афина объединяет данные с космических снимков, разведки сигналов, потоков с дронов и наземных сенсорных сетей в единую оперативную картину, которая обновляется непрерывно и анализируется большой языковой моделью, доработанной на основе военной доктрины и данных о исторических конфликтах.
В сценариях военных игр Афина стабильно превосходила команды командиров, состоящие только из людей, по показателям, включая время реакции, эффективность распределения ресурсов и тактический элемент неожиданности. В одном упражнении, моделирующем спорную морскую среду, команда с поддержкой Афины выявила и отреагировала на маневр условного противника на 8,3 минуты быстрее, чем аналогичная команда, состоящая только из людей — разрыв, который военные планировщики считают потенциально решающим в реальных сценариях.
Вопрос автономности
Преимущества в производительности командования с поддержкой ИИ не подвергаются сомнению. Предметом споров — и тем, что вызывает значительные внутренние дебаты в армии — является вопрос автономности. Текущая доктрина требует, чтобы все решения о применении смертоносной силы принимались человеческими командирами. Athena в своей нынешней конфигурации предоставляет рекомендации, но не предпринимает автономных действий. Однако скорость, с которой работает Athena, создает давление на ослабление этого ограничения.
В сценариях, где противники используют собственные системы ИИ для работы на машинной скорости, человеческие командиры, которые настаивают на рассмотрении каждой рекомендации перед действием, могут оказаться систематически перехитренными. Несколько старших военных чиновников утверждали в внутренних документах, рассмотренных MANTIS_, что требование «человека в цепочке» может потребоваться пересмотреть в некоторых высокоскоростных сценариях. Другие резко возражали, утверждая, что исключение человеческого суждения из решений о применении смертоносной силы пересекает моральную и юридическую границу, которую не следует переходить независимо от тактического преимущества.
Мы не создаём автономное оружие. Мы создаём инструменты поддержки принятия решений. Но грань между этими двумя понятиями тоньше, чем большинство людей осознают.
Старший чиновник DARPA, выступавший на условиях анонимности
Международное право и законы вооружённого конфликта
Юридическое измерение военного ИИ является сложным и в значительной степени неразрешённым. Законы вооружённого конфликта, закреплённые в Женевских конвенциях и последующем международном гуманитарном праве, требуют, чтобы военные командиры проявляли суждение и соблюдали пропорциональность при применении силы. Вопрос, могут ли системы ИИ удовлетворять этим требованиям — и могут ли человеческие командиры, которые сильно полагаются на рекомендации ИИ, нести ответственность за результаты — остаётся без ответа в международном праве.
Международный комитет Красного Креста призвал к созданию нового международного договора, специально посвященного автономным боевым системам, утверждая, что существующее международное гуманитарное право недостаточно для решения новых проблем, вызванных искусственным интеллектом в войне. Соединенные Штаты сопротивляются этому призыву, утверждая, что существующее право достаточно и что новый договор ограничил бы военные возможности Америки без предоставления аналогичных ограничений для противников.
Китай и измерение соперничающей державы
Срочность программы развития ИИ в Вооруженных силах США в значительной степени обусловлена оценками возможностей китайских военных в области ИИ. Народно-освободительная армия активно инвестирует в ИИ для военных приложений, и оценки американской разведки свидетельствуют о том, что Китай разрабатывает автономные оружейные системы с меньшими этическими ограничениями, чем те, которые применяются в ВС США.
Это создаёт то, что военные стратеги называют динамикой «гонки на дно»: если одна сторона внедряет автономное оружие и получает тактическое преимущество, другая сторона сталкивается с давлением сделать то же самое, независимо от этических соображений. Несколько бывших высокопоставленных военных чиновников утверждали, что Соединённым Штатам необходимо установить чёткие «красные линии» в отношении автономного оружия — как для собственных сил, так и в качестве основы для международных переговоров — прежде чем технология достигнет такого уровня, когда такие ограничения станут непрактичными.
Более широкие последствия
Опыт военных с военными играми с ИИ имеет последствия, которые выходят далеко за пределы поля боя. Те же самые динамики — ИИ-системы, которые работают быстрее человеческого принятия решений, давление на устранение человеческого контроля ради конкурентного преимущества, и международные управленческие рамки, отстающие от технологических возможностей — присутствуют на финансовых рынках, в управлении критически важной инфраструктурой и других сферах с высокими ставками.
Опыт военных показывает, что вопрос человеческого контроля в системах ИИ является не просто техническим или философским вопросом — это стратегический вопрос. Организации и страны, которые правильно найдут этот баланс, поддерживая значимый человеческий контроль при одновременном использовании преимуществ ИИ, будут иметь значительное преимущество перед теми, кто полностью отказывается от помощи ИИ или отказывает человеческий контроль в стремлении к максимальной производительности. Поиск этого баланса является одной из ключевых задач текущего момента.