Политика
Трамп и Си обсудят экстренную горячую линию по ИИ на пекинском саммите, инициированную из-за модели Mythos от Anthropic
Государственный визит президента Трампа в Пекин на этой неделе включит обсуждения создания экстренного канала связи между США и Китаем по вопросам искусственного интеллекта — это изменение курса вызвано общим беспокойством по поводу модели Mythos от Anthropic, которую оба правительства рассматривают как беспрецедентное кибероружие.
Патрик Т ·
Когда президент Трамп приедет на этой неделе в Пекин с государственным визитом к китайскому президенту Си Цзиньпину, в повестку дня войдет то, чего ни одна из администраций не ожидала обсуждать: безопасность искусственного интеллекта. В значительном отступлении от прежней политики администрации Трампа, которая была более либеральной в вопросах регулирования ИИ, до саммита были проведены тихие обсуждения о возможности возобновления экстренного канала связи между Вашингтоном и Пекином по вопросам ИИ — дипломатической инициативы, которая застопорилась при Байдене и была полностью заброшена в первые годы президентства Трампа.
Катализатором, по словам должностных лиц, осведомленных о переговорах, является модель Mythos компании Anthropic. Выпущенная в прошлом месяце, модель Mythos была оценена как американскими, так и китайскими аналитиками правительства как качественный скачок в возможностях ИИ — с прямыми последствиями для национальной безопасности. Способность модели самостоятельно выявлять и использовать уязвимости в системах цифровой коммуникации, финансовой инфраструктуре и государственных базах данных вызвала тревогу у чиновников в обеих столицах.
От Вудсайда до Пекина
История американо-китайской дипломатии в области ИИ коротка и в целом неуспешна. В 2023 году Байден и Си провели свои первые высокоуровневые переговоры о рисках ИИ в Вудсайде, Калифорния. В следующем году делегация США отправилась в Швейцарию для официальных переговоров, только чтобы обнаружить, что китайская сторона пренебрегает опасениями американцев по поводу рисков передового ИИ. Пекин рассматривал обсуждение как предлог для контроля за экспортом, а не как подлинный диалог о безопасности.
Единственным конкретным результатом того периода стало соглашение ноября 2024 года в Перу, где обе стороны согласились не допускать ИИ к управлению ядерным оружием. Джейк Салливан, советник Байдена по национальной безопасности, охарактеризовал это как «разрыв печати» — доказательство того, что некоторого соглашения можно достичь. Он призвал приходящую команду Трампа продолжить диалог. Они этого не сделали.
Всё это изменилось за последние несколько недель. Администрация Трампа, когда-то стремившаяся к технологическому превосходству, теперь впервые сталкивается с мощью ИИ, которая может быть развязана, если её не контролировать.
Джейк Салливан, бывший советник США по национальной безопасности
Фактор Мифос
То, что изменило расчёты, — это Мифос. Возможности модели отраслевые инсайдеры и правительственные аналитики описывают как беспрецедентное кибероружие — способное внедряться и эксплуатировать цифровые системы в масштабе и с такой скоростью, с которой никакая команда людей не сможет сравниться. Команда Mozilla по исследованию безопасности выявила сотни новых векторов атаки в Мифос всего через несколько недель после его выпуска. Сообщается, что модель способна создавать рабочие эксплойты для ранее неизвестных уязвимостей быстрее, чем большинство организаций успевают устранять известные.
Для администрации Трампа, которая рассматривала превосходство в ИИ как ключевую цель национальной безопасности, Mythos представлял проблему: технология, которую они спешили развить, стала достаточно мощной, чтобы угрожать системам, которые она должна была защищать. Для Пекина, который давно утверждал, что развитие ИИ в США безрассудно, Mythos был доказательством того, что сама динамика гонки является опасной.
Как выглядела бы горячая линия по ИИ
Предлагаемый чрезвычайный канал смоделирован на существующих механизмах коммуникации между двумя державами — ядерной горячей линии, созданной после Карибского кризиса, и каналах связи между военными, используемых для предотвращения случайной эскалации в Тайваньском проливе. Старший чиновник администрации сообщил журналистам в воскресенье, что Белый дом намерен создать канал «подобный другим, которые они используют во многих областях с интенсивным взаимодействием с США и Китаем», добавив, что его формальность «ещё предстоит определить».
Эксперты осторожны в оценках того, чего такой канал может достичь. Аалок Мехта из Центра Вадхвани по искусственному интеллекту при CSIS отметил, что существует «почти нулевая поддержка со стороны американских законодателей для ведения официальных обсуждений по управлению ИИ с Китаем», учитывая преобладающее мнение о том, что гонка в области ИИ является игрой с принципом «выигрывает победитель». Любое соглашение столкнулось бы с глубоким скепсисом в Конгрессе, где существует двухпартийный консенсус, что Китаю нельзя доверять выполнение обязательств в области технологий.
Более насущный вопрос заключается в том, принесет ли саммит вообще какое-либо заявление. Обсуждения описываются как предварительные, а разрыв между стратегическими интересами двух сторон остается большим. США стремительно движутся к созданию ИИ общего назначения (AGI); Китай сосредоточен на внедрении ИИ в промышленность. США хотят установить ограничения для передовых моделей; Китай хочет, чтобы США сняли ограничения на экспорт микросхем. Найти общий язык в этом контексте — дипломатическая задача первого порядка, но факт того, что обе стороны вообще ведут переговоры, представляет собой сдвиг, которого мало кто предсказывал.