Политика
Институт ИИ безопасности Великобритании становится глобальной моделью — вот почему
Сотрудники из OpenAI и Google, Институт ИИ безопасности Великобритании разрабатывает новый подход к управлению ИИ, который другие страны начинают копировать.
Патрик Т ·
Когда правительство Великобритании учредило Институт безопасности ИИ в ноябре 2023 года, это мероприятие в целом рассматривалось как добронамеренная, но скромная инициатива — небольшая команда исследователей занималась оценкой передовых моделей ИИ перед их публичным выпуском. Два с половиной года спустя организация (ныне переименованная в Институт безопасности ИИ, или AISI) стала чем-то гораздо более значимым: примером того, как правительства могут осмысленно взаимодействовать с разработкой ИИ, не просто бездумно принимая утверждения отрасли и не вводя контрпродуктивные ограничения.
Преимущество талантов
Наиболее отличительной особенностью AISI является её персонал. В отличие от большинства государственных агентств, испытывающих трудности с привлечением технических специалистов в конкуренции с зарплатами частного сектора, AISI удалось привлечь выдающуюся концентрацию экспертов по ИИ. В числе текущих и бывших сотрудников — выпускники OpenAI, Google DeepMind, Anthropic и нескольких ведущих академических исследовательских групп по ИИ. Технический директор организации ранее руководил исследованиями по безопасности в крупной лаборатории ИИ; несколько её старших исследователей опубликовали влиятельные работы по согласованию ИИ и интерпретируемости.
Эта концентрация талантов придала AISI авторитет в индустрии ИИ, которого большинству государственных учреждений не хватает. Когда исследователи AISI выявляют проблему безопасности в передовой модели, крупные компании в области ИИ воспринимают это всерьёз — не из-за юридической обязаны, а потому что исследователи, высказывающие озабоченность, являются их коллегами, чьему техническому суждению они доверяют. Эта динамика позволила создать форму неформального управления, которая дополняет, а в некоторых аспектах превосходит то, чего удалось достичь формальному регулированию.
Рамки оценки
AISI разработала всеобъемлющую структуру для оценки передовых моделей ИИ, которая стала отраслевым эталоном. Эта структура оценивает модели по нескольким аспектам: возможности (что модель может делать), безопасность (какие риски представляет модель) и защищённость (как модель может быть злоупотреблена). Каждый аспект оценивается с помощью комбинации автоматизированного тестирования и экспертной человеческой оценки.
Эта структура была применена к моделям всех крупных разработчиков ИИ, и результаты — хотя не всегда полностью обнародованы — повлияли на решения о развертывании в нескольких заметных случаях. По крайней мере в двух случаях оценки AISI выявили значительные проблемы с безопасностью, что побудило компании по ИИ отложить публичное развертывание, одновременно внедряя дополнительные меры предосторожности. Компании, участвовавшие в этих случаях, публично их не подтверждали, но несколько источников, знакомых с оценками, описали их для MANTIS_.
AISI продемонстрировала, что правительство может быть настоящим партнером в обеспечении безопасности ИИ, а не препятствием для инноваций. Это модель, которую стоит воспроизводить.
Бывший старший должностное лицо Национального института стандартов и технологий США
Международная экспансия
Успех AISI привлек значительное международное внимание. В начале 2024 года США создали собственный Институт безопасности ИИ при Национальном институте стандартов и технологий, явно ориентируясь на британскую организацию. Япония, Канада, Сингапур и Европейский Союз уже создали или находятся в процессе создания аналогичных учреждений. В мае 2026 года AISI подписал формальные соглашения о сотрудничестве с аналогичными организациями в семи странах, создав фактически неформальную международную сеть для оценки безопасности ИИ.
Эта сеть имеет практическое значение. Передовые модели ИИ разрабатываются небольшим числом компаний, большинство из которых базируется в Соединённых Штатах, но они внедряются по всему миру. Координированная международная система оценки означает, что проблемы безопасности, выявленные в одной юрисдикции, могут быть быстро переданы коллегам в других странах, создавая более комплексную систему безопасности, чем могла бы обеспечить любая отдельная национальная организация.
Ограничения и вызовы
Модель AISI не лишена ограничений. Мандат организации носит консультативный, а не регулирующий характер — она может выявлять проблемы безопасности и рекомендовать изменения, но не может принуждать компании, разрабатывающие ИИ, к их внедрению. Это ограничение стало более значимым по мере развития возможностей ИИ и увеличения потенциальных последствий нарушений безопасности. Несколько нынешних и бывших сотрудников AISI публично утверждали, что организации необходимы официальные регулирующие полномочия для полной эффективности.
Также возникает вопрос о масштабах. Рамки оценки AISI были разработаны для передовых моделей ИИ — наиболее способных систем, разработанных ведущими лабораториями ИИ. Но экосистема ИИ теперь включает тысячи моделей, многие из которых представляют собой доработанные версии открытых базовых моделей, внедряемых организациями с ограниченной экспертизой в области безопасности. Текущие возможности AISI недостаточны для оценки более чем небольшой части этих внедрений.
Дальнейший путь
Несмотря на эти ограничения, AISI представляет собой значительное достижение в области управления ИИ. Он показал, что государственные учреждения могут развивать подлинную техническую экспертизу в области ИИ, что неформальные механизмы управления могут быть эффективными при отсутствии формального регулирования, а международное сотрудничество по безопасности ИИ возможно и ценно. Это немалые достижения в области, которая часто характеризовалась большим разрывом между пониманием правительства и способностями отрасли.
Вопрос сейчас заключается в том, сможет ли модель AISI масштабироваться, чтобы справиться с вызовом, который представляет индустрия ИИ, растущая быстрее, чем любое учреждение по управлению может легко отслеживать. Ответ на этот вопрос во многом будет зависеть от политической воли — от того, готовы ли правительства инвестировать ресурсы и принимать институциональную сложность, необходимую для эффективного управления ИИ. AISI показала, что эффективное управление ИИ возможно. Станет ли оно нормой, а не исключением, покажет время.