Политика
Тестирование Frontier AI становится проблемой доказательств, а не проблемой принципов
По мере того как правительства и компании, разрабатывающие модели, обсуждают оценку до выпуска, центральный вопрос смещается с того, существуют ли обязательства по безопасности, на то, могут ли внешние организации увидеть достаточно доказательств, чтобы их оценить.
Майкл С.
Дебаты о тестировании передового ИИ выходят за рамки вопроса о том, должны ли компании давать обязательства. Более сложный вопрос заключается в том, какие доказательства нужны правительствам, клиентам и общественности, чтобы они могли решить, значат ли эти обязательства что-либо.
Добровольные принципы помогли создать общий словарь по вопросам риска, красной команды и ответственного выпуска. Но принцип — это не измерение. Он не может показать, насколько тщательно была протестирована система, что нашли оценщики, какие меры защиты не сработали или почему компания решила, что внедрение все равно приемлемо.
Вот почему тестирование до выпуска стало институциональным вопросом. Компания обладает наибольшими знаниями о своей модели, но у нее также есть самый сильный стимул описывать её производительность в благоприятном свете. У правительств может быть полномочие, но не всегда есть техническая способность проверять быстро меняющуюся систему.
Надежная структура не потребовала бы, чтобы каждая деталь модели была опубликована. Она потребовала бы достаточного раскрытия информации, чтобы определить, что было протестировано, какие способности вызвали повышенную обеспокоенность, насколько реалистичной была тестовая среда, какие меры были применены и кто имел полномочия отменить решение о выпуске.
Проблема эталонного теста особенно важна. Модель может работать безопасно на узком тесте, но вести себя иначе при использовании с инструментами, при длинном контексте, в составе рабочего процесса или в руках целеустремленного противника. Оценки должны отражать способ фактического развертывания систем, а не только то, как они выглядят в лаборатории.
Идеальной публичной таблицы лидеров для оценки передового риска не существует. Некоторые результаты придётся защищать, так как они раскрывают уязвимости или чувствительные возможности. Тем не менее конфиденциальность не должна становиться всеобъемлющей причиной для секретности. Независимые рецензенты, структурированные сообщение о происшествиях и защищённые каналы раскрытия информации могут обеспечить проверку без публикации руководства по злоупотреблению.
Для компаний, покупающих ИИ, действует та же логика. Заявление поставщика о безопасности должно вызывать практические вопросы: что было оценено, кто это проверял, как отслеживаются изменения и что происходит после вредоносного сбоя? Закупки становятся одним из самых важных механизмов подотчетности, поскольку они превращают абстрактные гарантии в контрактные обязательства.
Эра передовых моделей не будет управляться одной лишь обещанием быть осторожным. Ею будет управлять наличие доказательной базы у мощных систем, достаточной для проверки другими людьми.
Темы: управление ИИ, оценка моделей, передовой ИИ, подотчетность