Этика
Первый нулевой день, написанный ИИ: когда автономные кибератаки становятся неотличимыми от человеческих
Раскрытие компанией Google нулевого дня, созданного ИИ, в мае 2026 года вынудило сообщество по безопасности столкнуться с вопросом, который долго откладывался: каковы этические обязательства лабораторий ИИ, модели которых могут автономно обнаруживать уязвимости и превращать их в оружие?
Патрик Т ·
В мае 2026 года команда безопасности Google обнародовала то, что исследователи описывают как первый подтвержденный нулевой день, созданный ИИ и обнаруженный в дикой природе. Эксплойт, написанный на Python, был идентифицирован автоматическими системами обнаружения угроз Google до того, как его удалось применить против производственной инфраструктуры. Раскрытие было кратким и техническим. Этические вопросы, которые оно поднимало, — нет.
Этот инцидент произошёл в том же месяце, когда Anthropic признала, что её самая продвинутая модель, Claude Mythos, обнаружила тысячи ранее неизвестных уязвимостей в основных веб-браузерах и операционных системах во время внутреннего тестирования — способность, которая была настолько тревожной, что компания решила не выпускать модель в публичный доступ до разработки новых мер безопасности. В этом выпускном объявлении Opus 4.8 на этой неделе Anthropic намекнула, что период предварительного просмотра Mythos может скоро закончиться, как только эти меры будут завершены.
Проблема двойного использования в масштабах
Проблема двойного использования в ИИ — та же способность, которая позволяет создавать полезные приложения, также может использоваться для вредоносных целей — не нова. Новым является масштаб и скорость, с которыми передовые модели теперь могут работать. Человеческий исследователь безопасности может потратить недели или месяцы на выявление одной критической уязвимости. Модель, работающая на уровне возможностей, приписываемых Claude Mythos, теоретически может за несколько часов обследовать всю поверхность атак крупной платформы программного обеспечения. Асимметрия между наступательными и оборонительными возможностями не только техническая; она этическая.
Человеческий исследователь может потратить месяцы на выявление одной критической уязвимости. Передовая модель может за несколько часов обследовать всю поверхность атак платформы. Этический вопрос не в том, возможно это или нет — а в том, кто несет ответственность, когда это используется.
Вопрос о том, кто несет ответственность, когда система ИИ используется для проведения кибератаки, не решен существующими правовыми рамками. Большинство законов о киберпреступности были написаны с учетом действий человека. Когда модель ИИ автономно выявляет уязвимость, создает эксплойт и запускает его против цели — потенциально без того, чтобы человек проверял каждый шаг — цепочка ответственности становится по-настоящему неясной. Лаборатория ИИ несет ответственность? Оператор, который развернул модель? Пользователь, который дал исходную инструкцию?
Дилемма раскрытия
Решение компании Anthropic не выпускать Claude Mythos в публичный доступ представляет собой один из подходов к управлению проблемой двойного применения: просто не публиковать возможность до тех пор, пока не будут внедрены меры безопасности. Но этот подход имеет свои собственные этические сложности. Уязвимости, которые Mythos обнаружил во время внутренних тестов, существуют независимо от того, будет ли модель опубликована. Если исследователи Anthropic выявили тысячи незащищённых уязвимостей в крупных программных платформах, этическое обязательство раскрыть эти уязвимости затронутым поставщикам — и практическая сложность сделать это в масштабах — создают дилемму, на которую компания пока публично не ответила.
Сообщество исследователей в области безопасности долгое время действовало по норме ответственного раскрытия: исследователи, обнаружившие уязвимости, уведомляют пострадавших поставщиков и предоставляют разумный срок для исправления перед публичной публикацией деталей. Эта норма была разработана для отдельных исследователей, работающих над отдельными уязвимостями. Она не применима напрямую к сценарию, в котором система ИИ одновременно выявила тысячи уязвимостей на десятках программных платформ без проверки каждого обнаружения человеком.
В сторону создания рамок киберответственности ИИ
Из сообществ, занимающихся безопасностью и этикой ИИ, поступило несколько предложений. Один из подходов предполагает, что лаборатории ИИ должны создавать формальные программы раскрытия уязвимостей, работающие на скорости машин — автоматизированные конвейеры для уведомления производителей, когда модели обнаруживают критические уязвимости во время внутреннего тестирования. Другой подход предусматривает строгую ответственность лабораторий ИИ за кибератаки, проведенные с использованием их моделей, создавая финансовые стимулы для более консервативной разработки возможностей. Третий подход предполагает рассматривать самые опасные возможности ИИ как технологии двойного назначения, подлежащие экспортному контролю и лицензированию, аналогично существующей системе для криптографического программного обеспечения.
Ни одна из этих рамочных моделей не была принята ни одной крупной юрисдикцией. Закон ЕС об ИИ, даже в своей измененной комплексной форме, не рассматривает конкретно кибератаки, сгенерированные ИИ. В Соединенных Штатах нет федерального законодательства по обеспечению безопасности ИИ. Разрыв между скоростью развития возможностей и скоростью нормативного реагирования никогда не был таким большим — и раскрытие уязвимости нулевого дня в мае 2026 года предполагает, что последствия этого разрыва больше не являются теоретическими.
Темы: кибербезопасность, этика ИИ, уязвимость нулевого дня, Клод Мифос, автономный ИИ