Безопасность
Клод Ми́тос обнаружил тысячи уязвимостей нулевого дня — и Anthropic не сообщил об этом производителям
Сообщается, что модель Mythos, удерживаемая Anthropic, обнаружила тысячи необновлённых уязвимостей в основных браузерах и операционных системах во время внутреннего тестирования. Проблема раскрытия, которую это создаёт, не имеет прецедентов в истории ответственных исследований в области безопасности.
Патрик Т ·
Когда компания Anthropic в прошлом месяце показала Claude Mythos, она осторожно подходила к тому, что раскрывает. Модель продемонстрировала выдающиеся способности в рассуждениях, программировании и автономном выполнении задач. То, на чем Anthropic публично не акцентировала внимание — но что впоследствии стало известно через круги исследователей безопасности и отраслевые отчёты — это то, что Mythos в ходе внутренних тестов обнаружила тысячи ранее неизвестных, незащищённых уязвимостей во всех основных веб-браузерах и операционных системах. Anthropic удержала модель от публичного выпуска, ссылаясь на проблемы кибербезопасности. Обнаруженные ею уязвимости в значительной степени остаются незащищёнными.
Ситуация представляет собой по-настоящему новую проблему для индустрии безопасности. Ответственное раскрытие информации — практика уведомления поставщиков о уязвимостях до того, как детали станут общедоступными — является краеугольным камнем этической основы сообщества исследователей безопасности. Эта практика была разработана для отдельных исследователей, работающих над отдельными уязвимостями, с временными рамками, измеряемыми неделями или месяцами. Для обработки тысяч одновременных открытий на десятках платформ, созданных системой ИИ, работающей быстрее любой человеческой команды, не существует установленной процедуры.
Масштаб проблемы
Последствия для безопасности возможностей класса Mythos выходят далеко за рамки конкретных уязвимостей, которые модель уже обнаружила. Если одна система ИИ может выявлять тысячи критических уязвимостей за считанные дни или недели, предположение, на котором основана вся экосистема программной безопасности — что уязвимости относительно редки и что период между их обнаружением и эксплуатацией можно контролировать — больше не является верным. Поверхность атаки современного программного обеспечения практически бесконечна, и достаточно способная система ИИ может обходить её со скоростью машины.
Ответственное раскрытие информации было создано для отдельных исследователей, находящих отдельных баги. Оно не имеет процедуры для тысяч одновременно обнаруженных ИИ уязвимостей на десятках платформ. Эта система сломана ещё до того, как была протестирована.
Что Anthropic сделала и не сделала
Anthropic подтвердила, что работает над мерами защиты перед публичным выпуском Mythos, а недавнее объявление Opus 4.8 включало намек на то, что период предварительного просмотра Mythos может закончиться «в ближайшие недели». Компания не делала публичного заявления о том, что она сделала — или планирует сделать — с данными об уязвимостях, выявленными во время внутреннего тестирования Mythos. Исследователи в области безопасности и специалисты по политике напрямую задавали вопрос: уведомила ли Anthropic пострадавших поставщиков? Если да, то каким образом? Если нет, то почему?
Практические трудности значительны. Уведомление каждого пострадавшего поставщика о тысячах уязвимостей на десятках платформ потребует скоординированного процесса раскрытия информации беспрецедентного масштаба. Основные органы по координации уязвимостей — включая Агентство по кибербезопасности и инфраструктурной безопасности США и Центр координации CERT — не были созданы для обработки раскрытий информации в таких объемах. Даже если Anthropic захотела бы следовать стандартным процедурам ответственного раскрытия, инфраструктуры для осуществления этого в масштабе, который требуется для Mythos, в настоящее время не существует.
Проблема конкурентного давления
Ситуация дополнительно усложняется конкурентной динамикой. Anthropic не является единственной компанией, разрабатывающей модели на уровне возможностей Mythos. Наиболее продвинутые внутренние модели OpenAI и исследовательское подразделение DeepMind компании Google работают в том же диапазоне возможностей. Если Anthropic раскрывает уязвимости, обнаруженные Mythos, и устраняет их — фактически укрепляя поверхность атаки против собственной модели — это ничем не препятствует тому, чтобы модель конкурента обнаружила и использовала те же уязвимости. Польза раскрытия информации с точки зрения безопасности зависит от того, будут ли все крупные лаборатории ИИ координировать свой подход, что требует уровня отраслевого сотрудничества, которого в настоящее время не существует.
Дилемма раскрытия информации о Mythos — в миниатюре является предварительным примером проблем управления, которые определят следующую фазу развития ИИ. По мере того как модели становятся способными к автономным действиям в больших масштабах — будь то в кибербезопасности, биологии или других чувствительных областях — вопрос о том, что лаборатории ИИ обязаны раскрывать, кому и в какие сроки, станет одним из центральных вопросов политики десятилетия. Сообщество специалистов по безопасности внимательно следит за следующими шагами Anthropic. Пока компания сказала очень мало.
Темы: Anthropic, Claude Mythos, Zero-Day, Кибербезопасность, Раскрытие уязвимостей