Этика
Гонка вооружений по обнаружению дипфейков ускоряется — и защитники проигрывают
По мере того как синтетические медиа, созданные с помощью ИИ, становятся неотличимыми от подлинного контента, компании, разрабатывающие инструменты обнаружения, испытывают трудности с темпом работы генераторов. Новый доклад фиксирует растущий разрыв.
Майкл С.
В январе 2024 года сотрудник финансового отдела многонациональной компании в Гонконге перевел 25 миллионов долларов мошенникам после участия в видеоконференции, на которой каждый другой участник — включая финансового директора компании — был дипфейком. На тот момент это был самый дорогой случай мошенничества с использованием дипфейков, когда-либо зафиксированный. По стандартам 2026 года это уже не кажется удивительным. Технология улучшилась, инструменты стали дешевле и доступнее, а разрыв между тем, что может сгенерировать ИИ, и тем, что могут определить системы обнаружения, существенно увеличился.
Новый отчет Института ИИ-криминалистики, опубликованный на этой неделе, документирует текущее состояние области обнаружения дипфейков с необычной откровенностью. Центральный вывод отчета ясен: лучшие доступные коммерческие инструменты обнаружения правильно идентифицируют видеоконтент, созданный ИИ, примерно в 65% случаев в реальных условиях. Лучшие инструменты генерации создают контент, который обманывает человеческих наблюдателей примерно в 85% случаев. Асимметрия не нова, но она растет.
Технические причины этой асимметрии хорошо понятны. Системы обнаружения обучены выявлять конкретные артефакты — несоответствия в освещении, неестественные шаблоны моргания, тонкие искажения по линии волос — которые характеризуют результаты систем текущего поколения. Но системы генерации также обучены, частично, чтобы избегать этих артефактов. Результат — классическая противоборствующая динамика: каждое улучшение возможностей обнаружения в конечном итоге уравновешивается улучшениями в генерации, и системы обнаружения всегда играют в догонялки.
Обнаружение по своей сути реактивно. Вы можете выявлять только те артефакты, которые знаете, что нужно искать, а генераторы постоянно создают новые. Мы участвуем в гонке, которую нельзя выиграть исключительно на технической основе.
Ведущий исследователь, Институт судебной экспертизы искусственного интеллекта
Последствия выходят далеко за рамки финансового мошенничества. Избирательная кампания 2026 года в нескольких странах характеризовалась распространением синтетических медиа, на которых кандидаты якобы произносят слова, которых они никогда не говорили. В нескольких случаях видео с дипфейками были просмотрены миллионы раз, прежде чем их идентифицировали как синтетические. Когда же происходила идентификация, она достигала лишь части первоначальной аудитории. Проблема исправления — хорошо задокументированная тенденция того, что ложная информация распространяется быстрее и дальше, чем исправления — значительно усиливается, когда ложная информация представлена в виде видео.
Некоторые технологические компании предложили технические решения проблемы происхождения. Стандарт C2PA, который теперь поддерживается компаниями Adobe, Microsoft, Google и несколькими крупными производителями камер, встраивает криптографические подписи в контент на этапе его создания. Контент, который был значительно изменен после создания, будет иметь поврежденную или отсутствующую подпись. Этот подход решает проблему происхождения для контента, созданного совместимыми устройствами и ПО, но он не работает для контента, созданного несоответствующими инструментами — а это включает все современные системы генерации дипфейков.
В отчете Института судебной экспертизы ИИ рекомендуется сочетание технических, правовых и социальных подходов. С технической стороны, он призывает к увеличению инвестиций в исследования по обнаружению, а также к предоставлению инструментов обнаружения бесплатно журналистам, избирательным органам и организациям гражданского общества. С правовой стороны, он рекомендует уголовную ответственность за использование дипфейков в финансовом мошенничестве и вмешательстве в выборы, а также гражданскую ответственность для платформ, которые сознательно размещают синтетические медиа без раскрытия информации. С социальной стороны, он призывает к образовательным программам по медийной грамотности, которые помогут людям понять ограничения их интуитивной способности выявлять синтетический контент.
Ни одна из этих рекомендаций не является новой, и разрыв между рекомендацией и её внедрением остаётся значительным. Изменилось только чувство срочности. Технология больше не является теоретической или экспериментальной — она внедрена, доступна и используется для причинения вреда в масштабах. Время, чтобы опередить проблему, если оно когда-либо существовало, быстро истекает.