Этика
Расследование Guardian выявляет инфраструктуру, стоящую за приложением ClothOff для дипфейков
Вторая фаза расследования отслеживает сети, платёжные системы и хостинг-сервисы, обеспечивающие создание сексуальных дипфейков без согласия. Расследование выявляет пробелы в применении законодательства на различных платформах, у платёжных процессоров и правоохранительных органов.
Майкл С.
Продолжающееся расследование The Guardian в отношении ClothOff — приложения, используемого для создания несогласованных сексуальных дипфейков, выявило инфраструктуру и человеческие сети, поддерживающие сервис, несмотря на растущие юридические проблемы и общественное возмущение. Второй эпизод расследования раскрывает, как приложение работает в разных юрисдикциях через распределённый хостинг, несколько платёжных каналов и минимальную проверку возраста, создавая пробелы в подотчетности, позволяющие создателям и дистрибьюторам избежать обнаружения. Расследование документирует, как жертвы обнаруживают свои изображения в интернете часто спустя несколько месяцев спустя создание, при этом операторы платформ или хостинг-провайдеры берут на себя ограниченную ответственность за пользовательский контент.
Техническая архитектура приложения распределяет обработку данных между несколькими серверами в странах с различными правовыми рамками, регулирующими дипфейки и изображения без согласия. Согласно расследованию, операторы ClothOff не раз меняли места размещения серверов под давлением закона, что усложняло действия правоохранительных органов по вручению уведомлений или обеспечению сотрудничества. Платежные системы расторгли отношения с связанными счетами, но расследование выявило доказательства того, что альтернативные способы оплаты возобновляли обслуживание, что указывает на то, что операторы адаптировали источники дохода, а не прекратили деятельность. Механизм взимания платы с пользователей остается скрытым, при этом транзакции проходят через посредников, которые скрывают конечного получателя. Расследование The Guardian документирует материалы, лежащие в основе этого отчета.
Центральный вопрос ответственности платформ касается обязанностей провайдеров хостинга, платёжных сетей и сервисов нижнего уровня. Расследование изучало, проводили ли эти посредники должную проверку клиентов или реагировали на сообщения о злоупотреблениях. Большинство компаний, к которым обратились, отказались комментировать конкретные инциденты или заявили, что полагаются на сообщения пользователей и юридические процедуры для выявления проблемного контента. Платёжные процессоры, как правило, заявляли, что прекращают сотрудничество с торговцами при обнаружении незаконной деятельности, но расследование показало, что повторная регистрация под другими юридическими лицами позволяла возобновлять транзакции. Провайдеры хостинга аналогично утверждали, что удаляют контент при получении действительных юридических требований, но часто у них отсутствуют механизмы, позволяющие жертвам или исследователям напрямую сообщать о злоупотреблениях.
Риски проверки возраста и эксплуатации
Расследование выявило минимальные возрастные гарантии в процессе адаптации пользователей приложения. Согласно сообщениям, ClothOff не собирает государственных удостоверений личности и опирается на самоуведомленные возрастные декларации. Этот разрыв создает риск создания и распространения дипфейковых изображений с изображением несовершеннолетних, которые по закону считаются материалами о сексуальном насилии над детьми в большинстве юрисдикций. T Национальный центр по делам пропавших и эксплуатируемых детей задокументировала случаи, связанные с дипфейками, хотя организация сообщает, что многие подобные случаи остаются незарегистрированными платформами или сообщаются слишком поздно, чтобы сохранить доказательства. Исследователи и активисты призывают платформы и платежные процессоры внедрять более сильные системы проверки возраста, особенно для сервисов, создающих или распространяющих сексуальный контент.
Инициатива по кибер-гражданским правам и аналогичные организации опубликовали ресурсы, документирующие то, как жертвы могут сообщать о несогласованных дипфейках и сохранять доказательства. StopNCII.org, работающий при поддержке крупных платформ и платежных компаний, предоставляет базу данных и механизм отчетности для изображений без согласия. Однако расследование показало, что рабочие процессы для отчетности о дипфейках остаются непоследовательными на различных платформах, и многие жертвы сообщают о замешательстве относительно того, куда подавать жалобы и приведет ли их отчет к удалению контента. Правоохранительные органы, с которыми связывались во время расследования, сообщили, что они получают отчеты, но сталкиваются с трудностями в выявлении преступников через международные юрисдикции и в обеспечении сотрудничества от компаний, которые неохотно сохраняют или передают данные пользователей без официального юридического процесса.
Пробелы в обеспечении и вопросы политики
Расследование выявляет системные пробелы в обеспечении соблюдения правил, которыми пользуются ClothOff и аналогичные сервисы. Платежные процессоры используют системы обнаружения, предназначенные в основном для выявления мошенничества и нарушений санкций, а не неконсентного сексуального контента. Провайдеры хостинга заявили, что они полагаются на претензии по поводу интеллектуальной собственности, судебные приказы или запросы правоохранительных органов для удаления контента, что означает, что неконсентные дипфейки продолжают существовать, если жертва или уполномоченное лицо не подаст официальную жалобу. В нескольких юрисдикциях были введены или предложены законы, криминализирующие создание и распространение насильственных дипфейков, однако их соблюдение остается ограниченным из-за возможностей проведения расследований, вопросов трансграничной юрисдикции и сложности установления авторства контента конкретными лицами, когда инструменты широко распространены. Для более широкого контекста, Инициатива кибер-гражданских прав описывает соответствующий стандарт или учреждение.
Эксперты, консультировавшиеся по расследованию, отметили, что системы модерации контента на платформах, включая инструменты машинного обучения, предназначенные для обнаружения насильственного контента, достигли ограниченной эффективности в случае дипфейков, поскольку изображения создаются вычислительно, а не являются фотографиями. Рамка управления рисками ИИ NIST и аналогичные руководящие документы рекомендовали организациям, использующим технологии синтетических медиа, проводить оценку воздействия и внедрять меры защиты от злоупотреблений, однако внедрение остается неравномерным среди коммерческих поставщиков. Некоторые исследователи утверждают, что распространение инструментов для создания дипфейков без встроенных ограничений на создание сексуального контента представляет собой значительный пробел, так как возлагает ответственность полностью на платформы и органы правоприменения, а не на самих разработчиков инструментов.
Расследование документирует, как жертвы испытывают насыщенный вред, когда их попытки удалить несогласованные дипфейки сталкиваются с бюрократическими препятствиями или равнодушием со стороны операторов сервисов. Несколько опрошенных сообщали, что обнаружили свои изображения, опубликованные на разных платформах, и были вынуждены подавать отдельные жалобы на каждый сайт. Некоторые утверждали, что ответы на платформу задерживались или что контент появлялся после удаления. Одна из жертв описала этот опыт как дегуманизирующий и отметила, что репутационный ущерб распространяется на профессиональные и личные отношения, когда другие сталкиваются с ложными изображениями. Эти отчеты подчёркивают, как правоприменение и ответственность платформ напрямую влияют на способность людей выйти за рамки нарушений.
Международная координация по регулированию дипфейков остаётся на зарождающейся стадии. The Принципы ИИ ОЭСР, принятые государствами-членами и отраженные в новых нормативных актах, таких как Закон ЕС об ИИ, призывают к прозрачности, человеческому контролю и подотчетности в системах, использующих искусственный интеллект. Однако большинство нормативных актов касаются ИИ-систем, развернутых организациями, а не инструментов, распространенных среди миллионов пользователей. Расследование показало, что у правоохранительных органов нет установленных протоколов для расследования трансграничных случаев дипфейков, а компании не имеют постоянного обязательства сохранять доказательства до завершения расследования. Эксперты, опрошенные Guardian, предположили, что борьба с инфраструктурой, позволяющей создавать недобровольные дипфейки, потребует скоординированных действий правоохранительных органов, регуляторов, процессоров платежей и хостинговых провайдеров, а также разработки технологий для обнаружения и предотвращения злоупотреблений на этапе создания инструмента, а не только на этапах его распространения.
Темы: дипфейки, сексуальное насилие, ответственность платформ, расследование, цифровые права