Этика

Новый документальный фильм показывает злоупотребление глубокими подделками ИИ в рамках борьбы за ответственность платформ

Новый документальный фильм Дженнифер Сибел Ньюсом "Мисс Репрезентация: Поднимайся" освещает вред социальных сетей, онлайн-мизогинию и злоупотребление глубокими подделками с помощью ИИ. Фильм выходит в тот момент, когда регуляторы и платформы сталкиваются с растущим давлением, чтобы рассматривать синтетические сексуальные изображения как проблему безопасности в мейнстриме.

Майкл С.

Новый документальный фильм показывает злоупотребление глубокими подделками ИИ в рамках борьбы за ответственность платформ
MANTIS_

Дженнифер Сибел Ньюсомновый документальный фильм Miss Representation: Встань ставит в центр дебатов о подотчетности платформ соцсетевые опасности, онлайн-мизогинию и злоупотребления с использованием AI дипфейк-технологий согласно The Guardian. Время выхода фильма выбрано точно: синтетические сексуальные изображения перешли от нишевых форумов в разговоры о безопасности молодежи, знаменитостей и политики.

Документальный фильм касается не только AI. Речь идет о системе стимулов вокруг внимания, преследований и гендерного вреда. AI важен, потому что снижает стоимость унижения. Человеку больше не нужны технические навыки, чтобы создать или распространить синтетическое изображение, которое может навредить безопасности, репутации и ощущению контроля над своим телом.

Синтетический вред все еще является реальным вредом

Одним из провалов в ранних дебатах о дипфейках была идея, что подделанные изображения якобы менее серьёзны, потому что изображённые события не происходили на самом деле. Жертвы знают обратное. Вред часто возникает от распространения, принуждения, неопределённости, появления в школе или на рабочем месте и осознания того, что удаление никогда не бывает полным после того, как изображение распространилось.

Злоупотребление ИИ часто доходит до жертв через обычные потребительские устройства и ленты платформ, что делает предотвращение и быстрое удаление центральными вопросами безопасности. Изображение: MANTIS_.
Злоупотребление ИИ часто доходит до жертв через обычные потребительские устройства и ленты платформ, что делает предотвращение и быстрое удаление центральными вопросами безопасности. Изображение: MANTIS_.

Вот почему имеет значение дизайн платформы. Инструменты обнаружения, процедуры сообщений, настройки конфиденциальности по умолчанию, защита молодежи, водяные знаки и наказание повторных нарушителей — всё это определяет, будет ли синтетическое злоупотребление рассматриваться как чрезвычайная ситуация или просто как ещё один тикет модерации. Выбор продукта — это выбор политики.

Закон догоняет неравномерно

Правительства начинают криминализировать синтетические сексуальные изображения без согласия и требовать более быстрого удаления, но юридическая карта остаётся неоднородной. Разрыв между скоростью создания и скоростью исполнения — вот где насилие процветает. Даже жёсткие законы могут казаться слабыми, если жертвы не могут удалить контент до его архивирования, зеркалирования и повторного распространения.

Дебаты по подотчётности платформы всё чаще сосредоточены на том, могут ли компании предотвратить, обнаружить и устранить злоупотребления синтетическими медиа до того, как они станут вирусными. Изображение: MANTIS_.
Дебаты по подотчётности платформы всё чаще сосредоточены на том, могут ли компании предотвратить, обнаружить и устранить злоупотребления синтетическими медиа до того, как они станут вирусными. Изображение: MANTIS_.

Культурный вопрос так же важен. Если злоупотребление дипфейками станет нормой среди подростков и молодых людей, правовые реформы будут бороться с последствиями на фоне разрушенной нормы согласия. Образование должно объяснять не только то, что злоупотребление синтетическими изображениями незаконно или наказуемо, но и то, что это нарушение, даже когда изображение физически не реально.

Безопасность ИИ за пределами модели

Темы: Этика ИИ, злоупотребление дипфейками, безопасность платформ, социальные сети