Этика
Креаторы Голливуда сталкиваются с проблемой обучения систем ИИ, которые могут лишить их работы
Творческие работники в кино и телевидении получают оплату за помощь в разработке инструментов искусственного интеллекта, при этом все больше беспокоясь о том, что те же системы могут автоматизировать значительные части их будущей работы. Напряжение между немедленным доходом от обучения и долгосрочным вытеснением труда изменяет способы, которыми индустрия развлечений ведет переговоры с технологическими компаниями.
Майкл С.
Сценаристы, аниматоры, художники по визуальным эффектам и другие творческие профессионалы в Голливуде сталкиваются с парадоксом: их нанимают для обучения систем искусственного интеллекта, которые в будущем могут их заменить. Как документировал The Guardian, такая ситуация создала сложный этический ландшафт, где работники балансируют между немедленной финансовой необходимостью и экзистенциальным риском для своей профессии, поднимая трудные вопросы о согласии на осведомленное участие, справедливой компенсации и будущем творческого труда в индустрии развлечений.
Сама работа достаточно проста. Студии и технологические компании заключают контракты с творческими специалистами на аннотирование сценариев, маркировку сцен, описание визуальных композиций и тегирование диалогов таким образом, чтобы помочь обучать модели машинного обучения. Оплата варьируется от гонораров за проект до почасовой оплаты, и для некоторых работников, сталкивающихся с спадом в индустрии или промежутками между проектами, этот доход обеспечивает необходимую финансовую стабильность. Один сценарист описал работу как доступную и относительно хорошо оплачиваемую по сравнению с начальными позициями в отрасли, что делает ее привлекательным вариантом в периоды экономической неопределенности. Отчет The Guardian документирует материалы, лежащие в основе этого отчета.
Тем не менее долгосрочные расчеты вызывают тревогу у многих участников. Они учат машины распознавать и воспроизводить те же творческие решения, которые сами принимают в своей работе. Аниматор, работающий над разметкой движений персонажей для захвата движения, прямо признала существующую напряженность: она понимает, что каждый проект, который она помечает, делает основную систему более совершенной, что потенциально снижает спрос на человеческих аниматоров. Это понимание чувствуется неуютно наряду с практической реальностью, что ей нужна работа сейчас. Переговорная позиция асимметрична. У работников нет значимого рычагa для переговоров о условиях, которые могли бы защитить их будущие интересы, и большинство не имеют официальных каналов для выражения озабоченности по поводу совокупного воздействия их участия.
Индустрия развлечений имеет недавние воспоминания о трудовых спорах, напрямую связанных с технологическими изменениями. Гильдия сценаристов Америки и SAG-AFTRA за последние восемнадцать месяцев заключили соглашения, касающиеся использования ИИ в написании сценариев и изображения актёров, устанавливая прецедент для контрактной защиты. Тем не менее, эти соглашения в основном применяются к работникам, состоящим в профсоюзе, и к решениям студий о внедрении технологий. Фаза обучения, когда отдельные творческие специалисты нанимаются как подрядчики или по временным контрактам, в значительной степени находится за пределами этих рамок. Работники, участвующие в обучении ИИ, часто лишены профсоюзного представительства, ясного долгосрочного статуса занятости или доступа к тем же контрактным защитам, которые обеспечены их профсоюзными коллегами.
Разрыв между доходами от обучения и рисками на рынке труда
Структура финансовых стимулов создаёт давление, которое осложняет этические размышления. Супервайзер по визуальным эффектам оценил, что работа по обучению ИИ может составлять от 15 до 20 процентов её годового дохода в периоды спада, что является значительной суммой, влияющей на её возможность выполнять обязательства по ипотеке и здравоохранению. В то же время она осознавала, что широкое внедрение ИИ в сфере визуальных эффектов может изменить требования к профессии и снизить общую численность работников в её области. Она описала когнитивный диссонанс: она получает личную выгоду от работы по обучению, но коллективное участие её профессии в этом обучении может со временем нанести вред самой профессии.
Информированное согласие во многих случаях остается неполным. Большинство контрактов на обучение включают соглашения о неразглашении, которые препятствуют работникам обсуждать объем, продолжительность или реальные возможности систем, которые они помогают создавать. Эта конфиденциальность, хотя и является стандартной практикой в технологических контрактах, скрывает масштаб разработки ИИ и мешает работникам делать коллективные оценки накопленного риска. Сценарист отметила, что она не знает, сколько других писателей нанимают для подобной работы по аннотированию, каков общий размер обучающего набора данных и насколько активно компании планируют внедрять завершённые модели. От неё просят принимать индивидуальные экономические решения без доступа к информации, которая позволила бы оценить системные последствия. Операционная компромисс также отражается в SAG-AFTRA.
Вопрос об отнесении авторства и выплатах роялти добавляет еще один уровень сложности. В отличие от профсоюзной творческой работы, где роялти оговариваются и выплачиваются при повторном использовании контента или его распространении в новых форматах, работа по обучению ИИ обычно таких положений не включает. Творческий работник, который помогает обучать модель, создающую тысячи сценариев или визуальных материалов, получает единовременное вознаграждение за первоначальную работу по обучению, и больше ничего. Нет механизма, позволяющего признать его вклад, когда обученная модель генерирует коммерческую ценность в течение месяцев или лет. Это представляет собой отступление от традиционных практик работы в сфере развлечений, где постоянные потоки доходов признают долгосрочную ценность творческой работы. В США Для более широкой перспективы, Инициатива ИИ Бюро по авторскому праву США описывает соответствующий стандарт или учреждение.
Вопросы подотчетности и обеспечения соблюдения
Регуляторные рамки остаются слабо развитыми. Инициатива по искусственному интеллекту в Бюро авторских прав США и другие государственные органы изучают практики обучения ИИ, но полномочия по обеспечению соблюдения остаются неясными, а правила пока находятся на ранней стадии. Компаниям предоставляется широкая свобода устанавливать собственные условия для работы по обучению. Без четких стандартов раскрытия информации, справедливой компенсации или защиты от технологической безработицы отдельные работники ведут переговоры из позиции относительной слабости. Документальный кинорежиссер, который участвовал в некоторых тренировочных работах, описал свое разочарование отсутствием прозрачности относительно того, чему именно его просили способствовать в создании, и как будут использоваться полученные модели.
Отраслевые организации и академические исследователи предложили рамки для устранения этих пробелов. Рамка управления рисками ИИ NIST Принципы ИИ и ОЭСР в области ИИ подчеркивают прозрачность, подотчетность и вовлечение заинтересованных сторон в разработку ИИ. Применительно к труду в индустрии развлечений такие рамки требовали бы от компаний раскрывать цели и объем работы по обучению, предоставлять четкую информацию о предполагаемом использовании моделей и создавать механизмы, позволяющие работникам выражать обеспокоенность влиянием на рынок труда. Останется ли реализация этих принципов в виде обязательных отраслевых стандартов или регулирования – пока неизвестно.
Несколько творческих работников признали, что обсуждали создание неформальных коалиций для обмена информацией о возможностях обучения и условиях работы, пытаясь выстроить коллективные знания при отсутствии официальных каналов. Одна аниматор отметила, что она и коллеги обмениваются информацией через групповые чаты о том, какие компании нанимают для работы по аннотированию, сколько они платят и включают ли контракты проблемные пункты. Этот обмен информацией между равными обеспечивает некоторый противовес информационной асимметрии, но он хрупок и зависит от постоянных личных связей.
Более глубокий вопрос заключается в том, служит ли текущая структура долгосрочным интересам как творческих работников, так и устойчивых рынков труда в индустрии развлечений. Компании выигрывают от недорогих обучающих данных, создаваемых людьми, наиболее разбирающимися в автоматизируемых творческих областях. Работники получают немедленный доход. Но эта структура создает стимулы для работников участвовать в своем собственном технологическом вытеснении, без надежных механизмов, обеспечивающих справедливый переход или поддержку тех, кто больше всего пострадал от автоматизации, в перепрофилировании или переквалификации. По мере развития возможностей ИИ и ускорения его внедрения кумулятивный эффект этих отдельных решений может изменить структуру труда в индустрии развлечений способами, которые не были явно согласованы или коллективно одобрены. Последний пункт можно проверить с помощью Принципы ИИ ОЭСР.
Темы: труд ИИ, индустрия развлечений, права работников, этика технологий, автоматизация