Этика
Более одной трети новых английских веб-страниц содержат текст, написанный ИИ, согласно анализу Pew
Анализ, проведённый Центром исследований Pew, 500 000 веб-страниц, опубликованных с момента запуска ChatGPT, показал, что машинный текст встречается более чем в одной трети нового английского веб-контента, при этом коммерческие сайты лидируют по внедрению. Эти выводы вызывают вопросы о подлинности контента, точности выявления и необходимости более четких стандартов раскрытия информации.
Майкл С.
Более одной трети англоязычных веб-страниц, опубликованных с момента запуска ChatGPT, содержат тексты, созданные машиной, согласно анализу Исследовательского центра Pew. Этот вывод, основанный на изучении примерно 500 000 веб-страниц, сигнализирует о значительном сдвиге в том, как создается и распространяется контент в интернете в больших масштабах. В отчете не утверждается, что эти страницы были созданы полностью без участия человека. Исследователи признали существующую неопределенность при обнаружении текстов, созданных машиной, с помощью автоматизированных инструментов, и цифра в одну треть представляет собой снимок текущих возможностей обнаружения, а не окончательный подсчет.
Анализ выявил значительные различия между различными типами веб-сайтов. Коммерческие домены .com гораздо чаще использовали текст, сгенерированный ИИ, чем государственные или академические сайты. Эта тенденция указывает на то, что снижение затрат и скорость производства контента могут стимулировать использование в коммерческом секторе, в то время как институциональные сайты сохраняют более строгие редакторские стандарты или сталкиваются с другими регуляторными требованиями. Исследователи Pew не предоставили разбивку по конкретным отраслям или бизнес-моделям, которые наиболее сильно полагаются на технологию, оставляя открытым вопрос о том, какие сектора больше всего затронуты. Отчет Decoder документирует материалы, лежащие в основе этого отчета.
Обнаружение текста, написанного машиной, по-прежнему технически неопределенно. Анализ Pew использовал автоматизированные методы обнаружения, которые имеют известные ограничения в отличии человеческого и машинного авторства, особенно по мере усложнения языковых моделей. Возможны как ложноположительные, так и ложноотрицательные результаты. Согласно отчету The Decoder, масштаб внедрения значительно ускорился с конца 2022 года, опережая разработку надежных стандартов обнаружения. Исследовательский центр Pew предоставляет полезную техническую информацию для оценки этого утверждения.
Прозрачность и подотчетность
Распространение текста, написанного машинами, в интернете поднимает фундаментальные вопросы о прозрачности и общественном доверии к онлайн-информации. Большинство сайтов, содержащих обнаруженный ИИ-текст, не раскрывают этот факт читателям. Нет обязательного стандарта, требующего от издателей маркировать контент, созданный ИИ, оставляя аудиторию без четких сигналов о авторстве или редакционном процессе. Это отсутствие раскрытия информации создаёт потенциальные проблемы для читателей, пытающихся оценить достоверность источника, для журналистов, оценивающих справочный материал, и для регуляторов, пытающихся понять состав онлайн-информационных экосистем. Операционный компромисс также отражается в Common Crawl.
Механизмы институциональной ответственности не успели за внедрением. У издателей, платформ и поставщиков технологий мало ясных обязанностей по отслеживанию или отчетности о использовании ИИ при создании контента. Отраслевые группы, такие как C2PA предложили технические стандарты для происхождения контента, но их внедрение остается ограниченным и добровольным. Без обязательного раскрытия информации или аудита третьими сторонами у общественности ограниченные возможности оценивать, насколько широко распространена практика за пределами академических исследовательских выборок. Эта непрозрачность влияет на доверие к конкретным публикациям и потенциально к цифровой информации в целом.
Регуляторная среда и пробелы в политике
Регуляторы и законодатели начинают рассматривать вопросы, связанные с контентом, созданным ИИ, хотя подходы остаются фрагментарными. Рамка управления рисками ИИ NIST Принципы ИИ ОЭСР и принципы регулирования устанавливают концепции управления для обеспечения прозрачности и подотчетности, но реализация на уровне контента остаётся слабо развитой. Некоторые юрисдикции изучают требования к раскрытию информации о тексте, созданном ИИ, в конкретных контекстах, таких как реклама или коммуникации правительства, но всеобъемлющей системы для более широкого интернета не существует. Скорость принятия, задокументированная Pew, превосходит разработку политических ответов.
Разрыв между внедрением технологий и регуляторной ясностью имеет реальные последствия. Создатели контента сталкиваются с неопределённостью в отношении лучших практик. Издатели, принимающие редакционные решения, не имеют последовательных руководящих указаний. Читатели не могут легко определить, был ли текст написан человеком, машиной или их комбинацией. Эта непрозрачность осложняет работу исследователей, архивариусов и систем, таких как Common Crawl, которые пытаются сохранять и понимать интернет как исторический архив. Различие между коммерческими и институциональными площадками указывает на то, что рыночные стимулы и институциональные нормы приводят к различным результатам. Останется выяснить, станут ли основным механизмом регулирования этого контента добровольные отраслевые стандарты, нормативные требования или их комбинация. Последний момент можно проверить по Принципы ИИ ОЭСР.
Темы: ИИ, достоверность контента, управление интернетом, ответственность СМИ, цифровая этика