Этика
Чат-боты ИИ давали ненадежные советы по голосованию во время исследования выборов в Венгрии
Исследование, проведенное Liberties и опубликованное в The Guardian, показало, что ChatGPT и Gemini давали противоречивые, неточные и иногда нерелевантные советы по голосованию во время тестов, основанных на парламентских выборах Венгрии 2026 года.
Майкл С.
Новое исследование, основанное на парламентских выборах в Венгрии 2026 года, показало, что чатботы общего назначения на базе ИИ давали избирателям неточные, противоречивые и ненадежные политические советы, что поднимает прямой вопрос управления компаниями, которые представляют разговорные системы как повседневные информационные интерфейсы. The Guardian сообщили, что гражданский свободы Группа Liberties протестировала ChatGPT и Gemini на профилях избирателей, соответствующих партиям в национальных списках Венгрии, и обнаружила, что системы неправильно классифицировали профили, пропускали релевантные партии и включали партии, которые не участвовали в выборах. В исследовании не утверждается, что выводы чат-ботов повлияли на результат выборов. Оно показывает, почему советы по голосованию плохо подходят для непрозрачных систем, которые могут звучать авторитетно, но при этом давать нестабильные рекомендации.
Самым поразительным открытием было Тисза, оппозиционная партия во главе с Петером Магяром, которая одержала решительную победу и положила конец долгому пребыванию Виктора Орбана у власти. Согласно отчету Guardian, когда ChatGPT получил подробный профиль избирателя, ориентированного на Тисзу, он не рекомендовал Тисзу в 90% случаев. В тестах на процентное соответствие ChatGPT присвоил Тисзе оценку лишь в 2% случаев. Системы также включали партии, которых не было в бюллетене 2026 года, в 96% ответов ChatGPT и Gemini. Эти ошибки не являются незначительными фактическими огрехами. В контексте выборов они могут искажать набор вариантов, который избиратель считает реальным.
Проблема усугубляется подачей материала. Исследователи обнаружили, что чат-боты часто начинали с вежливых оговорок о том, что они не могут давать политические советы, а затем переходили к плотным и убедительным рекомендациям по партиям. Эта схема знакома для продуктов ИИ: предупреждение в начале, за которым следует ответ, выглядящий структурированным, уверенным и полезным. В условиях с низкими ставками это противоречие может быть безвредным. В голосовании это опасно, потому что пользователи могут воспринимать ответ как нейтральный анализ, когда система не может объяснить свой метод, воспроизвести тот же результат последовательно или гарантировать, что её политическая карта актуальна.
Венгрия предоставила полезный тестовый случай, потому что её партийная сцена менялась быстро. В отчёте указываются пробелы в данных для обучения, фильтры и ограничения обработки языка как вероятные причины. Всплеск поддержки Тисы после 2024 года означал, что знания статической модели могли отставать от политической реальности. Это объяснение правдоподобно, но не решает проблему. Выборы — именно тот случай, когда актуальная информация имеет наибольшее значение. Чат-бот, который не может надежно отличить текущие варианты бюллетеня от устаревшего политического контекста, не должен вести себя как персональный помощник для голосования.
Эти выводы выявляют пробел в регулировании в Европе. Закон ЕС об ИИ создаёт обязательства для поставщиков ИИ общего назначения по оценке системных рисков, в то время как Закон о цифровых услугах охватывает системные риски для избирательных процессов на онлайн-платформах. Liberties утверждает, что чат-боты общего назначения могут попадать между этими режимами, когда они предоставляют политическую подборку или советы по голосованию. Эта пробел важен, поскольку люди все чаще используют ИИ-системы в качестве заменителей поиска, консультационных механизмов и инструментов объяснения. Если эти системы влияют на гражданские решения, надзор не может ограничиваться только лентами социальных сетей и библиотеками политической рекламы.
Этическая проблема заключается не в том, что ИИ-системы никогда не должны обсуждать политику. У избирателей есть законные вопросы о манифестах, правилах голосования, кандидатах, коалициях и компромиссах в политике. Хорошо спроектированный помощник может помочь людям найти официальную информацию о выборах, сравнить публичные платформы партий и понять, как зарегистрироваться или проголосовать. Этическая граница пересекается, когда общая система предлагает персонализированные рекомендации по партиям без прозрачного указания источников, возможности воспроизводимости и защитных механизмов, которые не позволяют системе придумывать варианты или скрывать релевантные.
Исправление продукта должно быть простым, но строгим. Когда пользователи спрашивают совета по голосованию, чат-боты должны по умолчанию ссылаться на официальные избирательные органы, актуальные списки бюллетеней, непартийные руководства по голосованию и четко цитируемые материалы партий. Они должны избегать указаний пользователю, за кого голосовать, если только система явно не разработана, проверена и регулируется как инструмент для советов по голосованию. Если модель не может получить доступ к актуальным данным выборов, она должна прямо об этом заявить и отказаться от сопоставления с пользователем. Уверенность без возможности отслеживания не является полезной гражданской технологией.
Исследование также имеет значение за пределами Венгрии. В тесных выборах небольшие ошибки в информации могут иметь значение, особенно для неопределившихся избирателей, новых партий, молодых пользователей и людей, которые полагаются на чат-ботов, поскольку традиционную гражданскую информацию трудно освоить. В многоязычных обществах риск может быть выше, потому что политический язык меняется быстро, а локальные данные могут быть скудными. Та же модель, которая демонстрирует приемлемые результаты по вопросам политики США или на английском языке, может не справиться с вопросами о меньших партиях, новых движениях или региональных правилах голосования.
Основная проблема заключается в том, что советы по голосованию объединяют две задачи, с которыми общие чат-боты справляются неравномерно: актуальное получение фактической информации и рекомендации, учитывающие ценности. Пользователь может описывать свои проблемы с коррупцией, налогами, климатом, иммиграцией, здравоохранением или внешней политикой и спрашивать, какая партия ближе всего. Надёжная система советов по голосованию потребовала бы актуальных манифестов, списков кандидатов, позиций коалиций, правил региональных бюллетеней и прозрачного метода оценки. Общая модель, вместо этого, может полагаться на устаревшие данные обучения, фрагменты поисковых результатов, предполагаемую идеологию или завершение шаблонов. Ответ может выглядеть аккуратно, опираясь на хрупкую основу.
Дело с Венгрией особенно поучительно, потому что политические изменения опережали память модели. Возвышение Тисзы изменило партийный ландшафт, но модель, обученная на старых или разрозненных источниках, все еще могла считать старые партии более центральными. Это не странная ошибка для языковой модели; именно это происходит, когда вероятностные системы просят суммировать быстро меняющуюся общественную сферу. Опасность заключается в том, что пользователь не видит степени неопределенности. Чат-бот может представить устаревший политический контекст с той же плавной интонацией, которую он использует для стабильных фактов, таких как столицы или исторические даты.
Традиционные приложения для предоставления советов по голосованию не являются идеальными, но они обычно раскрывают свою методологию. Они задают структурированные вопросы, сопоставляют ответы с позициями партий, показывают процент совпадений, ссылаются на анкеты и различают области политики. Разговор с чат-ботом скрывает большую часть этой механики. Он может задавать дополнительные вопросы, но редко показывает, как каждый ответ изменил окончательный рейтинг. Он может предоставлять рекомендацию по партии, но не воспроизводимый путь к этой рекомендации. Для гражданских технологий такая непрозрачность не является незначительным дефектом дизайна. Это мешает пользователям, аудиторам и регуляторам проверить, обрабатывает ли система партии и избиратели последовательно.
Проблема не решается тем, что говорится, что пользователи должны знать лучше. Продукты ИИ продвигаются как универсальные помощники, замена поисковых систем и эксперты-советники. Компании получают выгоду, когда пользователи задают этим системам серьёзные вопросы. Они не могут затем отказаться от ответственности, когда вопрос становится политически чувствительным. Продукт, который, вероятно, будет получать вопросы о выборах, нуждается в специфическом для выборов поведении. Это может означать перенаправление к официальным источникам, ограничение персонализированных рекомендаций, демонстрацию неопределённости, отказ от ранжирования партий или использование проверенных на непредвзятость данных во время выборного периода.
Регуляторам придется думать шире, чем просто реклама и потоки платформ. Закон о выборах традиционно сосредоточен на финансировании кампаний, доступе к СМИ, подавлении голосов, целостности бюллетеней и дезинформации, распространяемой через публичные каналы. Чат-боты создают частный канал информации. Введен ответ, вводящий в заблуждение, может быть доставлен одному пользователю за раз, без публичного сообщения, которое могли бы проверить фактчекеры, или базы данных для таргетинга, которую могли бы аудировать регуляторы. Это усложняет обеспечение соблюдения. Это также означает, что компаниям необходимо внутреннее наблюдение за классами запросов, связанных с выборами, потому что публичная видимость не поймает каждую ошибку.
Многоязычное измерение — это еще одно предупреждение. Многие демократии функционируют на нескольких языках и региональных диалектах, в то время как большинство оценок ИИ остаются более сильными на английском языке. Модель может предоставлять более точную политическую информацию на языке с обилием обучающих данных и менее точные ответы на языке, на котором меньше качественных источников. Это создает проблему неравенства. Избиратели, использующие языки меньшинств, могут получать менее надежную помощь именно тогда, когда им нужна доступная гражданская информация. Безопасность ИИ в контексте выборов нельзя оценивать только на крупнейших языковых рынках.
Результаты исследований в Венгрии также показывают, почему обычная постфактум-проверка фактов недостаточна для персонализированных политических рекомендаций. Проверяющий факты может опровергнуть публичное заявление о том, присутствует партия в бюллетене или нет. Намного сложнее проверить частный разговор, в котором модель тихо исключает эту партию из ранжированной рекомендации. Вывод может не содержать очевидно ложного предложения. Вред может заключаться в отсутствии соответствующей опции, в весовом распределении вопросов без раскрытия информации или в представлении партии как менее соответствующей, чем позволяют ответы пользователя.
Органы власти по проведению выборов могут быть вынуждены публиковать больше информации в машиночитаемом формате, если они хотят, чтобы системы ИИ правильно направляли пользователей. Официальные сайты часто содержат PDF-файлы, юридические уведомления, страницы на местных языках и фрагментарные обновления, которые понятны людям, но не всегда легко обрабатываются автоматизированными системами. Если чат-боты вообще будут отвечать на вопросы о выборах, правительства и гражданские организации могут снизить риск, предоставляя структурированные списки кандидатов, правила для участков для голосования, сроки подачи бюллетеней и непартийную информацию о партиях. Это не освобождает компании ИИ от ответственности, но предоставляет более безопасным системам лучшие данные для работы.
Существует также проблема бизнес-мотивации. Политические запросы могут составлять лишь небольшую долю от общего трафика чат-ботов, поэтому компании могут недоинвестировать в контроль, специфичный для выборов, до тех пор, пока не произойдет публичный сбой. Но сбои на выборах могут иметь чрезмерные социальные последствия и репутационные риски. Ответственный поставщик должен рассматривать периоды выборов как высокорисковые операционные окна. Это означает предвыборные аудиты, временные ограждения, проверки актуальных данных, локализованную оценку и каналы эскалации для исследователей из гражданского общества, которые обнаруживают ошибки до дня голосования.
Исследование не следует рассматривать как доказательство того, что все гражданские инструменты ИИ обречены. Ограниченный помощник может быть полезен, если он предоставляет официальную информацию, объясняет процедуры голосования, суммирует манифесты партий с указанием источников, переводит правительственные страницы и избегает персонализированных рекомендаций. Разница заключается в дизайне. Гражданский информационный инструмент должен вести себя как тщательно проверенный общественный справочник. Общий чат-бот, которому предлагают импровизировать политическую позицию, ведет себя скорее как непрозрачный эксперт, даже когда пытается быть нейтральным.
Вопрос политической нейтральности особенно сложен, потому что нейтральность не равносильна равному обращению. Модель, которая перечисляет все партии одинаково, может вводить пользователей в заблуждение, если некоторые партии отсутствуют в бюллетене. Модель, которая ранжирует партии по соответствию политике, нуждается в методе оценки. Модель, которая полностью отказывается от политического сопоставления, может разочаровать избирателей, ищущих достоверную информацию. Наиболее безопасный ответ — это не единая универсальная политика, а многоуровневый подход: официальные факты, сравнительные данные с источниками, прозрачные ограничения и отказ только в том случае, если система не может обосновать ответ.
Доступ к исследованиям является еще одной проблемой. Внешним группам нужны способы проверять поведение, чувствительное с политической точки зрения, без нарушения условий платформы или срабатывания систем против злоупотреблений. Компании вполне разумно ограничивают автоматическое тестирование, но аудиты выборов требуют повторного тестирования с различными подсказками, на разных языках, в разных местах и с разными пользовательскими профилями. Если платформы делают такие исследования слишком сложными, общественность узнает о сбоях только после того, как пользователи с ними столкнутся. Более здоровая система обеспечивала бы структурированный доступ исследователей в период выборов, а также каналы для сообщения об ошибках, требующих быстрой корректировки.
Исследование также подчеркивает различие между отказом от дачи советов и предоставлением гражданской поддержки. Модель может отказаться сказать кому-то, за какую партию голосовать, при этом всё равно помогая понять, как сравнивать программы партий. Она может объяснить, что избиратели должны консультироваться с официальными источниками, перечислить вопросы, которые избиратель может захотеть задать, и предоставить ссылки на избирательные органы или непартийные организации. Такой подход не оставляет пользователей в подвешенном состоянии. Он рассматривает модель как проводника к достоверным материалам, а не как источник персонализированного политического вердикта.
Своевременность знаний модели — это проблема управления продуктом, а не только техническое ограничение. Выборы имеют фиксированные календари. Провайдеры могут определить предстоящие национальные голосования, обновить источники данных, локализовать предупреждения и протестировать распространённые гражданские запросы до того, как избиратели начнут массово задавать вопросы. Если в модели отсутствуют актуальные данные, продукт может об этом сообщить. Исследование по Венгрии напоминает, что устаревшие знания предсказуемы в быстро меняющейся политике. Предсказуемые ошибки заслуживают профилактического дизайна, а не ретроспективных извинений.
Вопрос для регуляторов заключается в том, как сделать эти превентивные меры обязательными без превращения каждого политического разговора в нарушение правил. Практическая система могла бы требовать оценки рисков в период выборов, публичного предоставления информации о мерах защиты, доступа исследователей для аудита и быстрого исправления ошибок, когда модели дают неправильную информацию о бюллетенях. Она могла бы избегать контроля за каждым мнением, при этом рассматривая текущие фактические данные о выборах как минимальный стандарт. Этот баланс труден, но альтернативой является предоставление частным ИИ-системам возможности тихо принимать решения о гражданском дизайне, один разговор за раз.
Для пользователей самой безопасной привычкой является обращаться с чат-ботами как с отправной точкой, а не как с авторитетом в гражданских решениях. Но дизайн продукта не должен возлагать всю ответственность на избирателя. Интерфейсы могут делать официальные источники более заметными, показывать дату политических данных, избегать необоснованных рейтингов партий и ясно демонстрировать степень неопределенности. Исследование в Венгрии полезно, потому что оно превращает общую проблему в проверяемые ошибки. Как только ошибки становятся проверяемыми, компании и регуляторы могут оценивать, действительно ли меры защиты улучшают следующий избирательный цикл.
Практический ориентир для улучшения прост: на следующем крупном аудите выборов чат-бот не должен выдумывать партии, пропускать существующие или предоставлять персонализированные рейтинги без прозрачного метода. Это скромный стандарт для систем, которые сейчас используются как повседневные инструменты информации, особенно когда избиратели могут никогда не увидеть второй источник. Это также стандарт, который компании могут проверить до дня выборов, опубликовать после дня выборов и улучшить перед следующей кампанией.
Компании, упомянутые в исследовании, вероятно, будут утверждать, что чат-боты общего назначения не предназначены для замены официальных избирательных ресурсов. Это справедливое замечание, но одних намерений уже недостаточно. Если пользователи спрашивают у этих систем совета по голосованию и системы дают ответ, продукт функционирует как гражданская инфраструктура, независимо от того, как компания это описывает. Более безопасный дизайн признал бы избирательный характер запроса и переходил бы в ограниченный режим, аналогично тому, как запросы по здоровью, финансам или праву часто вызывают более осторожные ответы.
Более широкая демократическая проблема носит накопительный характер. Один неправильный ответ чат-бота может не изменить результаты выборов. Но миллионы приватных разговоров могут формировать представление избирателей о том, что важно, какие партии кажутся жизнеспособными и где найти авторитетную информацию. Опасность заключается не только в явной дезинформации. Она проявляется в тонкой постановке повестки через упущения, устаревший контекст или несогласованное представление информации. Вот почему проверки, подобные исследованию Liberties, важны даже если они не могут доказать влияние на выборы. Они выявляют класс ошибок до того, как он станет нормой.
Урок более широк, чем дезинформация на выборах. Компании, занимающиеся ИИ, создают интерфейсы, которые пользователи все чаще воспринимают как осведомленных посредников. Это создает обязанность признавать, когда задача слишком рискованна для использования общих уверенных разговоров. Консультации по голосованию — одна из таких задач. Самые безопасные системы не будут пытаться выглядеть умными по каждому бюллетеню. Они будут знать, когда нужно отступить, ссылаться на официальные источники и ясно давать понять, что демократические выборы не должны проходить через непрозрачные, нестабильные предположения моделей.
Темы: Чат-боты ИИ, выборы, Венгрия, демократия