Политика
Счета, сгенерированные ИИ, перегружают юристов, которые составляют законы США
Сообщается, что Канцелярия законодательного совета Палаты представителей тратит всё больше времени на исправление предложений, написанных ИИ, содержащих неправильные ссылки, расплывчатый язык и юридические ошибки. Проблема показывает, как дешёвая генерация текста может переносить расходы на учреждения, отвечающие за точность.
Майкл С.
Юристы Конгресса сталкиваются с растущим потоком проектов законов, созданных ИИ которые содержат неправильные цитаты, расплывчатые команды и язык, который может не привести к созданию политики, которую задумал её автор. Текущие и бывшие чиновники рассказали Politico, что Офис законодательного консультирования Палаты представителей тратит больше времени на исправление некоторых машинописных предложений, чем потребовалось бы для составления законодательства с нуля.
Этот офис выполняет одну из наименее заметных и самых важных функций Конгресса. Его непартийные юристы переводят политические цели в законодательный язык, который агентства могут соблюдать, а суды — интерпретировать. Неправильное определение или цитата — это не косметическая ошибка. Это может изменить, кто получает льготу, какое поведение запрещено или переживет ли закон проверку.
Генеративный ИИ делает практически бесплатным для конгрессного офиса, лоббиста или группы по защите интересов создание страниц, похожих на законодательные акты. Кажущаяся продуктивность переносит дорогую часть работы на юристов, которым необходимо проверить каждую перекрестную ссылку и понять, чего на самом деле хотел автор. Появляется больше текста, но законодательная способность не увеличивается.
Этот эпизод является предупреждением для всех учреждений, которые внедряют ИИ. Объем выпускаемой продукции не равен завершенной работе. Когда система генерирует материал, который требует экспертной проверки, очередь на обработку может расти быстрее, чем организация успевает её обрабатывать. Результатом является не автоматизация, а перегрузка, замаскированная под эффективность.
Юридический язык имеет последствия за пределами беглости
Большие языковые модели хорошо воспроизводят внешнюю форму законопроектов. Они могут создавать разделы, определения и инструкции по внесению поправок, которые выглядят знакомо. Они не всегда надёжно понимают весь Кодекс США, юрисдикцию комитетов, прецеденты или операционные последствия изменения одной фразы в связанном нормативном акте.
Модель может сослаться на положение, которого не существует, использовать термин иначе, чем в законе, подлежащем изменению, или создать обязанность, не указав агентство, ответственное за её исполнение. Она может объединять язык штатов или сфер политики с несовместимыми юридическими предположениями. Беглость делает эти ошибки труднее для выявления, потому что проект не выглядит незавершённым.
Законодательный советник обычно работает через намерения вместе с персоналом: какая группа населения охвачена, какие исключения применяются, как работает принудительное исполнение и как предложение взаимодействует с существующей властью. Чат-бот может заполнять паузы правдоподобным языком вместо выявления неразрешённого политического выбора. Полученный проект может скрывать разногласия, которые Конгрессу всё ещё предстоит урегулировать.
Офис законодательного советника Палаты представителей публикует подготовка руководящих указаний которые подчеркивают ясность, последовательность и точное внесение изменений в существующее законодательство. Эти принципы зависят от суждений и институциональных знаний. Искусственный интеллект может помогать в исследовательской работе или сравнительном анализе, но ответственность за рабочий текст остается за людьми, которые понимают последствия.
Внешние группы создают дополнительную проблему. Лоббисты давно предоставляют образцы формулировок, а законодатели давно адаптируют предложения, написанные за пределами Капитолийского холма. Искусственный интеллект меняет масштаб. Одна организация может создать множество версий, адаптировать их под конкретные офисы и перегрузить ограниченные возможности для проверки. Количество может стать тактикой, даже если ни один отдельный проект не готов для принятия.
Офис не может просто отклонять каждый материал, созданный с помощью ИИ, поскольку трудно определить авторство и некоторые применения могут быть ответственными. Сотрудник-юрист мог бы использовать модель для сравнения определений, а затем проверить каждый результат. Другой человек мог бы вставить запрос по политике в чат-бот и подать полученный результат без изменений. Важное различие заключается в проверке, а не в том, участвовала ли модель вообще.
Конгрессу нужны правила приема, а не запрет, который он не сможет обеспечить
Работоспособный ответ начинается с раскрытия информации. Офисы и внешние лица, предоставляющие материалы, должны указывать, когда генеративные инструменты создали значительные части черновика, какая система была использована и кто проверял результат. Эта информация поможет юристам правильно расставлять приоритеты в работе, не рассматривая раскрытие как доказательство того, что текст является дефектным.
Подачи также должны включать простое изложение намерений политики и карту источников для каждой юридической ссылки. Если проект вносит изменения в действующее законодательство, автор должен предоставить текущий текст и объяснить предполагаемое изменение. Эти требования заставят подателя выполнить базовую проверку перед использованием ограниченного времени юриста.
Конгресс мог бы разработать безопасные внутренние инструменты, которые извлекают информацию из авторитетных юридических источников и отмечают неподтвержденные ссылки. Извлечение не устраняет ошибки, но сужает набор источников и создает доказательства, которые рецензент может проверить. Любая система должна сохранять исходный фрагмент текста, а не только прилагать уверенный ответ.
Управление подотчетности правительства разработало рамочную структуру подотчетности для федерального использования ИИ, построенного вокруг управления, данных, производительности и мониторинга. Подобная дисциплина должна применяться в законодательных рабочих процессах. Инструмент должен иметь определённую цель, измеряемую частоту ошибок, указанного владельца и процесс для сообщения о сбоях.
Обучение необходимо, но общие классы подсказок не решат проблему. Сотрудникам нужны примеры законодательных ошибок: вымышленные перекрёстные ссылки, несогласованные определения, отсутствие полномочий по обеспечению соблюдения и формулировки, создающие непреднамеренные частные права действий. Понимание режимов сбоя полезнее, чем обучение тому, как сделать модель формально звучащей, и федеральный профиль рисков генеративного ИИ предлагает практическую отправную точку для такого обучения.
Учреждению необходимо защищать своих юристов от превращения в скрытый уровень корректировки. Если офис неоднократно представляет непроверенный текст, юрист должен иметь возможность возвращать его с требованием уточнений, а не поглощать расходы. Ответственность должна оставаться за членом и сотрудниками, которые представили законопроект.
Дешёвое составление законопроектов может сделать законотворчество дороже
Парадокс заключается в том, что ИИ может сократить время, необходимое для создания первого черновика, одновременно увеличивая время, необходимое для достижения надёжной формулировки. Такая закономерность наблюдается и в программном обеспечении, исследованиях и обслуживании клиентов. Автоматизация производит больше кандидатов, а эксперты тратят своё время на их сортировку, исправление и документирование.
Конгресс особенно уязвим, потому что его экспертные возможности ограничены. Комитеты и вспомогательные офисы обрабатывают сложную политику с ограниченным штатом, в то время как внешние организации могут создавать материалы в промышленном масштабе. Предоставление каждому участнику текстовой машины без увеличения ресурсов проверки усугубляет дисбаланс.
Есть ответственные способы использования. Модели могут сравнивать версии, суммировать публичные комментарии, выявлять различающиеся положения в проекте и помогать сотрудникам находить соответствующие положения. Эти задачи поддерживают человеческое суждение, а не притворяются его заменой. Их также проще оценить, потому что результат можно сверить с определенным источником.
Национальный архив и Конгресс ведут авторитетные законодательные записи это должно служить опорой любой внутренней системы. Цитата, сгенерированная моделью, должна соответствовать официальному тексту, и рецензент должен иметь возможность видеть точную использованную версию. Юридическая работа не может полагаться на память модели о том, что, вероятно, говорится в законе.
Компании, занимающиеся ИИ, также играют свою роль. Продукты, предназначенные для юридической или государственной работы, должны облегчать проверку источников, сохранять аудиторские следы и не создавать впечатление, что отшлифованный язык является юридически достоверным. Предупреждения, спрятанные в условиях обслуживания, мало что значат, когда интерфейс побуждает пользователей создавать документы, похожие на готовые.
Нагрузка на юристов Палаты делает затраты видимыми до того, как ошибочный законопроект станет законом. Это к счастью. Теперь у института есть шанс доказать, что машинная помощь не снижает человеческую ответственность. Конгресс может использовать ИИ для поддержки законодательной работы, но он не может передавать значение своих собственных слов на аутсорсинг.
Темы: Конгресс, законодательство, генеративный ИИ, юридическое составление, управление