США. Человеческие болваны спелись с электронными болванами

По данным издания Politico, в Палату представителей, а точнее в её Office of Legislative Counsel (OLC) — отдел, который помогает трансформировать политические идеи в тексты законопроектов и следит, чтобы они не противоречили действующему праву, — хлынул поток текстового мусора, сгенерированного с помощью ИИ.

Сотрудники всё чаще используют общедоступные ИИ вроде ChatGPT или Claude. В сгенерированных черновиках часто встречаются ошибки, отчего юристам приходится тратить на их исправление уйму времени. Один из консультантов, работающих с OLC, так и заявил журналистам:

Подпишитесь на новости «ПолитНавигатор» в Яндекс.Дзен, Telegram, Одноклассниках, Вконтакте, каналы YouTube и Max.
Для подписки на уведомления в баузере нажмите здесь.

«Иногда юристы тратят больше времени на исправление законопроектов, написанных ИИ, чем на составление их с нуля».

К примеру, в черновиках ИИ может ошибочно процитировать или сослаться на устаревшие или не относящиеся к делу правовые нормы, или допускают путаницу в юридических терминах.

ИИ не всегда различает обычные финансовые механизмы — не возьмёт в толк, следует ли назвать выделяемые деньги налоговым кредитом, налоговым вычетом, налоговым исключением или грантом.

Иногда определение в черновике написано так, что из-за него из федеральной программы автоматически исключаются, скажем, Вашингтон (округ Колумбия) или коренные народы.

Сотрудники жалуются на электронного болвана: когда черновик делает ИИ, сами законодатели порой глубже не погружаются в суть инициативы — они перекладывают черновую работу на алгоритм и меньше вникают в нюансы того, что именно предлагают.

Случай, который привлёк внимание прессы: в июне представитель Анна Паулина Луна опубликовала сводку поправки, где случайно осталась фраза «Claude responded» — явный артефакт работы чат-бота. Сначала вокруг этого поднялась шумиха, но позже Луна уточнила: ИИ использовали не для написания самого текста поправки, а лишь для редактирования её сводки (и даже это позже частично пересмотрели).

В целом ситуация поднимает вопросы о том, как балансировать между пользой технологий и необходимостью сохранять контроль и глубину проработки в законодательном процессе, но уже однозначно заметно, что смычка живых и электронных болванов в сфере американского законотворчества состоялась. И очень хотелось бы, чтобы нас минула чаша сия.