Исследование связало распространение ИИ с ростом обращений в госслужбы
Исследователь Крис Шмитц зафиксировал рост жалоб, заявлений и петиций в 11 юрисдикциях после распространения генеративного ИИ. Его работа не устанавливает прямую причинно-следственную связь, но указывает на устойчивое совпадение этих тенденций.
Генеративные ИИ-инструменты упрощают заполнение форм, подготовку жалоб и обращений в государственные органы, а на фоне этого публичные сервисы фиксируют рост числа заявлений и других запросов. Об этом пишет TechCrunch со ссылкой на исследование Криса Шмитца, который называет явление «агентным наводнением» (agentic flooding).
Шмитц изучил 84 случая возможного роста числа обращений в 11 юрисдикциях: от заявлений на социальную помощь до судебных апелляций. По его данным, во многих случаях число подач оставалось примерно стабильным до 2022 года, а затем начало ускоренно увеличиваться по мере распространения ИИ-сервисов. При этом исследование, которое представят на конференции AI Ethics and Society в следующем месяце, не утверждает, что именно ИИ стал непосредственной причиной роста.
Среди приведённых примеров — обращения к британскому омбудсмену по жилищным вопросам: их число выросло с 2600 в 2022 году до немногим более 7000 в прошлом году. Бюро финансовой защиты потребителей США (CFPB), по данным TechCrunch, за тот же период получило в пять раз больше жалоб. Схожая динамика наблюдалась у судебных петиций в Бразилии и парламентских петиций в Германии.
TechCrunch отмечает, что такой рост может стать проблемой для ведомств, если им придётся обрабатывать больше заявлений без соответствующего роста бюджета. Шмитц сравнивает ситуацию с программами вознаграждений за сообщения об уязвимостях, которые в прошлом году столкнулись с большим числом низкокачественных отчётов, подготовленных языковыми моделями. Такие сообщения всё равно требовали проверки и отнимали ресурсы специалистов.
Однако в случае госуслуг исследователь не считает большинство новых заявок бесполезным спамом. По его оценке, значительная часть обращений поступает от людей, действительно имеющих право на выплату, компенсацию или рассмотрение жалобы. Раньше их мог останавливать так называемый административный барьер: сложность процедуры, необходимость собрать документы и сформулировать заявление.
По мере развития ИИ этот барьер снижается: пользователю достаточно загрузить или сфотографировать письмо, чтобы ассистент помог подготовить ответ или обращение. По мнению Шмитца, это может перегрузить системы и стать поводом пересмотреть процессы предоставления госуслуг.