Агенти штучного інтелекту завалюють державні служби своїми запитами

Оскільки штучний інтелект спрощує заповнення форм та подання скарг, державні служби по всьому світу спостерігають величезне зростання кількості заявок та інших запитів.

У Сполученому Королівстві кількість скарг до житлового омбудсмена зросла більш ніж удвічі з моменту запровадження ChatGPT, зросвши з 2600 у 2022 році до трохи більше 7000 минулого року. Бюро фінансового захисту споживачів США (CFPB) за той самий період зафіксувало 5-кратне зростання кількості скарг. Подібні стрибки спостерігалися і в судових петиціях у Бразилії та парламентських петиціях у Німеччині.

Дослідник Кріс Шміц відстежує це зростання як частину ширшої тенденції, яку він назвав «агентним затопленням». У статті, яка буде представлена ​​наступного місяця на конференції «Етика та суспільство штучного інтелекту», він розглядає 84 різні випадки потенційного затоплення в 11 юрисдикціях, знаходячи переконливі докази того, що інструменти штучного інтелекту змінюють спосіб взаємодії людей з державними послугами. 

Складніше питання — що робити у відповідь. Хоча деякі з нових заявок явно мають суперечливий характер, інші є результатом використання законними заявниками штучного інтелекту для подання претензій, які в іншому випадку були б відхилені. Хоча деякі можуть розглядати нові заявки як спам, створений штучним інтелектом, Шміц розглядає це як рідкісну можливість переробити соціальні послуги для ери штучного інтелекту.

Шмітц розглянув різні сервіси, від заяв на соціальне забезпечення до офіційних судових апеляцій, але всі вони мають онлайн-сервіси, до яких може отримати доступ помічник зі штучним інтелектом. (Повний набір даних розміщено тут для довідки.) З методологічних причин у статті Шмітца не стверджується, що штучний інтелект безпосередньо спричиняє сплеск кількості нових заявників. Але більшість із 84 справ слідують одній і тій самій основній дузі, де кількість заявок була приблизно незмінною до 2022 року, а потім зростала зі зростанням швидкості в міру поширення технології штучного інтелекту. Важливо, що в більшості справ це зростання не уповільнилося, що свідчить про те, що воно, ймовірно, продовжуватиме зростати протягом наступних років.

Для Шмітца легко зрозуміти, як зростання навичок та доступність штучного інтелекту призведуть до збільшення його використання.

«Люди дізнаються, що це те, що можна зробити, і поступово це стає все легше… раніше це могло бути питанням багатократного перетягування контексту разом і дуже точного запуску ChatGPT 3.5, тепер це може бути питанням простого вставлення або фотографування листа за допомогою програми Claude та отримання досить гарної відповіді за один раз», – сказав він.

Зростання обсягу схоже на те, що багато сервісів з пошуку помилок також зазнали минулого року, оскільки компанії виявили, що їхні поштові скриньки завалені неякісними звітами, створеними LLM . Звіти рідко містили суттєві проблеми безпеки, але компанії все одно були зобов'язані перевіряти їх одразу після надходження, що призводило до значного витрачання ресурсів. Легко уявити, що державні служби стикаються з подібною проблемою, оскільки вони керують у 5 разів більшою кількістю заявок з тим самим бюджетом.

Але там, де програми винагороди за виявлені помилки були завалені нікчемними заявками, Шміц каже, що більшість нових заявок до державних служб надходять від реальних людей із законними претензіями. 

«Переважна більшість випадків, які ми виявляємо, стосуються людей, які мають право вимагати відшкодування чогось, вимагаючи відшкодування саме цієї речі», – сказав він TechCrunch. 

Якщо ці люди раніше не претендували на допомогу, можливо, це було тому, що процес подання заявки був надто складним — те, що у світі політики називається адміністративним тягарем . Тепер, коли штучний інтелект може зняти цей тягар, це може стати можливістю переробити багато з цих послуг більш зручним для ШІ способом.

Це важливе завдання, яке ми здебільшого ще не почали вирішувати, але Шміц бачить у ньому привід для оптимізму.

«Важливою частиною успішної роботи ШІ є можливість детально описати, як виглядає «хороша» версія. І кожен, хто коли-небудь використовував ChatGPT для подання податкової декларації, знає, що тут є «хороша» версія, яка вам допомагає», — каже Шмітц. «Це може бути момент, щоб сказати: «Нам потрібно переосмислити практично все, що стосується того, як виглядає цей процес»».