ШІ вже приймає рішення про надання кредитів британцям

Уряд Британії розширив розгортання штучного інтелекту для виявлення шахрайства з соціальним забезпеченням, попри попередження про упередженість алгоритмів щодо груп вразливих заявників.

У рамках інвестицій у розмірі 70 мільйонів фунтів стерлінгів із застосуванням «розширеної аналітики» до запитів на універсальний кредит (UC) Міністерство праці та пенсій (DWP) розширило використання машинного навчання, намагаючись заощадити понад 1 мільярд фунтів стерлінгів із понад 8 мільярдів фунтів стерлінгів. втрачено через шахрайство та помилку минулого року, показують документи аудиту , ретельно вивчені Guardian.

Проект, схоже, не був офіційно оголошений урядом, який звинуватили в таємниці щодо ШІ в системі соціального забезпечення. Якщо його розширити, він має потенціал охопити багатьох із 5,9 мільйонів людей, які претендують на UC.

Після випробування минулого року з використанням автоматизованого програмного забезпечення для виявлення потенційних шахраїв, які шукають грошові аванси з UC, подібна технологія була розроблена та введена в експеримент для сканування заявок на соціальну допомогу, поданих людьми, які живуть разом, самозайнятими особами та тими, хто бажає житлової підтримки, а також щоб оцінити заяви людей про свій особистий капітал, наприклад заощадження.

Організації з прав соціального забезпечення та експерти ООН раніше заявляли, що розширення «цифрової за замовчуванням» системи соціального забезпечення Великої Британії за допомогою машинного навчання без більшої прозорості може створити серйозні проблеми для деяких претендентів на допомогу.

Big Brother Watch, британська група громадянських свобод, заявила, що «тривожно» те, що уряд «просуває ще більш непрозорі моделі штучного інтелекту, коли визнає, що його можливості стежити за несправедливістю обмежені».

«DWP постійно відмовляється публікувати інформацію про те, як вони працюють, за винятком найменших деталей», — сказав Джейк Херфурт, керівник відділу досліджень і розслідувань.

Розширення автоматизації соціального забезпечення підсумовується в заяві контролера та генерального аудитора в останньому річному звіті DWP. У ньому йдеться про те, що DWP «жорстко керує та контролює використання машинного навчання», але виявилося, що чиновники виявили «докази упередженості щодо літніх заявників».

Алгоритм, випробуваний минулого року, отримував дані про попередні шахрайства заявників, щоб навчити його передбачати, які нові претенденти на виплати можуть обманювати. Остаточні рішення приймає людина.

Генеральний аудитор попередив про «внутрішній ризик того, що алгоритми упереджено відбирають претензії для розгляду від певних уразливих людей або груп із захищеними характеристиками».

DWP визнав, що «здатність перевірити несправедливий вплив на захищені характеристики наразі обмежена», — сказали вони.