На основі власного досвіду. ШІ може самостійно формувати нові упередження під час найму

Про це пише видання Gizmodo.

Науковці з Принстонського університету та Університету Чикаго перевірили, як великі мовні моделі ухвалюють рішення про найм. Для цього вони використали експеримент, який раніше проводили за участю людей.

Учасникам пропонували призначати кандидатів на різні посади, після чого вони отримували інформацію, чи було це рішення успішним. Усі претенденти мали однакові шанси добре виконувати будь-яку роботу, але належали до чотирьох вигаданих етнічних груп: Tufa, Aima, Reku та Weki.

Під час експерименту люди поступово починали пов’язувати невдалі результати з певними групами. Наприклад, якщо кандидат із групи Tufa не отримував позитивної оцінки як лікар, учасники рідше обирали інших представників цієї ж групи на аналогічну посаду. Ці упередження зберігалися навіть після завершення гри.

Коли те саме завдання виконували мовні моделі, рівень таких упереджень виявився значно вищим.

Дослідники зазначають, що моделі можуть самостійно формувати нові соціальні стереотипи щодо вигаданих груп, хоча між ними не існує жодних реальних відмінностей. Це свідчить, що ШІ не лише відтворює людські упередження, а й здатний створювати їх на основі власного досвіду.

Автори пояснюють це особливостями ухвалення рішень. Люди зазвичай балансують між тим, щоб спробувати новий варіант, і тим, щоб покладатися на вже знайомий досвід. Натомість моделі штучного інтелекту більше прагнуть максимізувати успішний результат і рідше «експериментують». Через це вони швидше починають пов’язувати успіх або невдачу з певною групою кандидатів.

У дослідженні протестували 15 моделей від OpenAI, Anthropic, DeepSeek, Meta, Google та Alibaba. Найсильніше кандидатів за вигаданими групами розділяла модель OpenAI o3. Також дослідники помітили, що новіші й потужніші моделі з розвиненими можливостями міркування частіше демонстрували такі упередження.

На думку авторів роботи, причина в тому, що продуктивніші моделі точніше аналізують попередні результати. Якщо представники певної групи раніше отримували успішні оцінки на схожих посадах, модель починає частіше обирати саме їх. Такий підхід може зменшувати різноманітність рішень і поступово відсувати інші групи на другий план.

Проблема може мати практичні наслідки. За даними опитування ManPower Group, понад 90% компаній уже використовують ШІ на різних етапах пошуку працівників. Водночас у США компанія Workday вже стала відповідачем у колективному позові через звинувачення в тому, що її інструменти на основі штучного інтелекту можуть дискримінувати кандидатів. Подібні претензії також висували до Meta, де колишні працівники заявили, що система ШІ могла впливати на рішення про скорочення персоналу.

Дослідники наголошують, що подібні ризики стосуються не лише працевлаштування. Алгоритми ШІ вже критикували за упереджені рішення у сфері охорони здоров’я та під час оцінки кандидатів на оренду житла. Науковці вважають, що головне завдання зараз — навчитися обмежувати шкідливі узагальнення моделей, не позбавляючи їх здатності ефективно аналізувати інформацію.