Sony створила перший у світі тест для перевірки етичності штучного інтелекту

FHIBE (вимовляється як “Фібі”) — це еталонний набір даних для перевірки справедливості та неупередженості комп’ютерного зору. Він містить зображення майже 2 000 людей із понад 80 країн світу, причому всі учасники дали згоду на використання своїх фото.

Як повідомляє Engadget, на відміну від більшості наборів даних для штучного інтелекту, які створюються шляхом масового збору зображень із мережі без згоди користувачів, FHIBE базується на етичних принципах: усі учасники надали згоду та отримали оплату, мають право видалити свої фото у будь-який момент, а зображення супроводжуються докладними анотаціями — віком, статтю, типом шкіри, етнічним походженням, умовами освітлення та параметрами камери.

Головні результати

Тестування FHIBE показало, що жоден із сучасних наборів даних чи моделей штучного інтелекту не продемонстрував повної етичної відповідності.

AI-системи продовжують виявляти упередження: зокрема, моделі показали нижчу точність розпізнавання для людей, які використовують займенники she/her, частково через більшу варіативність зачісок, яку раніше не враховували.

Дослідження також засвідчило, що багато моделей підсилюють гендерні та етнічні стереотипи, навіть під час нейтральних запитів. У деяких випадках алгоритми пов’язували певну зовнішність із “кримінальними” або “сексуалізованими” професіями.

Крім того, у відповідях моделей на питання про ймовірні злочини частіше з’являлися токсичні чи дискримінаційні характеристики для осіб із темнішим відтінком шкіри або азійським походженням.

Источник: double.news