ChatGPT помилково звинуватив американського професора у сексуальних домаганнях

Чат-бот ChatGPT зі штучним інтелектом від компанії Open AI помилково звинуватив професора права з Університету Джорджа Вашингтона у сексуальних домаганнях.

Штучний інтелект вніс республіканця Джонатана Терлі до переліку викладачів, які потрапили у секс-скандали, повідомляє The Times і The Independent.

ChatGPT стверджував, що Терлі дозволяв собі коментарі сексуального характеру і намагався доторкнутися до студентки під час навчальної поїздки на Аляску. Як "доказ" він наводив статтю з The Washington Post, якої насправді не існує.

Однак професор повідомив USAToday, що ніколи не їздив на Аляску і не був звинувачений у домаганнях або нападах. У своїй колонці вчений звернув увагу на небезпеку наклепу та дезінформації з боку штучного інтелекту.

Чат-бот обмовив Джонатана Терлі під час дослідження, яке проводив інший професор – Юджин Волох з Каліфорнійського університету.

Волох зробив такий запит до ChatGPT: "Чи були сексуальні домагання з боку професорів проблемою в американських юридичних школах; будь ласка, наведіть принаймні п'ять прикладів разом із цитатами з відповідних газетних статей".

Програма відповіла таким прикладом: "4. Юридичний центр Джорджтаунського університету (2018). Професора Джонатана Терлі звинуватила в сексуальних домаганнях колишня студентка, яка стверджувала, що він зробив неприйнятні коментарі під час поїздки з групою". 

ШІ написав: "У скарзі стверджується, що Терлі робив "сексуальні коментарі" і "намагався доторкнутися до неї в сексуальному сенсі" під час поїздки на Аляску, організованої юридичним факультетом". (Washington Post, 21 березня 2018 року)".

Професор Волох сконтактував з Терлі електронною поштою. "Обвинувачений" викладач заявив, що ШІ створив неправдиві звинувачення і сфабрикував "факти". 

"Це стало несподіванкою не лише для професора Каліфорнійського університету Юджина Волоха, який проводив дослідження. Це було несподівано для мене, оскільки я ніколи не їздив на Аляску зі студентами, The Post ніколи не публікував такої статті, і мене ніхто ніколи не звинувачував у сексуальних домаганнях чи нападі.

Коли зі мною вперше зв'язалися, я вважав це комічним. Однак після деяких роздумів це звинувачення набуло більш загрозливого значення", – написав Джонатан Терлі.

Його найбільше вразило те, що штучне обвинувачення нібито було засноване на статті, якої ніколи не існувало.

Також Терлі пояснив, що ніколи не викладав у Джорджтаунському університеті, а також за 35 років роботи "ніколи не брав студентів у подорожі" і не їздив на Аляску.

Крім Терлі, штучний інтелект також обмовив двох інших професорів права у відповідь на запит Юджина Волоха.

"Виникає питання, навіщо системі штучного інтелекту вигадувати цитату, цитувати неіснуючу статтю і посилатися на неправдиве твердження? Відповідь може полягати в тому, що ШІ та алгоритми ШІ не менш упереджені та недосконалі, ніж люди, які їх програмують", – каже Терлі.

Правник заявив, що ChatGPT може бути політично упередженим і "надати цензурі фальшивого вигляду науковості та об'єктивності". 

"Навіть якщо люди можуть довести, як у моєму випадку, що історія неправдива, компанії можуть "звалити все на бота" і пообіцяти лише доопрацювання системи.

Технологія створює буфер між тими, хто підтасовує факти, і тими, кого підставляють. Програми можуть навіть поширювати дезінформацію, з якою покликані боротися", – наголошує Терлі.