Чат-бот, створений OpenAI , повідомив, що Терлі зробив коментарі сексуального характеру та намагався торкнутися студента під час екскурсії на Аляску, посилаючись на статтю в The Washington Post за березень 2018 року як джерело інформації. Проблема: такої статті не існувало. Ніколи не було класної поїздки на Аляску. І Терлі сказав, що його ніколи не звинувачували в домаганнях до студента.
ChatGPT вигадав скандал із сексуальними домаганнями і висунув звинувачення
Дмитро Сизов
Професор права Джонатан Терлі отримав тривожний електронний лист. У рамках дослідження колега-юрист із Каліфорнії попросив чат-бот ChatGPT зі штучним інтелектом створити список вчених-юристів, які піддавалися сексуальним домаганням. У списку було ім’я Терлі.
Постійний коментатор у ЗМІ, Терлі іноді просив виправити новини. Але цього разу не було ні журналіста, ні редактора, до якого можна було б зателефонувати — і не було можливості виправити запис.
«Це було дуже круто», — сказав він в інтерв’ю The Post. «Звинувачення такого роду є неймовірно шкідливими».
Досвід Терлі — це практичне дослідження підводних каменів останньої хвилі мовних ботів, які привернули увагу людей своєю здатністю писати комп’ютерний код, створювати вірші та вести моторошно людські розмови. Але ця креативність також може бути двигуном для помилкових тверджень; моделі можуть з великою майстерністю спотворювати ключові факти, навіть фабрикуючи першоджерела , щоб підтвердити свої твердження.
Оскільки в основному нерегульоване програмне забезпечення штучного інтелекту, таке як ChatGPT, Bing від Microsoft і Bard від Google, починає поширюватися в Інтернеті, його схильність генерувати потенційно шкідливу неправду викликає занепокоєння щодо поширення дезінформації — і нові питання про те, хто несе відповідальність, коли чат-боти вводять в оману.
«Оскільки ці системи реагують настільки впевнено, дуже спокусливо вважати, що вони можуть робити все, і дуже важко відрізнити факти від неправди», — сказала Кейт Кроуфорд, професор Університету Південної Каліфорнії в Анненбергу та старший головний науковий співробітник в Microsoft Research.
У своїй заяві представник OpenAI Ніко Фелікс сказав: «Коли користувачі реєструються в ChatGPT, ми прагнемо бути максимально прозорими, щоб це не завжди генерувало точні відповіді. Підвищення фактичної точності є важливим для нас, і ми досягаємо прогресу».
Сучасні чат-боти зі штучним інтелектом працюють, спираючись на величезні масиви онлайн-вмісту, часто зібраного з таких джерел, як Wikipedia та Reddit, щоб з’єднати правдоподібні відповіді майже на будь-яке запитання. Вони навчені визначати шаблони слів та ідей, щоб не відставати від теми, створюючи речення, абзаци та навіть цілі есе, які можуть нагадувати матеріал, опублікований в Інтернеті.
Ці боти можуть вразити, коли створюють тематичний сонет , пояснюють поглиблену концепцію фізики або створюють захопливий план уроку для навчання п’ятикласників астрономії.