Вплив діпфейків. ШІ-контент може формувати хибні спогади та спотворювати людську пам’ять

Про це пише видання Gizmodo.

Команда науковиці з Массачусетського технологічного інституту (MIT) Патті Маес дослідила, як змінені за допомогою ШІ фотографії впливають на пам’ять. Учасникам експерименту показували знімки, а після перерви частина з них повторно переглядала оригінали, тоді як інші — версії, відредаговані штучним інтелектом.

Під час подальшої перевірки пам’яті люди, які бачили змінені зображення, частіше неправильно пригадували оригінальні фотографії. Водночас вони були надмірно впевнені у своїх помилкових спогадах.

Проблема пов’язана з особливостями людської пам’яті, яка схильна до навіювання та може змінюватися під впливом нової інформації. Попередні психологічні дослідження також свідчать, що дезінформація здатна впливати на рішення людей навіть після спростування неправдивих тверджень, зокрема у політичній сфері.

Інші дослідження підтверджують, що ШІ може формувати хибні спогади не лише за допомогою зображень. Зокрема, робота, опублікована минулого року, показала, що діпфейки та тексти, створені штучним інтелектом, можуть переконувати людей у тому, що вигадані політичні скандали справді відбувалися. Це також знижувало готовність учасників голосувати.

Небезпека полягає не тільки в навмисному поширенні дезінформації. Генеративний ШІ може помилятися та вигадувати факти — такі помилки називають галюцинаціями. Якщо люди довірятимуть результатам роботи системи без належної перевірки, неправдива інформація може впливати на їхні судження навіть тоді, коли суперечить відомим їм фактам.

Це особливо важливо через поширення ШІ в державних установах, банках, лікарнях і військовій сфері. Один із підходів до зменшення ризиків передбачає, що люди перевірятимуть результати роботи алгоритмів перед ухваленням рішень. Однак дослідження свідчать, що користувачам буває складно самостійно виявляти помилки штучного інтелекту.

Наразі немає універсального способу, який допоміг би повністю розв’язати цю проблему. Науковці працюють над методами навчання, що мають поліпшити здатність людей розпізнавати діпфейки та інший контент, створений ШІ. Водночас технологічні компанії розвивають автономні системи, які можуть виконувати завдання без постійного людського контролю.

Наслідки надмірної довіри до таких технологій можуть бути трагічними. Як зазначає Gizmodo з посиланням на повідомлення Bloomberg, внутрішнє розслідування Міністерства оборони США встановило, що надмірна залежність від системи штучного інтелекту компанії Palantir частково призвела до удару по початковій школі в Ірані на початку 2026 року. Система рекомендувала школу як ціль для атаки через застарілі дані. За наведеними у матеріалі даними, внаслідок удару загинули понад 150 людей, серед них щонайменше 123 дитини.