Як відрізнити реальний контент від згенерованого ШІ: поради експертів WSJ

Контент, створений штучним інтелектом, дедалі частіше заповнює стрічки соціальних мереж, що ускладнює розпізнавання справжніх і синтетичних зображень. Експерти попереджають, що це впливає на здатність людей довіряти власному сприйняттю реальності. Водночас вони пропонують практичні способи, які допоможуть критично оцінювати такий контент.

Журналістка WSJ Ніколь Нгуєн у новому матеріалі звернула увагу на стрімке поширення зображень і відео, створених ШІ. За її словами, сучасні генеративні моделі зробили синтетичний контент настільки реалістичним, що користувачі дедалі частіше змушені ставити собі запитання: “Це справжнє чи створене ШІ?” Авторка зазначає, що ще кілька років тому вірусні зображення, створені ШІ, були радше винятком, але тепер завдяки новим моделям якісну генерацію зображень і відео може використовувати практично кожен.

Одним із прикладів стала Granny Spills — вигадана бабуся-інфлюенсер, створена за допомогою ШІ. Персонаж з'явився у липні минулого року та менш ніж за місяць зібрав понад мільйон підписників в Instagram, хоча регулярно “з'являється поруч” із реальними знаменитостями без їхньої участі.

Творці таких персонажів не приховують, що вони повністю цифрові. Автор віртуальної моделі Шуду Кемерон-Джеймс Вілсон зазначає, що користувачам не обов'язково вірити в реальність персонажа, щоб отримувати задоволення від контенту.

Однак журналістку більше турбує не популярність цифрових інфлюенсерів, а масове поширення менш очевидного контенту, створеного ШІ. Йдеться про кулінарні відео, рекламні ролики з синтетичним озвученням, фальшиві фотографії знаменитостей, політичні діпфейки та згенеровані музичні композиції, які дедалі важче відрізнити від справжніх.

Професор комп'ютерних наук Дартмутського коледжу та експерт із цифрової криміналістики Хані Фарід наголошує, що людський мозок не пристосований до розпізнавання таких підробок. За його словами, проблема полягає у поступовій втраті суспільством спільного розуміння того, що є реальністю.

Доцентка Джорджтаунського університету Рене ДіРеста наголошує, що генеративний ШІ сам по собі не є ані добром, ані злом. За її словами, усе залежить від того, як саме його використовують.

Експерти радять оцінювати підозрілий контент так само, як це роблять фактчекери. Насамперед варто звертати увагу на фізичні невідповідності — освітлення, тіні, перспективу або викривлені деталі, а також перевіряти місце зйомки через картографічні сервіси.

Не менш важливо аналізувати джерело публікації. Підозру можуть викликати новостворені акаунти, надто висока частота публікацій або контент, спеціально розрахований на сильні емоції та максимальне залучення аудиторії.

Феномен цифрових інфлюенсерів уже вийшов на глобальний рівень. Наприкінці травня цього року платформи OpenArt та Fanvue запустили найбільший у світі конкурс віртуальних персонажів AI Personality Awards із призовим фондом понад 90 тисяч доларів, у якому взяли участь понад 3300 ШІ-аватарів.