Репортера з Вайомінгу спіймали на використанні ШІ для створення фальшивих цитат та історій

Цитата губернатора штату Вайомінг і місцевого прокурора були першими речами, які здалися дещо незрозумілими репортеру Powell Tribune Сі Джею Бейкеру. Потім деякі фрази в оповіданнях здалися йому майже робототехнічними.

Проте інформація про те, що репортер конкуруючого інформаційного видання використовував генеративний штучний інтелект для написання своїх історій, з’явилася в статті від 26 червня про коміка Ларрі Кабельщика, обраного головним маршалом параду Коді Стампеда.

«Парад Коді Стампеда 2024 року обіцяє стати незабутнім святкуванням незалежності Америки, яке очолюватиме одна з найулюбленіших героїв комедії», — повідомили в Cody Enterprise. «Ця структура гарантує, що найважливіша інформація представлена ​​спочатку, що полегшує читачам швидке розуміння основних моментів».

Після деяких розкопок Бейкер, який працює репортером більше 15 років, зустрівся з Аароном Пелчаром, 40-річним хлопцем, який був новачком у журналістиці і який, за словами Бейкера, зізнався, що використовував штучний інтелект у своїх історіях.

Бейкер, який регулярно читає Enterprise, оскільки він є конкурентом, сказав, що поєднання фраз і цитат в оповіданнях Пельцара викликало його підозри.

Розповідь Пельцара про стрілянину в Єллоустоунському національному парку містила речення: «Цей інцидент служить яскравим нагадуванням про непередбачувану природу людської поведінки, навіть у найспокійніших умовах».

Бейкер сказав, що рядок звучить як короткий виклад його історій, який, здається, створює певний чат-бот, оскільки в кінці він містить якийсь «урок життя».

Інша історія — про вирок за браконьєрство — включала цитати представника охорони дикої природи та прокурора, які звучали так, ніби вони були взяті з прес-релізу, сказав Бейкер. Однак прес-релізу не було, і залучені агентства не знали, звідки взялися цитати, сказав він.

Дві з досліджуваних історій містили фальшиві цитати губернатора Вайомінга Марка Гордона, про які його співробітники дізналися лише тоді, коли їм зателефонував Бейкер.

«В одному випадку (Пелчар) написав історію про нове правило OSHA, яке включало цитату губернатора, яка була повністю сфабрикованою», — повідомив Майкл Перлман, речник губернатора, в електронному листі. «У другому випадку він, здається, вигадав частину цитати, а потім поєднав її з частиною цитати, яка була включена в прес-реліз, в якому було оголошено про нового директора нашого відділу дичини та риби у Вайомінгу».

Найочевидніша копія, згенерована штучним інтелектом, з’явилася в історії про Ларрі Кабельщика, яка закінчувалася поясненням перевернутої піраміди, основного підходу до написання екстрених новин.

У своєму матеріалі Powell Tribune, який розповідає про використання Пелчаром штучного інтелекту в статтях, Бейкер написав, що у нього була неприємна, але сердечна зустріч з Пелчаром і корпоративним редактором Крісом Бейконом. Під час зустрічі Пельчар сказав: «Очевидно, що я ніколи навмисно не намагався нікого неправильно цитувати» і пообіцяв «виправити їх, вибачитися та сказати, що вони неправильні твердження», — написав Бейкер, зазначивши, що Пелчар наполягав на тому, що його помилки не повинні позначатися на його Редактори Cody Enterprise.

Після зустрічі Enterprise запустив повний огляд усіх історій, які Пельчар написав для газети за два місяці, які він там працював. За словами Бекона у вівторок, вони виявили сім історій, які включали згенеровані ШІ цитати шести людей. Він все ще переглядає інші історії. Пельчар звільнився з газети.

«Це дуже правдоподібні цитати», — сказав Бекон, зазначивши, що люди, з якими він спілкувався під час перегляду статей Пельцара, сказали, що ці цитати звучать як те, що вони сказали б, але насправді вони ніколи не розмовляли з Пельчаром.

Бейкер повідомив, що семеро людей сказали йому, що вони цитувалися в оповіданнях, написаних Пельчаром, але не розмовляли з ним.

Видавець і редактор Enterprise, співзасновником якого в 1899 році був Баффало Білл Коді, з тих пір перепрошили і пообіцяли вжити заходів, щоб це ніколи не повторилося. У редакційній статті, опублікованій у понеділок, Бекон сказав, що йому «не вдалося вловити» копію ШІ та неправдиві цитати.

«Неважливо, що фальшиві цитати були очевидною помилкою поспішного репортера-початківця, який довірився ШІ. Це була моя робота», – написав Бекон. Він вибачився, що «штучному інтелекту дозволили вставляти в історії слова, які ніколи не вимовлялися».

Журналісти руйнували свою кар’єру, вигадуючи цитати або факти в історіях задовго до появи ШІ. Але цей останній скандал ілюструє потенційні підводні камені та небезпеки, які становить штучний інтелект для багатьох галузей, включаючи журналістику, оскільки чат-боти можуть видавати фальшиві, хоча й правдоподібні статті, лише за допомогою кількох підказок.

ШІ знайшов свою роль у журналістиці, зокрема в автоматизації певних завдань. Деякі редакції, зокрема Associated Press, використовують AI, щоб звільнити репортерів для більш ефективної роботи, але більшості співробітників AP заборонено використовувати генеративний AI для створення контенту для публікації.

Важливо знати, як і коли використовується ШІ. Минулого року Sports Illustrated критикували за публікацію онлайн-оглядів продукту, створених ШІ, які були представлені як написані журналістами, яких насправді не існувало. Після розголошення цієї історії Sports Illustrated заявила, що звільняє компанію, яка підготувала статті для її веб-сайту, але інцидент завдав шкоди репутації колись потужного видання.

Пелчар не відповів на телефонне повідомлення AP, залишене за номером, вказаним як його, з проханням обговорити те, що сталося. Бекон сказав, що Пелчар відмовився обговорювати це питання з іншою газетою Вайомінгу, яка звернулася.

Створювати історії ШІ не складно. Користувачі можуть додати свідчення про злочин під присягою в програму штучного інтелекту та попросити її написати статтю про цю справу, включно з цитатами місцевих чиновників, сказав Алекс Махадеван, директор проекту з цифрової медіаграмотності в Інституті Пойнтера, видатному дослідницькому центрі журналістів.

«Ці генеративні чат-боти штучного інтелекту запрограмовані на те, щоб дати вам відповідь, незалежно від того, чи ця відповідь повне сміття чи ні», — сказав Махадеван.

Меган Бартон, видавець Cody Enterprise, написала редакційну статтю, в якій назвала штучний інтелект «новою, вдосконаленою формою плагіату, а в галузі медіа та письма плагіат — це те, що кожне ЗМІ колись мусить виправляти». Це потворна частина роботи. Але компанія, яка бажає виправити (або буквально написати) ці помилки, є авторитетною».

Бартон написав, що газета засвоїла свій урок, має систему для розпізнавання історій, створених штучним інтелектом, і «вестиме довші розмови про те, що історії, створені штучним інтелектом, неприйнятні».

За словами Бейкона, у Enterprise не було політики штучного інтелекту, частково тому, що здавалося очевидним, що журналісти не повинні використовувати його для написання історій. У Poynter є шаблон, на основі якого новинні видання можуть будувати власну політику AI.

Бейкон планує створити його до кінця тижня.

«Це буде темою для обговорення перед прийомом на роботу», — сказав він.