Сайти та облікові записи в соціальних мережах, які виявив OpenAI, публікували статті та думки, створені за допомогою ChatGPT, на такі теми, як конфлікт у Газі та Олімпійські ігри. Вони також розмістили матеріали про президентські вибори в США, поширюючи дезінформацію та критикуючи обох кандидатів, йдеться у звіті компанії. За словами OpenAI , деякі з них з’явилися на сайтах, які минулого тижня Microsoft використовував Іран для публікації фейкових статей, спрямованих на посилення політичного розколу в Сполучених Штатах.
Іранська група використовувала ChatGPT, щоб вплинути на вибори в США
Дмитро Сизов
Компанія зі штучного інтелекту OpenAI заявила, що іранська група використовувала свій чат-бот ChatGPT для створення вмісту для розміщення на веб-сайтах і в соціальних мережах, який, імовірно, мав на меті викликати поляризацію серед американських виборців на президентських виборах.
Компанія штучного інтелекту заборонила облікові записи ChatGPT, пов’язані з зусиллями Ірану, і заявила, що їхні публікації не привернули широкої уваги користувачів соціальних мереж. OpenAI знайшов «десяток» облікових записів на X і один в Instagram, пов’язаних з іранською операцією, і сказав, що всі вони були видалені після того, як він сповістив ці соціальні мережі.
Бен Німмо, головний дослідник команди розвідки та розслідувань OpenAI, сказав, що це перший випадок, коли компанія виявила операцію, основною метою якої були вибори в США. «Попри те, що здається, що люди не дійшли до людей, це важливе нагадування: нам усім потрібно бути пильними, але зберігати спокій», — сказав він.
Звіт OpenAI доповнює нещодавні докази орієнтованих на техніку спроб Ірану вплинути на вибори в США, детально описаних у звітах Microsoft і Google .
Один веб-сайт, позначений OpenAI у п’ятницю, Teorator, називає себе «вашим кінцевим місцем для розкриття істин, які вони не хочуть, щоб ви знали», і опублікував статті з критикою кандидата у віце-президенти від Демократичної партії Тіма Уолца. Інший сайт під назвою Even Politics опублікував статті з критикою кандидата від Республіканської партії Дональда Трампа та інших консерваторів, таких як Ілон Маск.
У травні OpenAI вперше детально описав спроби урядових структур використати його штучний інтелект для створення пропаганди, заявивши, що виявив групи з Ірану, Росії, Китаю та Ізраїлю, які використовують ChatGPT для створення контенту кількома мовами. Жодна з цих операцій впливу не отримала широкого розповсюдження серед користувачів Інтернету, сказав тоді Німмо. OpenAI також визнав, що, можливо, компанія не змогла виявити більш приховані операції за допомогою своєї технології.
Оскільки цього року мільярди людей голосують на виборах по всьому світу, прихильники демократії, політики та дослідники штучного інтелекту висловлюють занепокоєння щодо здатності штучного інтелекту потенційно полегшувати створення великої кількості пропаганди, яка, здається, написана реальними людьми.
Поки що влада не повідомила про поширені докази того, що іноземним урядам вдається вплинути на американців, щоб вони голосували певним чином.