Meta вже ідентифікує фейковий контент, імовірно створений ШІ
Дмитро Сизов
Meta заявила, що виявила як на її платформах Facebook і Instagram в оманливий спосіб використовується контент, «ймовірно згенерований штучним інтелектом», включаючи коментарі, що вихваляють те, як Ізраїль веде війну в Газі, опубліковані під публікаціями світових інформаційних організацій і законодавців США.
Компанія соціальних мереж у квартальному звіті про безпеку заявила, що облікові записи видавалися за єврейських студентів, афроамериканців та інших зацікавлених громадян, націлюючи їх на аудиторію в Сполучених Штатах і Канаді. Він приписав кампанію політичному маркетингу в Тель-Авіві STOIC.
У той час як Meta виявила базові фотографії профілю, створені штучним інтелектом під час операцій впливу з 2019 року, звіт є першим, у якому розкрито використання текстової генеративної технології ШІ з моменту її появи наприкінці 2022 року.
Дослідники стурбовані тим, що генеративний штучний інтелект, який може швидко й дешево створювати текст, зображення й аудіо, схожий на людину, може призвести до більш ефективних кампаній з дезінформації та вплинути на вибори.
У прес-конференції керівники служби безпеки Meta сказали, що вони завчасно припинили ізраїльську кампанію та не вважають, що нові технології штучного інтелекту перешкоджали їхній здатності порушувати мережі впливу, які є скоординованими спробами надсилати повідомлення.
Керівники сказали, що вони не бачили, щоб такі мережі розгортали створені штучним інтелектом зображення політиків, настільки реалістичні, щоб їх можна було сплутати з автентичними фотографіями.
«У цих мережах є кілька прикладів того, як вони використовують, ймовірно, генеративні інструменти штучного інтелекту для створення контенту. Можливо, це дає їм можливість робити це швидше або з більшим об’ємом. Але це не вплинуло на нашу здатність їх виявляти. ", - сказав керівник відділу розслідування загроз Meta Майк Двілянскі.
У звіті висвітлено шість таємних операцій впливу, які Meta зірвала в першому кварталі.
На додаток до мережі STOIC, Meta закрила мережу в Ірані, зосереджену на конфлікті Ізраїлю та ХАМАС, хоча вона не виявила жодного використання генеративного ШІ в цій кампанії.