Moody’s попереджає, що фейки щодо виборів можуть підірвати інституційну довіру

З початком сезону виборів і швидким розвитком штучного інтелекту маніпуляції штучним інтелектом у політичній рекламі стають проблемою для ринку та економіки. У новому звіті Moody’s у середу попереджається, що генеративний штучний інтелект і дипфейки є одними з проблем чесності виборів, які можуть становити ризик для інституційної довіри США.

«На виборах, імовірно, буде жорстка боротьба, що посилить занепокоєння щодо того, що дипфейки штучного інтелекту можуть бути використані для введення виборців в оману, посилення розколу та сіяння розбрату», — написали помічник віце-президента та аналітик Moody’s Грегорі Собел і старший віце-президент Вільям Фостер. «У разі успіху агенти дезінформації можуть схилити виборців, вплинути на результати виборів і, зрештою, вплинути на формування політики, що підірве довіру до інститутів США». 

Уряд посилює зусилля по боротьбі з дипфейками. 22 травня голова Федеральної комісії зі зв’язку Джессіка Розенворсел запропонувала нове правило , яке вимагатиме від політичних телевізійних, відео- та радіореклам розголошувати інформацію, якщо в них використовується контент, створений ШІ. Федеральна комісія з зв’язку (FCC) була стурбована використанням штучного інтелекту в рекламі цього виборчого циклу, а Розенворсель вказав на потенційні проблеми з глибокими фейками та іншим маніпульованим контентом.

Соціальні медіа були поза сферою правил FCC, але Федеральна виборча комісія також розглядає широко поширені правила розкриття AI , які поширюватимуться на всі платформи. У листі до Rosenworcel він закликав FCC відкласти своє рішення до закінчення виборів, оскільки його зміни не будуть обов’язковими для цифрової політичної реклами. Вони додали, що може заплутати виборців тим, що онлайн-оголошення без розкриття інформації не мають ШІ, навіть якщо вони є.

Хоча пропозиція Федеральної комісії з зв’язку може не стосуватися соціальних медіа, вона відкриває двері для інших органів, які можуть регулювати рекламу в цифровому світі, оскільки уряд США намагається стати відомим як сильний регулятор вмісту ШІ. І, можливо, ці правила можуть поширюватися на ще більше видів реклами. 

«Це було б новаторським рішенням, яке могло б змінити розкриття інформації та рекламу в традиційних ЗМІ на багато років навколо політичних кампаній», — сказав Ден Айвз, керуючий директор Wedbush Securities і старший аналітик з капіталу. «Нас хвилює те, що ви не зможете повернути джина назад у пляшку, і це рішення спричинить багато непередбачуваних наслідків». 

Деякі платформи соціальних медіа вже самостійно прийняли певний вид розкриття інформації про штучний інтелект ще до законів. Meta, наприклад, вимагає розкриття AI для всієї своєї реклами, і вона забороняє всю нову політичну рекламу за тиждень до виборів у листопаді. Google вимагає розголошення інформації про всі політичні оголошення зі зміненим вмістом, який «несправжньо зображує реальних або реалістично виглядаючих людей або події», але не вимагає розголошення AI у всіх політичних оголошеннях.

Компанії соціальних медіа мають вагомі підстави вважатися активними в цьому питанні, оскільки бренди хвилюються щодо того, щоб бути узгодженими з поширенням дезінформації в ключовий момент для нації. Очікується, що Google і Facebook візьмуть 47% із прогнозованих 306,94 мільярдів доларів США, витрачених на цифрову рекламу в США у 2024 році. «Це третя проблема для великих брендів, зосереджених на рекламі під час дуже суперечливого виборчого циклу попереду та дезінформації штучного інтелекту. дуже складний час для онлайн-реклами”, - сказав Айвз. 

Незважаючи на самоконтроль, контент, оброблений ШІ, потрапляє на платформи без міток через величезну кількість контенту, який публікується щодня. Важко знайти все,  чи то спам, створений штучним інтелектом , чи велику кількість зображень штучного інтелекту .

«Відсутність галузевих стандартів і швидкий розвиток технології ускладнюють ці зусилля», — сказав Тоні Адамс, старший дослідник відділу боротьби із загрозами Secureworks. «На щастя, ці платформи повідомили про успіхи в боротьбі з найшкідливішим вмістом на своїх сайтах за допомогою технічних засобів контролю, за іронією долі на основі ШІ».

Створювати підроблений контент легше, ніж будь-коли. У травні агентство Moody’s попередило, що уряди та неурядові організації «вже використали глибокі фейки» як зброю для пропаганди та створення соціальних заворушень, а в гіршому випадку — тероризму.

«Донедавна створення переконливого дипфейку вимагало значних технічних знань щодо спеціалізованих алгоритмів, обчислювальних ресурсів і часу», — написав помічник віце-президента Moody’s Ratings Абхі Шрівастава. «З появою легкодоступних і недорогих інструментів Gen AI генерувати складний глибокий фейк можна за лічені хвилини. Цей легкий доступ у поєднанні з обмеженнями існуючих заходів захисту соціальних мереж від розповсюдження маніпульованого контенту створює благодатне середовище для широко поширене зловживання глибокими фейками».

Глибоке фальшиве аудіо через автоматичний виклик було використано під час президентських праймеріз у Нью-Гемпширі цього виборчого циклу.

Згідно з Moody’s, однією з потенційних переваг є децентралізований характер виборчої системи США разом із теперішнією політикою кібербезпеки та загальним знанням про кіберзагрози, що насуваються. Це забезпечить певний захист, кажуть у Moody’s. Штати та місцеві органи влади вживають заходів для подальшого блокування дипфейків та немаркованого вмісту штучного інтелекту, але закони про свободу слова та занепокоєння щодо блокування технологічних досягнень уповільнили цей процес у законодавчих органах деяких штатів.

За даними Moody’s, станом на лютий щотижня в законодавчі збори штатів вносилося 50 законодавчих актів, пов’язаних із штучним інтелектом, у тому числі зосереджені на глибоких фейках. У тринадцяти штатах діють закони про втручання у вибори та дипфейки, вісім із яких набули чинності з січня.

У Moody’s відзначили, що США вразливі до кіберризиків, посідаючи 10-е місце з 192 країн в Індексі розвитку електронного уряду ООН.

Уявлення населення про здатність дипфейків впливати на політичні результати, навіть без конкретних прикладів, достатньо, щоб «підірвати суспільну довіру до виборчого процесу та довіру до державних установ, що є кредитним ризиком», згідно з Moody’s. Чим більше населення турбується про те, щоб відокремити факти від вигадки, тим більший ризик, що громадськість стане незаангажованою та недовірою до уряду. «Такі тенденції були б негативними для кредитів, потенційно призводячи до збільшення політичних і соціальних ризиків і підриваючи ефективність державних установ», — пише Moody’s.

«Реакція правоохоронних органів і Федеральної комісії з зв’язку США може перешкодити іншим місцевим суб’єктам використовувати штучний інтелект для обману виборців», – сказав Адамс із Secureworks. «Але немає жодних сумнівів, що іноземні актори продовжуватимуть, як вони робили протягом багатьох років, втручатися в американську політику, використовуючи генеративні інструменти та системи штучного інтелекту. Для виборців повідомлення полягає в тому, щоб зберігати спокій, бути пильними та голосувати. .”