Небезпечний вплив. ШІ-боти можуть непомітно впливати на вибори — дослідники

Про це пише видання ScienceDaily.

У новому дослідженні йдеться про появу менш помітної, але небезпечної форми політичного впливу. Йдеться про цифрові «персони», керовані ШІ, які можуть формувати громадську думку і впливати на демократичні процеси.

У науковій статті описано, як великі групи таких акаунтів здатні переконливо імітувати поведінку людей в інтернеті. Вони можуть заходити в онлайн-спільноти, брати участь у дискусіях і швидко впливати на позиції інших користувачів. На відміну від звичайних ботів, ці системи узгоджують дії, реагують на відгуки та підтримують однакові наративи на тисячах акаунтів.

Завдяки розвитку мовних моделей і систем, де взаємодіють кілька ШІ-агентів, одна людина може керувати великою мережею таких «голосів». Вони виглядають правдоподібно, використовують місцеву мову й стиль спілкування та взаємодіють так, що це здається природним.

Такі системи можуть проводити мільйони дрібних експериментів, щоб визначити, які повідомлення найкраще переконують людей. Це дозволяє їм швидко змінювати стратегію і створювати враження широкої підтримки певної думки. Насправді ж цей «консенсус» є штучним і спрямований на вплив у політичних дискусіях.

Хоча повноцінні ШІ-боти поки залишаються переважно теоретичними, дослідники вже бачать тривожні сигнали. Серед них — дипфейки та мережі фейкових новин, які впливали на обговорення під час виборів у США, Тайвані, Індонезії та Індії.

Водночас фахівці фіксують мережі, що поширюють великий обсяг контенту з проросійськими наративами. Вважається, що це може впливати на дані, на яких навчаються майбутні системи ШІ, і визначати, яку інформацію вони просуватимуть.

Експерти вважають, що такі технології можуть змінити баланс у демократичних суспільствах. За словами дослідника, суспільство не залишиться таким самим після їх появи, а довіра до незнайомих джерел у соцмережах може зменшитися. Це може посилити вплив відомих людей і ускладнити поширення думок звичайних користувачів.

Науковці зазначають, що головне завдання — навчитися вчасно розпізнавати такі кампанії впливу та реагувати на них, поки вони не стали надто масштабними.