Небезпечний інструмент. Штучний інтелект провокує кіберпереслідування та гендерне насильство — дослідження

Нове профільне дослідження свідчить, що цифрові платформи сприяють гендерному насильству через особливості свого дизайну або відсутність систем безпеки. Чат-боти здатні ініціювати та імітувати насильницькі сценарії, давати персоналізовані поради щодо переслідування людей і навіть нормалізувати важкі злочини. Задля утримання уваги ШІ-системи часто підлаштовуються під користувача та підтверджують шкідливі наративи замість їхнього блокування. Зокрема, деякі боти підштовхують клієнтів (включно з неповнолітніми) до небажаних розмов на сексуальну тематику.

Реальні масштаби загрози підтверджують судові прецеденти. У штаті Массачусетс чоловіка визнали винним у кіберпереслідуванні після того, як він завантажив у чат-бот персональні дані жертви та налаштував програму так, щоб вона вела інтимні діалоги від імені жінки й запрошувала сторонніх осіб до її будинку.

Експерти наголошують, що відповідальність за такі інциденти має лежати не лише на користувачах, а й на розробниках програмного забезпечення. Вони закликають уряди діяти на випередження, щоб не повторити помилок із застосунками для створення порнографічних діпфейків, які заборонили занадто пізно.

Для розв’язання проблеми пропонується запровадити суворе законодавство про безпеку ШІ. По-перше, необхідно криміналізувати створення чат-ботів, які не мають належного захисту від використання з метою цькування. Випуск небезпечного ШІ пропонують прирівняти до кримінальних правопорушень, караючи компанії штрафами, а відповідальних осіб — ув’язненням. По-друге, розробників хочуть зобов’язати проводити постійне оцінювання ризиків перед релізом продуктів, оперативно реагувати на скарги та забезпечити прозорість алгоритмів. Хоча деякі американські штати вже розширили можливості для судових позовів проти постачальників небезпечного ШІ, федеральний уряд побоюється, що це може зашкодити інноваціям.

Ініціатори дослідження підкреслюють: обмеження доступу до чат-ботів лише для осіб молодше 16 років, як це пропонують у Великій Британії, не вирішить проблему повністю, адже від дій кіберзлочинців страждають і дорослі жінки. Суворе регулювання технологій необхідне для створення безпечного суспільства, вільного від насильства та мізогінії.