МВС Великої Британії зреагувало на скарги щодо ШІ Grok, що створює оголені зображення жінок
Жінка з Великої Британії розповіла BBC, що відчула себе “знелюдненою і зведеною до сексуального стереотипу” після того, як штучний інтелект Grok, розроблений компанією XAI Ілона Маска, використав її зображення для створення цифрових знімків в бікіні та сексуальних сцен без її згоди.
BBC побачила кілька прикладів на соціальній платформі X, де люди просили чат-бота роздягнути жінок, щоб вони з’явилися в бікіні без їхньої згоди, а також поставити їх у сексуальні ситуації.
Зазначається, що компанія XAI, що стоїть за Grok, не відповіла на запит про коментар, окрім автоматично згенерованої відповіді, в якій йшлося про “брехню традиційних ЗМІ”.
Саманта Сміт поділилася в X дописом про те, що її зображення було змінено, на що відреагували коментарями ті, хто пережив те саме, перш ніж інші користувачі попросили Grok створити ще більше її зображень.
“Жінки не дають на це згоди. Хоча це була не я в оголеному вигляді, але це виглядало як я і відчувалося як я, і це було так само образливо, якби хтось насправді опублікував моє оголене фото або фото в бікіні”, – розповіла Саманта Сміт.
Представник Міністерства внутрішніх справ Великої Британії заявив, що ведеться робота над законодавством, яке забороняє інструменти для оголення, і згідно з новим кримінальним злочином, будь-хто, хто постачає таку технологію, “буде покараний тюремним ув’язненням і значними штрафами”.
Регулюючий орган Ofcom зазначив, що технологічні компанії повинні “оцінювати ризик” перегляду незаконного контенту на своїх платформах користувачами у Великій Британії, але не підтвердив, чи розслідує він зараз X або Grok у зв’язку з ШІ-зображеннями.
Grok — це безкоштовний AI-асистент (з деякими платними преміум-функціями), який реагує на запити користувачів X, коли вони позначають його в публікації.
Його часто використовують для реагування або надання додаткового контексту коментарям інших користувачів, але користувачі X також можуть редагувати завантажене зображення за допомогою функції редагування зображень за допомогою ШІ.
Grok піддався критиці за те, що дозволяє користувачам створювати фотографії та відео з оголеними людьми та сексуальним контентом, а раніше його звинувачували у створенні відвертого кліпу з Тейлор Свіфт.
Клер МакГлінн, професор права в Університеті Дарема, зазначила, що X або Grok “могли б запобігти таким формам зловживання, якби захотіли”, додавши, що вони “здається, користуються безкарністю”.
“Платформа вже кілька місяців дозволяє створювати та поширювати такі зображення, не вживаючи жодних заходів, і ми ще не бачили жодних дій з боку регуляторних органів”, – сказала вона.
Власна політика прийнятного використання XAI забороняє “зображення осіб у порнографічному контексті”.
У заяві для BBC Ofcom зазначив, що “створення або поширення інтимних зображень без згоди або матеріалів про сексуальне насильство над дітьми” є незаконним, і підтвердив, що це включає сексуальні депфейки, створені за допомогою ШІ.
Він заявив, що такі платформи, як X, зобов’язані вживати “відповідних заходів” для “зменшення ризику” того, що британські користувачі натраплять на незаконний контент на їхніх платформах, і швидко видаляти його, коли дізнаються про його наявність.
Источник: bukvy.org