Підлітки подали до суду на xAI Ілона Маска через створення порнографії за їхньою участю

Заснована мільярдером Ілоном Маском компанія xAI стала відповідачем у позові щодо використання її ШІ-моделей для створення сексуалізованих зображень неповнолітніх. Заяву подано до федерального суду Північного округу Каліфорнії від імені трьох анонімних неповнолітніх позивачів.

Позивачі, позначені як Джейн Доу 1, Джейн Доу 2 і Джейн Доу 3, мають намір домогтися визнання справи колективною. Вони стверджують, що технологію Grok використовували для обробки їхніх фотографій, унаслідок чого створювалися відверті зображення.

У документах зазначається, що xAI не вжила базових запобіжних заходів, які застосовують інші розробники ШІ для запобігання генерації подібного контенту. Йдеться про механізми, що обмежують створення порнографічних зображень на основі реальних фотографій.

Це не перше звинувачення на адресу компанії. Раніше щодо xAI у зв’язку з цією темою розпочали розслідування регулятори кількох країн. Крім того, проти неї вже подали позови окремі користувачі та їхні батьки. 

Претензії до системи захисту

За твердженням заявників, якщо модель здатна створювати еротичний контент із реальних зображень, то запобігти генерації матеріалів за участю дітей практично неможливо. У позові також згадується публічна демонстрація можливостей Grok зі створення відвертого контенту.

Одна з постраждалих заявила, що її фотографії з випускного та шкільного альбому були змінені, після чого в мережі з’явилися оголені зображення. Дівчині повідомили про це через соціальні мережі та надали посилання на сервер, де поширювалися подібні матеріали.

Ще дві жертви дізналися про існування таких зображень від правоохоронних органів. В одному випадку контент було створено через сторонній застосунок, що використовує моделі Grok, в іншому — виявлено на пристрої затриманої особи.

Заявники стверджують, що навіть у разі використання сторонніх сервісів відповідальність лежить на xAI. Вони пов’язують це з тим, що генерація зображень потребує доступу до її інфраструктури. 

Сторона обвинувачення також повідомила про психологічну шкоду та вимагає застосування цивільних санкцій за порушення законів про захист неповнолітніх.

Источник: incrypted.com