ШІ МАска отримає судовий позов щодо дитячої порнографії Грока

Компанія Ілона Маска xAI має бути притягнута до відповідальності за те, що дозволила своїм моделям штучного інтелекту створювати образливі сексуальні зображення неповнолітніх, яких можна ідентифікувати, стверджують троє анонімних позивачів у позові, поданому в понеділок до федерального суду Каліфорнії.

Троє позивачів хочуть подати колективний позов, представляючи інтереси будь-кого, чиї реальні зображення неповнолітніх були перероблені Гроком на сексуальний контент. Вони стверджують, що xAI не вжила основних запобіжних заходів, що застосовуються іншими передовими лабораторіями, щоб запобігти створенню їхніми моделями зображень порнографії, що зображує реальних людей та неповнолітніх.

Справу «Джейн Доу 1, Джейн Доу 2, неповнолітня, та Джейн Доу 3, неповнолітня, проти x.AI Corp. та x.AI LLC» було подано до Окружного суду США Північного округу Каліфорнії.

Інші генератори зображень глибокого навчання використовують різні методи для запобігання створенню дитячої порнографії зі звичайних фотографій. У позові стверджується, що ці стандарти не були прийняті xAI.

Примітно, що якщо модель дозволяє створювати оголений або еротичний контент із реальних зображень, практично неможливо запобігти створенню нею сексуального контенту за участю дітей. Публічна реклама Маском здатності Грока створювати сексуальні зображення та зображувати реальних людей у ​​відвертому одязі займає важливе місце в цьому костюмі.

Компанія не відповіла на запит про коментар від TechCrunch.

Одна позивачка, Джейн Доу 1, мала фотографії з її шкільного випускного вечора та щорічника, які Грок змінив, щоб вони зображували її голою. Анонімний інформатор, який зв'язався з нею в Instagram, повідомив їй, що фотографії поширюються в Інтернеті, і надіслав їй посилання на сервер Discord, де були сексуалізовані зображення неї та інших неповнолітніх, яких вона впізнала зі школи.

Другу позивачку, Джейн Доу 2, слідчі кримінальних справ повідомили про змінені сексуалізовані зображення її особи, створені стороннім мобільним додатком, який використовує моделі Grok. Третю, Джейн Доу 3, також повідомили слідчі кримінальних справ, які виявили змінене порнографічне зображення її особи на телефоні затриманого ними особи. Адвокати позивачів стверджують, що оскільки використання послуг третіми сторонами все ще вимагає коду та серверів xAI, компанія має нести відповідальність.

Усі троє позивачів, двоє з яких ще неповнолітні, кажуть, що вони переживають надзвичайний стрес через поширення цих зображень та те, як це може вплинути на їхню репутацію та соціальне життя. Вони вимагають цивільних санкцій відповідно до низки законів, спрямованих на захист експлуатованих дітей та запобігання корпоративній недбалості.