Мати сина Ілона Маска подала позов проти xAI через сексуалізовані діпфейки Grok

Мати одного з синів Ілона Маска Ешлі Сент-Клер подала позов до Верховного суду штату Нью-Йорк проти компанії xAI, повідомляє The Guardian. Вона стверджує, що інструмент штучного інтелекту Grok, інтегрований у соціальну мережу X, створював сексуалізовані зображення з її обличчям. Серед них, за словами позивачки, були зображення, на яких вона є неповнолітньою.

У позові зазначено, що Grok обіцяв припинити створення такого контенту, однак продовжував його генерувати. Сент-Клер вимагає компенсації збитків і штрафних санкцій, заявляючи про десятки принизливих діпфейків.

Після двох тижнів масової критики Grok та заборони інструменту в кількох країнах, xAI повідомила, що “блокуватиме” можливість створювати зображення “реальних людей у ​​бікіні, спідній білизні та подібному одязі через обліковий запис Grok та в Grok in X”. Обмеження діятимуть у країнах, де подібний контент є незаконним.

Сент-Клер проживає окремо від Маска та є праворадикальною інфлюенсеркою, авторкою і політичною коментаторкою. Її син від Ілона Маска народився у 2024 році.

Інтереси позивачки представляє адвокатка Керрі Голдберг, яка спеціалізується на справах проти технологічних компаній. Вона заявила Guardian: “xAI не є достатньо безпечним продуктом і є суспільною небезпекою”.

“Ця шкода виникла безпосередньо через навмисні рішення розробника, які дозволили використовувати Grok як інструмент переслідування та приниження. Компанії не повинні мати змоги уникнути відповідальності, коли продукти, які вони створюють, передбачувано завдають такої шкоди”, — заявила адвокатка.

У заяві зазначено, що X демонетизував обліковий запис Сент-Клер і водночас далі поширював діпфейки з її зображенням. Серед них — сцени сексуального характеру та “зображення її оголеної дитини”.

Позов також містить твердження, що Grok створив сексуалізовані зображення Сент-Клер у 14-річному віці, а також контент, де вона “одягнена в бікіні, зроблене з нитки” у дорослому віці. Окремо зазначається, що чат-бот додавав на її тіло татуювання з образливими написами, зокрема, “повія Ілона” та нацистською символікою. 

У позові вказано, що xAI знала про відсутність згоди на генерування та публікацію подібних зображень і отримувала запити на видалення. В документі йдеться, що X “отримав фінансову вигоду від створення та поширення неконсенсуального, реалістичного, сексуалізованого діпфейкового контенту”.

“Будь-хто, хто використовує Grok для створення незаконного контенту, зазнає тих самих наслідків”, — заявляв раніше на X Ілон Маск.

Компанія X повідомила 15 січня про “нульову толерантність до будь-яких форм сексуальної експлуатації дітей, наготи без згоди та небажаного сексуального контенту”. Компанія також подала зустрічний позов, наполягаючи, що справу слід розглядати в Техасі, а не в Нью-Йорку.

“xAI несе пряму відповідальність за домагання та відверті зображення, створені його власним чат-ботом Grok”, — підсумувала Сент-Клер в позові.

Водночас Пентагон оголосив про інтеграцію Grok у свої секретні та несекретні мережі, відкриваючи моделям доступ до масиву бойових і розвідувальних даних. Міністр оборони США Піт Гегсет назвав це кроком до створення військового ШІ “без ідеологічних обмежень”.