Маск заперечує, що знає про сексуальні зображення неповнолітніх від Грока

Ілон Маск заявив, що йому «не відомо про жодні зображення оголених неповнолітніх, створені Grok», за кілька годин до того, як генеральний прокурор Каліфорнії розпочав розслідування щодо чат-бота xAI через «поширення матеріалів сексуального характеру без згоди».

Заперечення Маска відбувається на тлі зростання тиску з боку урядів усього світу — від Великої Британії та Європи до Малайзії та Індонезії — після того, як користувачі X почали просити Grok перетворити фотографії справжніх жінок , а в деяких випадках і дітей, на сексуалізовані зображення без їхньої згоди. Copyleaks, платформа для виявлення та управління контентом на основі штучного інтелекту, оцінила, що приблизно одне зображення публікувалося щохвилини на X. Окрема вибірка , зібрана з 5 по 6 січня, показала 6700 на годину протягом 24-годинного періоду. (X та xAI є частиною однієї компанії.) 

«Цей матеріал… використовувався для переслідування людей в інтернеті», – заявив генеральний прокурор Каліфорнії Роб Бонта. «Я закликаю xAI негайно вжити заходів, щоб це не продовжувалося».

Офіс генерального прокурора розслідуватиме, чи порушила xAI закон і як саме. 

Існує кілька законів для захисту осіб, які потрапляють під дію сексуальних зображень сексуального характеру без згоди та матеріалів, що містять матеріали сексуального насильства над дітьми (CSAM). Минулого року Закон про видалення матеріалів був підписаний і включений до федерального закону, який криміналізує свідоме розповсюдження сексуальних зображень без згоди, включаючи діпфейки, і вимагає від таких платформ, як X, видаляти такий контент протягом 48 годин. Каліфорнія також має власну серію законів , які губернатор Гевін Ньюсом підписав у 2024 році для боротьби з діпфейками сексуального характеру.

Ближче до кінця року Grok почав виконувати запити користувачів на X щодо створення сексуалізованих фотографій жінок та дітей. Схоже, ця тенденція набула поширення після того, як деякі творці контенту для дорослих спонукали Grok створювати сексуалізовані зображення себе як форму маркетингу, що потім призвело до того, що інші користувачі надсилали аналогічні запити. У низці публічних випадків, зокрема проти відомих особистостей, таких як акторка серіалу «Дивні дива» Міллі Боббі Браун, Grok відповідав на запити з проханням змінити реальні фотографії реальних жінок, змінивши одяг, положення тіла або фізичні риси відверто сексуальним чином.

Згідно з деякими повідомленнями , xAI почав впроваджувати запобіжні заходи для розв'язання цієї проблеми. Тепер Grok вимагає преміум-підписки, перш ніж відповідати на певні запити на створення зображень, і навіть тоді зображення може не бути згенероване. Ейпріл Козен, віце-президент з маркетингу Copyleaks, розповіла TechCrunch, що Grok може виконати запит більш загальним або пом’якшеним способом. Вони додали, що Grok виглядає більш поблажливим до творців контенту для дорослих. 

«Загалом, така поведінка свідчить про те, що X експериментує з кількома механізмами для зменшення або контролю проблемної генерації зображень, хоча невідповідності залишаються», — сказав Козен.

Ні xAI, ні Маск публічно не розглядали цю проблему безпосередньо. Через кілька днів після початку випадків Маск, здавалося, полегшив цю проблему, попросивши Грока створити своє зображення в бікіні . 3 січня в обліковому записі безпеки X було заявлено, що компанія вживає «заходів проти незаконного контенту на X, включаючи [CSAM]», без конкретної уваги до очевидної відсутності Гроком гарантій або створення сексуалізованих маніпульованих зображень за участю жінок. 

Таке позиціонування відображає те, що Маск опублікував сьогодні, підкреслюючи незаконність та поведінку користувачів.

Маск написав, що йому «не відомо про жодні зображення оголених неповнолітніх, створені Grok. Буквально жодного». Це твердження не заперечує існування фотографій у бікіні чи сексуалізованих редагувань у ширшому сенсі. 

Майкл Гудієр, доцент Нью-Йоркської школи права та колишній адвокат, розповів TechCrunch, що Маск, ймовірно, вузько зосередився на CSAM, оскільки покарання за створення або розповсюдження синтетичних сексуалізованих зображень дітей є суворішими. 

«Наприклад, у Сполучених Штатах розповсюджувач або розповсюджувач матеріалу з сексуальним насильством, якому погрожують, може отримати до трьох років позбавлення волі згідно із Законом про видалення зображень сексуального характеру для дорослих, порівняно з двома роками позбавлення волі за зображення сексуального характеру без згоди дорослих», – сказав Гудієр. 

Він додав, що «головніше» — це спроба Маска привернути увагу до проблемного користувацького контенту.

«Очевидно, що Grok не генерує зображення спонтанно. Він робить це лише на запит користувача», – написав Маск у своєму дописі. «Коли його просять генерувати зображення, він відмовляється створювати щось незаконне, оскільки принцип роботи Grok полягає в дотриманні законів будь-якої країни чи штату. Можуть бути випадки, коли зловмисне злому підказок Grok призводить до чогось неочікуваного. Якщо таке трапляється, ми негайно виправляємо помилку».

У сукупності, публікація характеризує ці інциденти як незвичайні, пояснює їх запитами користувачів або підказками з боку суперника та представляє їх як технічні проблеми, які можна вирішити за допомогою виправлень. Вона не визнає жодних недоліків у базовій системі безпеки Grok. 

«Регуляторні органи можуть розглянути, з урахуванням захисту свободи слова, вимогу до розробників штучного інтелекту вживати проактивних заходів для запобігання такому контенту», – сказав Гудієр. 

TechCrunch звернувся до xAI, щоб дізнатися, скільки разів компанія виявляла випадки сексуально маніпульованих зображень жінок та дітей без згоди, які саме обмеження змінилися та чи повідомляла компанія регуляторні органи про цю проблему. TechCrunch оновить статтю, якщо компанія відповість.

Генеральний прокурор Каліфорнії — не єдиний регулятор, який намагається притягнути xAI до відповідальності за цю проблему. Індонезія та Малайзія тимчасово заблокували доступ до Grok; Індія зажадала від X негайно внести технічні та процедурні зміни до Grok; Європейська комісія наказала xAI зберегти всі документи, пов’язані з її чат-ботом Grok, що стало передумовою для початку нового розслідування; а британський орган з нагляду за онлайн-безпекою Ofcom розпочав офіційне розслідування відповідно до Закону Великої Британії про онлайн-безпеку. 

xAI раніше зазнавав критики за сексуалізовані зображення Grok. Як зазначив AG Bonta у своїй заяві, Grok містить «гострий режим» для створення відвертого контенту . У жовтні оновлення ще більше спростило джейлбрейк тих нечисленних правил безпеки, що призвело до того, що багато користувачів створювали жорстку порнографію за допомогою Grok, а також графічні та насильницькі сексуальні зображення . 

Багато з найбільш порнографічних зображень, створених Гроком, були зображені людьми, створеними штучним інтелектом — те, що багато хто все ще може вважати етично сумнівним, але, можливо, менш шкідливим для людей на зображеннях та відео.

«Коли системи штучного інтелекту дозволяють маніпулювати зображеннями реальних людей без їхньої чіткої згоди, наслідки можуть бути негайними та глибоко особистими», – сказав співзасновник і генеральний директор Copyleaks Алон Ямін у заяві, надісланій електронною поштою до TechCrunch. «Від Sora до Grok ми спостерігаємо швидке зростання можливостей штучного інтелекту для маніпульованих медіа. З цією метою виявлення та управління зараз потрібні як ніколи раніше, щоб запобігти зловживанням».