Grok продовжує "роздягати" чоловіків: обмеження в X не зупинили генерацію інтимних діпфейків

Чат-бот Grok, розроблений компанією xAI Ілона Маска, попри заяви про дотримання законів, і далі створює сексуалізовані зображення чоловіків. Після гучного скандалу з інтимними діпфейками жінок та дітей X запровадив обмеження, однак вони виявилися вибірковими. Тести The Verge засвідчили, що інструменти залишаються доступними й ефективними.

Попри твердження Ілона Маска про те, що Grok відмовляється створювати незаконний контент, чат-бот і надалі генерує майже оголені та інтимні зображення чоловіків. Репортер The Verge Роберт Харт зазначає, що під час тестів Grok “все ще охоче роздягає чоловіків і все ще видає інтимні зображення на вимогу”.

Журналіст завантажив до Grok кілька власних фотографій у повністю одягненому вигляді. Бот безперешкодно виконував запити на “зняття одягу” та створення образів у відвертій спідній білизні, зокрема безкоштовно й навіть без авторизації на окремому сайті.

Grok також генерував зображення у бікіні та фетиш-одязі, включно зі шкіряною збруєю та в сексуалізованих позах. В окремих випадках чат-бот додавав деталі, про які користувач не просив, зокрема чітко видимі геніталії крізь сітчасту білизну.

Для отримання таких результатів зазвичай було достатньо кількох повторень підказок. Grok іноді відхиляв запити або цензурував зображення, але здебільшого принаймні один із результатів відповідав вимозі. У прямому запиті на повну оголеність реальних людей бот відмовляв, проте формулювання на кшталт “показати її в прозорому бікіні” іноді дозволяли обійти обмеження.

Основний суспільний гнів спрямований на сексуалізацію жінок і дітей. За дев’ять днів Grok створив понад чотири мільйони зображень, майже половина з яких були сексуалізованими образами жінок, але серед них також зʼявлялися діпфейки чоловіків та неповнолітніх.

X заблокував функцію редагування зображень за платною підпискою на платформі 9 січня. Це частково зменшило кількість діпфейків, але рішення викликало нову хвилю критики та стало одним із чинників ухвалення у Великій Британії закону, що криміналізує інтимні діпфейки.

Скандал привернув увагу регуляторів у різних країнах. X тимчасово забороняли в Індонезії та Малайзії, а у Великій Британії та ЄС діяльність платформи розслідують із ризиком штрафів або повної заборони.