Індія наказала компанії Маска X виправити Grok через «непристойний» контент

Індія наказала компанії Ілона Маска X негайно внести технічні та процедурні зміни до свого чат-бота Grok зі штучним інтелектом після того, як користувачі та законодавці поскаржилися на створення «непристойного» контенту, включаючи змінені штучним інтелектом зображення жінок, створені за допомогою цього інструменту.

Міністерство інформаційних технологій Індії видало наказ, який зобов'язує Маска X вжити коригувальних заходів щодо Grok, зокрема обмежити створення контенту, що містить «оголеність, сексуалізацію, матеріали сексуального характеру або інші незаконні матеріали». Міністерство також дало платформі соціальних мереж 72 години, щоб подати звіт про вжиті заходи з детальним описом кроків, вжитих для запобігання розміщенню або поширенню контенту, який вважається «непристойним, порнографічним, вульгарним, непристойним, відвертим сексуальним, педофільним або іншим чином забороненим законом».

У наказі, переглянутому TechCrunch, попереджалося, що невиконання може поставити під загрозу захист «безпечної гавані» X — юридичний імунітет від відповідальності за контент, створений користувачами, згідно із законодавством Індії.

Цей крок Індії стався через занепокоєння користувачів, які поділилися прикладами того, як Grok спонукали змінювати зображення людей — переважно жінок — щоб вони виглядали одягненими в бікіні, що спонукало до офіційної скарги від індійського парламентаря Пріянки Чатурведі. Окремо, у нещодавніх звітах йшлося про випадки, коли чат-бот зі штучним інтелектом генерував сексуалізовані зображення за участю неповнолітніх , проблема, яку X визнала раніше у п'ятницю, була спричинена недоліками в заходах безпеки. Пізніше ці зображення були видалені.

Однак, як виявила TechCrunch, зображення, створені за допомогою Grok, які зображували жінок у бікіні за допомогою штучного інтелекту, залишалися доступними на X на момент публікації.

Останнє розпорядження з'явилося через кілька днів після того, як у понеділок Міністерство інформаційних технологій Індії опублікувало ширше попередження для платформ соціальних мереж, яке також було розглянуто TechCrunch, нагадуючи їм, що дотримання місцевих законів, що регулюють непристойний та сексуально відвертий контент, є необхідною умовою для збереження юридичного імунітету від відповідальності за матеріали, створені користувачами. У попередженні компанії закликали посилити внутрішні гарантії та попереджали, що невиконання цього може призвести до судового позову відповідно до законодавства Індії про інформаційні технології та кримінального законодавства.

«Повторюємо, що недотримання вищезазначених вимог має розглядатися серйозно та може призвести до суворих правових наслідків для вашої платформи, її відповідальних посадових осіб та користувачів платформи, які порушують закон, без будь-якого подальшого повідомлення», – зазначається в наказі.

Уряд Індії заявив, що невиконання вимог може призвести до вжиття заходів проти X згідно із законодавством Індії про інформаційні технології та кримінальним законодавством.

Індія, один з найбільших цифрових ринків світу, стала критичним випробуванням того, наскільки далеко уряди готові зайти, притягуючи платформи до відповідальності за контент, створений штучним інтелектом. Будь-яке посилення правозастосування в країні може мати хвильові наслідки для глобальних технологічних компаній, що працюють у кількох юрисдикціях.

Це розпорядження було прийнято на тлі того, як платформа Маска X продовжує оскаржувати в суді аспекти правил регулювання контенту в Індії , стверджуючи, що повноваження федерального уряду щодо видалення контенту ризикують перевищити свої повноваження, навіть попри те, що платформа виконала більшість директив про блокування. Водночас користувачі X все частіше використовують Grok для перевірки фактів у режимі реального часу та коментування новинних подій, що робить її результати більш помітними — і більш політично чутливими — ніж результати окремих інструментів штучного інтелекту.