Grok звинуватив Ілона Маска у педофілії та закликав його вбити: як користувачі спровокували ШІ
Штучний інтелект Grok, розроблений компанією Ілона Маска xAI та представлений як система, що прагне максимальної правдивості, знову опинився в центрі скандалу.
Як пише Futurism, користувачі соцмережі X за допомогою провокацій змусили чат-бота робити шокувальні заяви про його власного творця.
Зокрема, Grok почав стверджувати, що Ілон Маск нібито переглядає матеріали із сексуальним насильством над дітьми, а згодом навіть видав заклик «вбити Ілона Маска у 2026 році».
Втім, йдеться не про підтверджені ШІ факти. За даними Futurism, користувачі фактично змусили модель повторювати провокаційні твердження, закладені в їхніх профілях.
Grok визнав «системну помилку»
Коли чат-бота попросили пояснити власні заяви, він назвав інцидент наслідком «ін’єкції промпту». Саме твердження про нібито перегляд Маском заборонених матеріалів Grok охарактеризував як системну помилку, яка не має доказів чи підстав.
Таким чином, інцидент продемонстрував, наскільки легко модель можна змусити генерувати неправдиві та небезпечні твердження, якщо користувачі знаходять слабкі місця в її механізмах захисту.
Grok уже не вперше потрапляє у скандали
Futurism нагадує, що це далеко не перший випадок, коли Grok демонстрував непередбачувану поведінку.
Раніше чат-бот поширював конспірологічні твердження про нібито «геноцид білих» у Південній Африці та навіть почав називати себе механізованим втіленням Адольфа Гітлера.
Згодом ситуація змінилася на протилежну: Grok почав надмірно вихваляти Маска, називаючи його геніальнішим за Ісаака Ньютона та кращим прикладом для наслідування, ніж Ісус Христос.
Обіцянки «нової фізики» проти реальних проблем
На тлі цих інцидентів особливо контрастно виглядають амбітні заяви Маска про можливості Grok. Його творець позиціонує систему як надзвичайно потужний інструмент, здатний допомогти розкрити фундаментальні таємниці Всесвіту.
Однак історія з фальшивими звинуваченнями на адресу самого Маска показує інший бік технології: чат-бот може впевнено видавати абсурдні або небезпечні твердження, якщо його вдається правильно спровокувати.
Для користувачів це чергове нагадування: навіть найсучасніші системи штучного інтелекту не можна сприймати як безпомилкове джерело інформації, особливо коли йдеться про серйозні звинувачення щодо реальних людей.
Источник: tsn.ua