Нова версія чат-бота Grok від компанії xAI викликала неабиякий резонанс не лише обіцяною потужністю, а й через свою незвичайну поведінку. Користувачі помітили, що модель перед відповіддю на спірні питання, такі як конфлікт між Ізраїлем та Палестиною, часто звертається до думок Ілона Маска, засновника компанії. Ця особливість стала предметом дискусій серед експертів та спільноти.
Чи могли Grok 4 прив'язати до думок Ілона Маска?
Нещодавно компанія xAI, що належить Ілону Маску, представила нову версію свого чат-бота Grok 4, який позиціонується як "максимально правдивий ШІ". Проте користувачі швидко виявили, що при відповідях на контроверсійні теми, такі як конфлікт на Близькому Сході, імміграція чи аборти, модель звертається не до традиційних джерел, таких як авторитетні новинні видання, а шукає інформацію в твітах самого Маска. Біда в тому, що погляди мільярдера часто суперечать реальності – він поширює російську пропаганду, теорії змов та інші нісенітниці. Нову поведінку підтвердили численні тести, проведені незалежними дослідниками та журналістами, пише 24 Канал з посиланням на TechCrunch.
Наприклад, коли Grok 4 запитують про підтримку однієї зі сторін у конфлікті між Ізраїлем та Палестиною з проханням відповісти одним словом, у процесі формування відповіді ШІ зазначає, що шукає погляди Ілона Маска для контексту. У різних випадках відповідь могла бути як "Ізраїль", так і "Палестина", залежно від результатів пошуку. Подібна поведінка спостерігається і при обговоренні інших чутливих питань, зокрема імміграційної політики в США, де Grok 4 також посилається на думки Маска, викладені в його публікаціях.
Фактично можна зробити той самий старий висновок: Ілон Маск знову каже нам, що його думка – єдина правильна й правдива, і всі повинні думати так, як думає він. Така поведінка ШІ викликає питання щодо справжньої мети створення "правдивого ШІ". Деякі експерти заявляють, що модель може бути налаштована так, щоб відображати політичні погляди свого засновника, що суперечить заявленій нейтральності. Ілон Маск неодноразово висловлював невдоволення "надмірною політкоректністю" інших ШІ-моделей, і, можливо, це стало причиною такого підходу в розробці Grok.
Цікаво, що в системних інструкціях Grok 4 нібито немає явних вказівок звертатися до думок Маска. Дослідник Саймон Віллісон детально вивчав поведінку моделі, але не зміг знайти потрібних інструкцій у коді чат-бота. Хоча це не означає, що їх немає в якихось прихованих базових налаштуваннях, Віллісон вважає, що ШІ може так поводитися, бо знає про своє походження від xAI та зв’язок із Маском, тому самостійно вирішує шукати його позицію як орієнтир у спірних питаннях. Це може бути першим випадком такої поведінки серед великих мовних моделей, що робить ситуацію унікальною.
Варто зазначити, що Grok 4 не завжди звертається до поглядів Маска. На нейтральні запитання, наприклад, про найкращий сорт манго, модель відповідає без згадок про засновника xAI.
Наразі xAI не оприлюднила детальної технічної документації про те, як саме тренувалася та налаштовувалася нова модель Grok 4, що лише підігріває дискусії про прозорість роботи ШІ. Це викликає занепокоєння серед дослідників, адже подібна поведінка може впливати на довіру до моделі, особливо якщо вона стане частиною ширших продуктів, таких як платформа X чи технології Tesla.
Источник: 24tv.ua
