Штучний інтелект починає сперечатися з людьми - ЗМІ
GPT-5 рідше підтверджує помилкові висновки та сумнівні твердження користувачів. Рівень надмірної згоди знизився до менш ніж 6%.
Компанія OpenAI має намір зробити ChatGPT менш схильний до автоматичної згоди з користувачами. Чат-бот повинен не лише підтримувати співрозмовників, а й вказувати на помилки, заперечувати сумнівні твердження та пропонувати альтернативні точки зору. Про це повідомляє PCWPlus.hu.
Деталі
Зазначається, що йдеться про проблему, відому як "sycophancy", чи надмірна догідливість штучного інтелекту. У таких випадках ШІ підлаштовує відповіді на очікування людини замість того, щоб об'єктивно оцінювати ситуацію. В результаті чат-бот може підтверджувати помилкові висновки користувача або без достатніх підстав підтримувати його думку.
Власні вимірювання OpenAI показують, що GPT-5 досяг значного прогресу в цьому напрямі. У цільових тестах рівень схвальних відповідей знизився з 14,5 відсотка в GPT-4o до менш ніж 6 відсотків. ... Кількість випадків надмірної згоди (з користувачами - ред.) знизилася на 69 відсотків для безкоштовних користувачів і на 75 відсотків для платних передплатників порівняно з попередньою моделлю
Вказується, що особливе значення ці зміни мають для людей, які звертаються до штучного інтелекту за порадами з особистих питань, у вирішенні конфліктів або емоційною підтримкою.
Источник: unn.ua