Google застерігає від чат-ботів, що здатні викликати галюцинації у користувачів

БЕРЛІН, 11 лютого (Reuters) – Керівник пошукової системи Google застеріг від пасток штучного інтелекту в чат-ботах в газетному інтерв’ю, опублікованому в суботу, оскільки материнська компанія Google Alphabet (GOOGL.O) бореться за конкуренцію з популярним додатком ChatGPT .

«Такий вид штучного інтелекту, про який ми зараз говоримо, іноді може призводити до чогось, що ми називаємо галюцинаціями», — сказав німецькій газеті Welt am Sonntag Прабхакар Рагхаван, старший віце-президент Google і керівник пошукової служби Google.

«Тоді це виражається таким чином, що машина дає переконливу, але повністю вигадану відповідь», — сказав Рагаван у коментарях, опублікованих німецькою мовою. Одним із фундаментальних завдань, додав він, було звести це до мінімуму.

Google залишився на задньому плані після того, як OpenAI, стартап Microsoft (MSFT.O) , який підтримує близько 10 мільярдів доларів, у листопаді представив ChatGPT, який з тих пір вражає користувачів своїми вражаючими людськими відповідями на запити користувачів.

Alphabet Inc представила Bard, власний чат-бот, на початку цього тижня, але програмне забезпечення поширило неточну інформацію в рекламному відео в результаті помилки , яка коштувала компанії ринкової вартості в 100 мільярдів доларів у середу.

Компанія Alphabet, яка все ще проводить користувальницьке тестування на Bard, поки не вказала, коли додаток може стати публічним.

"Ми, очевидно, відчуваємо терміновість, але ми також відчуваємо велику відповідальність", - сказав Рагаван. «Звісно, ​​ми не хочемо вводити громадськість в оману».