Дивні помилки в орфографії. ШІ від Google не зміг правильно написати назву своєї компанії

Про це пише видання TechCrunch.

Система також повідомила, що у слові poop є лише одна літера «r», а прізвище президента США написала як t-r-p-u-m. У Google пояснили, що підрахунок літер у словах залишається відомою проблемою для великих мовних моделей, і компанія працює над її виправленням.

Подібні помилки вже траплялися раніше після запуску AI Overview у пошуку Google. Тоді система посилалася на сатиричні матеріали та радила людям їсти каміння або додавати клей у піцу.

У компанії заявили, що проблема пов’язана з принципом роботи великих мовних моделей. Такі системи не розуміють текст так, як люди. Вони не аналізують окремі літери та слова, а працюють з так званими токенами — це можуть бути слова, склади або окремі символи.

Дослідник штучного інтелекту та викладач Університету Альберти Метью Гуздіал пояснив, що модель не «читає» слово буквально. За його словами, коли ШІ бачить слово the, він сприймає його як готову одиницю значення, а не окремі літери T, H і E.

Аспірант Північно-Східного університету Шерідан Фойхт зазначив, що проблема може не мати ідеального рішення. Він пояснив, що навіть фахівцям складно визначити, яким саме має бути правильний поділ тексту для мовної моделі.

У матеріалі зазначається, що орфографія не є головною функцією ШІ, однак такі помилки показують, що відповіді штучного інтелекту не можна сприймати без перевірки. Попри складні можливості, мовні моделі все ще здатні помилятися у дуже простих речах.