ChatGPT почав рекомендувати шахрайські магазини замість справжніх

Чат-бот ChatGPT почав рекомендувати користувачам посилання на підроблені інтернет-магазини та навіть згадувати товари, яких насправді не існує. Про проблему повідомило видання The Guardian з посиланням на сервіс виявлення шахрайства Ask Silver.

За даними дослідників, користувачі отримували посилання на сайти, які імітували відомі бренди, зокрема виробника взуття та аксесуарів Russell & Bromley та мережу товарів для дому Dunelm. Після оформлення замовлень на таких ресурсах люди втрачали гроші, а їхні платіжні дані потрапляли до шахраїв.

Експерти пояснюють проблему так званим «отруєнням штучного інтелекту». Зловмисники створюють фейкові сайти та масово публікують неправдиву інформацію в мережі. Після цього великі мовні моделі можуть сприймати такі ресурси як легітимні та рекомендувати їх користувачам. Особливо вразливими стають ситуації, коли відомий бренд змінює структуру бізнесу або припиняє роботу окремого сайту.

Фахівці нагадують, що навіть рекомендації AI потребують перевірки. Ознаками шахрайства часто є надто великі знижки, підозрілі адреси сайтів, некоректні контактні дані та прохання переказати кошти незвичними способами. Тому перед покупкою варто самостійно перевіряти офіційний сайт компанії через пошукові системи або інші надійні джерела.

У OpenAI вже видалили частину посилань, на які надходили скарги, однак експерти вважають, що проблема залишатиметься актуальною. Зі зростанням популярності AI-сервісів шахраї дедалі активніше використовують нові інструменти для пошуку потенційних жертв, тому користувачам варто ставитися до будь-яких рекомендацій критично.

Источник: itechua.com