ШІ-агенти зливають особисті дані та купують без дозволу

Штучний інтелект упевнено входить у наше повсякденне життя, допомагаючи з чим завгодно — від планування подорожей до онлайн-покупок. Проте автономні ШІ-агенти не лише полегшують рутину, а й часом припускаються прикрих помилок, виконуючи дії, про які їх не просили. На відміну від звичайних чат-ботів, вони мають доступ до реальних сервісів і діють від нашого імені, що інколи призводить до курйозних чи неприємних ситуацій.

Яскравим прикладом стала історія підприємця Шейна Мака, чий ШІ-агент через плутанину з назвами чатів випадково опублікував у загальному корпоративному Slack банківську виписку з усіма витратами.

В іншій ситуації користувачка Анніка Беннінг хотіла лише підібрати заміну повернутому купальнику, атомічно отримала оформлене замовлення — система списала гроші з попереднього повернення коштів і просто оминула стандартний етап підтвердження. Додайте до цього випадки з помилковими бронюваннями столиків чи накладками у списках гостей на дитячих вечірках, і стане зрозуміло, що технології ще далекі від ідеалу.

Звісно, такі помічники здатні на чимало корисного: наприклад, знаходити потрібні заклади з урахуванням алергій або готувати запрошення для батьків. Проте вони часто плутають деталі, контекст чи схожі імена, створюючи зайвий клопіт.

Саме тому експерти радять не довіряти ШІ надто сліпо. Краще обмежувати його доступ до чутливих даних, як-от банківські рахунки, робочі чати чи особисті кабінети, а фінансові транзакції та важливі бронювання завжди тримати під власним контролем.

Источник: itechua.com