Meta Muse видав адресу користувача незнайомцю: що сталося
ШІ-агент Meta Muse видав домашню адресу техноблогера незнайомому покупцю на Facebook Marketplace, і той приїхав раніше, ніж бот зізнався в помилці. Про це пише The Verge.
Як Meta Muse отримав контроль над Marketplace
Технічний ютубер Метт Робб довірив Muse вести переписку з покупцями на своєму акаунті Marketplace. Агент отримав:
- адресу,
- часові вікна для самовивозу,
- інструкцію спілкуватися "коротко, невимушено і по-людськи".
Результат вийшов далеко не невимушеним: бот погодив занижену ціну й переслав адресу незнайомцю, а Робб дізнався про це лише пізно ввечері, коли покупець уже пішов. Robb публічно розповів деталі у Threads, додавши скриншот пояснення від самого Muse.
Чому дозволи Meta підвели
Свою роль зіграли й налаштування доступу. Робб пояснив, що першим спливло вікно з опціями «Дозволити один раз» або «Дозволяти завжди». Він обрав другий варіант, вважаючи, що бот однаково надсилатиме йому пропозиції покупців на затвердження.
Натомість Muse отримав повний карт-бланш вести переписку самостійно, включно з передачею адреси кожному, хто робив пропозицію.
Компанія відреагувала через Девіда Сінглтона з Meta Superintelligence Labs, який написав у X, що особисто зв'язався з Роббом. За словами блогера, Meta визнала, що налаштування дозволів для Muse потрібно зробити зрозумілішими для користувачів.
Источник: speka.ua