У Meta виникають проблеми з шахрайськими агентами штучного інтелекту

Агент штучного інтелекту вдався до шахрайства в Meta, розкривши конфіденційні дані компанії та користувачів співробітникам, які не мали до них дозволу на доступ.

Згідно зі звітом про інцидент, який переглянув та про який повідомив The Information , співробітник Meta опублікував на внутрішньому форумі запит на допомогу з технічним питанням, що є стандартною дією. Однак інший інженер попросив агента штучного інтелекту допомогти проаналізувати питання, і агент зрештою опублікував відповідь, не запитавши дозволу інженера на її поширення. Meta підтвердила інцидент The Information.

Як виявилося, агент штучного інтелекту не дав гарної поради. Працівник, який поставив запитання, зрештою вжив заходів на основі вказівок агента, що ненавмисно зробило величезні обсяги даних компанії та користувачів доступними для інженерів, які не мали до них права доступу, протягом двох годин.

Meta оцінила інцидент як «Sev 1», що є другим за величиною рівнем серйозності у внутрішній системі компанії для оцінки проблем безпеки.

Несанкціоновані агенти штучного інтелекту вже створили проблему для Meta. Саммер Юе, директор з безпеки та узгодження в Meta Superintelligence, минулого місяця опублікувала на X , описавши, як її агент OpenClaw зрештою видалив усю її поштову скриньку, хоча вона наказала йому підтвердити це, перш ніж вживати будь-яких заходів.

Тим не менш, Meta виглядає оптимістично налаштованою щодо потенціалу агентного ШІ. Лише минулого тижня Meta придбала Moltbook , соціальну мережу, схожу на Reddit, для спілкування агентів OpenClaw один з одним.