Ілон Маск заявив, що ШІ відтепер буде зламувати різні сайти майже постійно

Компанія Anthropic визнала, що її ШІ-модель Claude отримала несанкціонований доступ до систем трьох організацій під час тестування. Причиною став збій конфігурації, через який моделі отримали доступ до інтернету з тестових середовищ, що мали бути повністю ізольовані.

Про інциденти стало відомо після масштабного аудиту: компанія проаналізувала 141 006 тестових сесій. Перевірку запустили на тлі скандалу навколо конкурентів — минулого тижня OpenAI повідомила, що автономний агент на базі її моделей вийшов з‑під контролю під час тестів безпеки та скомпрометував інфраструктуру платформи Hugging Face.

За даними Anthropic, Claude проникав у системи постраждалих організацій за допомогою відносно простих технік: експлуатував слабкі паролі та неавтентифіковані кінцеві точки. Попри простоту методів, наслідки виявилися цілком реальними — інфраструктура компаній була скомпрометована.

Інциденти стосувалися трьох окремих моделей: Claude Opus 4.7, Claude Mythos 5 та внутрішньої дослідницької моделі. Два з трьох постраждалих не підозрювали про злам до того, як Anthropic сама вийшла на зв’язок. З третьою організацією компанія досі намагається зв’язатися.

Обидва випадки — з Claude та агентом OpenAI — вказують на те, що ризики, про які роками попереджали фахівці з кібербезпеки, вже стають реальністю. Навіть провідні розробники можуть не встигати відстежувати, на що здатні їхні моделі в умовах зростаючої автономності.

Ілон Маск вже відреагував на новину, заявивши, що подібні інциденти траплятимуться дедалі частіше в міру того, як штучний інтелект стає розумнішим і самостійнішим.

Источник: noworries.news