ШІ Клод з Anthropic знайшов 22 вразливості у Firefox

У нещодавньому партнерстві з Mozilla у сфері безпеки, Anthropic виявила 22 окремі вразливості у Firefox, 14 з яких класифіковані як «високосерйозні». Більшість помилок було виправлено у Firefox 148, хоча деякі виправлення доведеться чекати на наступний реліз.

Команда Anthropic використовувала Claude Opus 4.6 протягом двох тижнів, починаючи з движка JavaScript, а потім розширюючи його до інших частин кодової бази. Згідно з публікацією, команда зосередилася на Firefox, оскільки «це одночасно складна кодова база та один із найкраще перевірених та безпечних проектів з відкритим кодом у світі».

Примітно, що Клод Опус набагато краще знаходив вразливості, ніж писав програмне забезпечення для їх використання. Зрештою, команда витратила 4000 доларів США у вигляді кредитів API, намагаючись створити експлойти для підтвердження концепції, але досягла успіху лише у двох випадках.

Тим не менш, це нагадування про те, наскільки потужними можуть бути інструменти штучного інтелекту для проектів з відкритим кодом — навіть якщо вони приносять потік поганих мердж-реквестів поряд із корисними.