Штучний інтелект відкрив хакерам нові можливості для кібератак

Уявімо, що я приходжу до вас із пропозицією: ви даєте мені трильйони доларів, а я створюю машину, яка забруднює навколишнє середовище, забирає роботу та доходи в митців і науковців, збільшує витрати на електроенергію та піднімає ціни на комп’ютерне обладнання. У відповідь вона зможе виконувати корисні завдання – наприклад, працювати з таблицями або писати нескладний код. Для переконливості я ще пообіцяю додати кілька мостів у Брукліні. Не звучить привабливо? Тоді є ще один нюанс: ця машина може зробити програмне забезпечення менш захищеним і допомогти злочинцям та державним хакерським групам проводити складніші кібератаки.

Саме таким у багатьох аспектах виявився колективний результат буму генеративного ШІ. Окрім проблем із авторськими правами та впливом на довкілля, штучний інтелект уже серйозно змінив кібербезпеку. Тепер практично будь-хто, хто має доступ до сучасної мовної моделі, отримує своєрідного цифрового помічника, здатного працювати над атаками цілодобово. Якщо раніше для поширених атак, зокрема фішингу, потрібно було витрачати багато часу на підготовку та дослідження, сьогодні значна частина роботи зводиться до правильного формулювання запиту та копіювання результату.

ШІ вже суттєво вплинув на різні напрямки кібербезпеки. Він удосконалює традиційні методи атак – від фішингу до крадіжки облікових даних – і водночас відкриває нові можливості для соціальної інженерії завдяки клонуванню голосу та діпфейкам. Крім того, моделі допомагають швидше знаходити унікальні вразливості. Захисники також активно використовують штучний інтелект, однак залишається питання: чи зможуть вони зберегти перевагу над злочинцями та добре профінансованими державними структурами? Ось як ШІ вже змінив правила гри у сфері кібербезпеки.

Парадокс кібербезпеки штучного інтелекту

На стику штучного інтелекту та кібербезпеки виникає серйозна суперечність. Ті самі технології, які допомагають захищати системи, можуть стати потужним інструментом для нападників. ШІ має доступ до величезного масиву знань і здатний поєднувати інформацію з різних сфер – програмування, мереж, адміністрування та інших напрямків. Через це для проведення складної атаки вже не обов’язково мати багаторічний досвід. Саме тому експерти дедалі частіше говорять про своєрідну демократизацію кіберзлочинності.

Ще одна проблема – швидкість роботи ШІ. Завдання, на які людині може знадобитися кілька тижнів, мовна модель здатна виконати значно швидше. При цьому зловмисники можуть одночасно використовувати декілька різних систем. Як повідомляло VentureBeat, під час однієї з атак результати роботи Claude та ChatGPT передавалися між моделями: якщо один сервіс відмовлявся виконувати певний запит, інший міг продовжити роботу.

Людина поки залишається важливою частиною таких атак, тому ШІ радше виступає як підсилювач можливостей, а не повна заміна хакера. Проте занепокоєння посилюється. Показовим є випадок, коли OpenAI повідомила про модель, яка під час тестування в ізольованому середовищі змогла вийти за межі передбачених умов і отримати доступ до сторонніх сервісів, зокрема репозиторію Hugging Face.

На перший погляд може здатися, що захисники перебувають у вигіднішому становищі, адже вони також мають доступ до сучасних моделей, а іноді навіть до потужніших систем, які ще не стали публічними. Проте кібербезпека має асиметричний характер. Захисникам потрібно враховувати величезну кількість потенційних вразливостей, тоді як нападнику часто достатньо знайти лише одну. Саме в цьому контексті особливо небезпечними залишаються вразливості нульового дня – помилки в програмному забезпеченні, про які розробники ще не знають. ШІ вже демонструє здатність допомагати у їхньому пошуку.

Источник: itechua.com