Агентство з кібербезпеки попереджає, що ШІ зробить шахрайські електронні листи майже справжніми

Агентство кібербезпеки Великої Британії попередило, що завдяки штучному інтелекту буде важко визначити, чи є електронні листи справжніми чи надісланими шахраями та зловмисниками, включаючи повідомлення, які просять користувачів комп’ютерів скинути свої паролі.

Національний центр кібербезпеки (NCSC) заявив, що людям буде важко ідентифікувати фішингові повідомлення, коли користувачів обманом змушують надати паролі чи особисті дані, через складність інструментів ШІ .

Generative AI, термін для технології, яка може створювати переконливий текст, голос і зображення з простих влучних підказок, став широко доступним для громадськості через чат-ботів, таких як ChatGPT , і безкоштовні версії, відомі як моделі з відкритим кодом.

NCSC, який є частиною шпигунського агентства GCHQ , заявив у своїй останній оцінці впливу штучного інтелекту на кіберзагрози, з якими стикається Велика Британія, що ШІ «майже напевно» збільшить кількість кібератак і посилить їхній вплив протягом наступних двох років.

Зазначається, що генеративний штучний інтелект і великі мовні моделі – технологія, яка лежить в основі чат-ботів – ускладнять зусилля з виявлення різних типів атак, таких як підроблені повідомлення та соціальна інженерія, термін для маніпулювання людьми для передачі конфіденційних матеріалів.

«До 2025 року завдяки генеративному штучному інтелекту та великим мовним моделям кожному, незалежно від рівня розуміння кібербезпеки, буде важко оцінити, чи є запит на скидання електронної пошти чи пароля справжнім, або виявити спроби фішингу, спуфінгу чи соціальної інженерії».

Було попереджено, що витонченість штучного інтелекту «знижує бар’єр» для кіберзлочинців-любителів і хакерів для доступу до систем і збору інформації про цілі, дозволяючи їм паралізувати комп’ютерні системи жертв, витягувати конфіденційні дані та вимагати викуп у криптовалюті.

У NCSC заявили, що генеруючі інструменти штучного інтелекту вже допомогли зробити підходи до потенційних жертв більш переконливими, створивши підроблені «документи-приманки», які не містили перекладу, орфографічних або граматичних помилок, які, як правило, виявляли фішингові атаки — їхній вміст був створений або виправлений чат-ботами. .

Однак, зазначається, що генеративний штучний інтелект, який став компетентним інструментом кодування, не підвищить ефективність коду програм-вимагачів, але допоможе просіяти та ідентифікувати цілі.

За даними Управління інформаційного комісара, контролюючого органу Великої Британії, у 2022 році у Великій Британії було зареєстровано 706 інцидентів із програмним забезпеченням-вимагачем порівняно з 694 у 2021 році.

Агентство попередило, що державні суб’єкти, ймовірно, мають достатньо зловмисного програмного забезпечення (скорочення від шкідливого програмного забезпечення) для навчання спеціально створеної моделі ШІ, яка створить новий код, здатний уникнути заходів безпеки. У NCSC заявили, що таку модель потрібно буде навчити на даних, отриманих від її цілі.

«Дуже здібні державні суб’єкти майже напевно займають найкраще місце серед суб’єктів кіберзагроз, щоб використовувати потенціал штучного інтелекту в передових кіберопераціях», – йдеться у звіті NCSC.

У NCSC додали, що штучний інтелект також працюватиме як інструмент захисту, оскільки технологія зможе виявляти атаки та створювати більш безпечні системи.

Доповідь з’явилася в той момент, коли уряд Великої Британії встановив нові вказівки, які заохочують підприємства краще підготуватися до відновлення після атак програм-вимагачів. «Кодекс практики кіберуправління» має на меті поставити інформаційну безпеку на той самий рівень, що й фінансове та юридичне управління, повідомили в NCSC.

Але експерти з кібербезпеки закликають до більш рішучих дій. Кіаран Мартін, колишній голова NCSC, каже, що якщо державні та приватні організації кардинально не змінять свій підхід до загрози програм-вимагачів, «інцидент рівня серйозності атаки на Британську бібліотеку, ймовірно, відбудеться протягом наступних п’яти років». У інформаційному бюлетені Мартін написав, що Велика Британія має переглянути свій підхід до програм-вимагачів, у тому числі шляхом створення суворіших правил щодо виплати викупу та відмови від «фантазій» про «нанесення удару у відповідь» злочинцям із ворожих країн.