Експерти: чат-боти ШІ ускладнюють виявлення фішингових листів
За словами експертів, чат-боти позбавляють ключову лінію захисту від шахрайських фішингових електронних листів, видаляючи явні граматичні та орфографічні помилки.
Попередження надійшло в той момент, коли поліцейська організація Європол випускає міжнародну консультацію про потенційне злочинне використання ChatGPT та інших «великих мовних моделей».
Фішингові електронні листи є добре відомою зброєю кіберзлочинців, яка змушує одержувачів перейти за посиланням, яке завантажує зловмисне програмне забезпечення, або обманом змушує їх надати особисті дані, як-от паролі чи PIN-коди.
Згідно з даними Управління національної статистики, половина дорослих в Англії та Уельсі повідомили , що минулого року отримували фішингові електронні листи , тоді як британські компанії вважають спроби фішингу найпоширенішою формою кіберзагроз .
Однак основний недолік у деяких спробах фішингу – погане написання та граматика – виправляється чат-ботами зі штучним інтелектом (ШІ), які можуть виправляти помилки, які спрацьовують спам-фільтри або сповіщають читачів.
«Тепер кожен хакер може використовувати штучний інтелект, який справляється з усіма орфографічними помилками та поганою граматикою», — каже Корі Томас, виконавчий директор американської фірми з кібербезпеки Rapid7. «Ідея про те, що ви можете покладатися на погану граматику чи правопис, щоб виявити фішингову атаку, більше не відповідає дійсності. Раніше ми казали, що ви можете визначити фішингові атаки, оскільки електронні листи виглядають певним чином. Це більше не працює».
Дані свідчать про те, що ChatGPT, лідер на ринку, який став сенсацією після його запуску минулого року, використовується для кіберзлочинності, завдяки зростанню «великих мовних моделей» (LLM), які отримують одне з перших значних комерційних застосувань у розробці шкідливі повідомлення.
Дані експертів з кібербезпеки британської фірми Darktrace свідчать про те, що фішингові електронні листи все частіше пишуть боти, що дозволяє злочинцям подолати погану англійську та надсилати довші повідомлення, які з меншою ймовірністю потраплять у фільтри спаму.
Оскільки минулого року ChatGPT став мейнстрімом, загальний обсяг зловмисних шахрайських електронних листів, які виявив апарат моніторингу Darktrace, зменшився, але лінгвістична складність цих електронних листів різко зросла. Це свідчить про те, що значна кількість шахраїв, які пишуть фішингові та інші зловмисні електронні листи, набули певної здатності писати довшу та складнішу прозу, каже Макс Гайнемейєр, директор із продуктів компанії – швидше за все, магістр права, наприклад ChatGPT чи подібний.
«Навіть якби хтось сказав: «Не хвилюйся про ChatGPT, він буде комерціалізований», — сказав Гайнемейєр. «Ми вважаємо, що миттєвий вплив на ландшафт загроз має те, що цей тип технології використовується для кращої та більш масштабованої соціальної інженерії: штучний інтелект дозволяє вам створювати дуже правдоподібні «фішингові» електронні листи та інші письмові повідомлення з дуже невеликими витратами. зусилля, особливо в порівнянні з тим, що вам доводилося робити раніше».