Хакери опанували ШІ: кількість спаму збільшилася на 135% і він став "розумнішим"
За даними дослідників з Darktrace, нові атаки хакерів з використанням соціальної інженерії зросли на 135%, після того, як чат-боти, нейромережі та інші інструменти на основі ІІ стали доступні всім бажаючим, повідомляє ITPro. За даними експертів, понад 85% компаній стурбовані, що їхні співробітники відкриватимуть листи зі спамом, сприймаючи послання до них, за повідомлення реальних людей.
Масовість ІІ як причина проблеми
Справа в тому, що хакери активно стали використовувати соціальні навички та лінгвістичні моделі ІІ, який дуже добрий у написанні довірчих текстів. Використовуючи соціальну інженерію за допомогою нейромереж можна скласти цілком правдоподібний лист із шкідливим посиланням, що кардинально відрізняється від грубих і прямолінійних послань "в лоб", які користувачі відразу видаляють.
Причому в Darktrace, яка займається кібербезпекою, провели аналіз за тимчасовою шкалою і з'ясували, що активність впровадження в багато інструментів типу ChatGPT чітко відповідало збільшенню спроб фішингу через спам.
У чому особливість спаму від ІІ
Експерти відзначають, що нові атаки соціальної інженерії використовують "складні лінгвістичні методи", які, за твердженням компанії Darktrace, включають збільшення обсягу тексту, довжину пропозицій і складну пунктуацію в електронних листах. Крім того, тексти стали "розумнішими", "живішими" і майже не відрізняються від тих, які пишуть звичайні люди.
Це дуже важливий чинник, кажуть кіберфахівці, адже 61% клієнтів їхніх послуг завжди звертають увагу на використання орфографії та граматики у отриманих електронних листах.
"Ми стали стикатися з витонченими генеративними атаками ІІ та абсолютно новими видами шахрайства, які використовують методи, які ми ніколи раніше не бачили", — заявив Макс Хайнемайєр, директор з продуктів Darktrace.
За результатами опитування компанії серед своїх клієнтів виявилося, що 30% співробітників у минулому траплялися на шахрайські електронні листи або текстові повідомлення, що згенерували ІІ.
Де найслабша ланка
У компанії Darktrace зазначають, що головним джерелом загрози, як і раніше, є шкідливі посилання та вкладення в спам. Одним із найбільш поширених способів встановлення шкідливого програмного забезпечення на комп'ютер жертви є вбудовування шкідливого коду в документ Microsoft Office, наприклад файл Excel.
Нещодавно корпорація Microsoft вжила низку заходів, покликаних мінімізувати зловживання її програмним забезпеченням при фішингових атаках. Зокрема, в минулому було відключено макроси VBA — компонент, що сприяло автоматичному завантаженню шкідливих програм через підроблені документи Office.
Крім того, Microsoft вирішила блокувати електронні листи, що надсилаються з потенційно вразливих серверів Exchange. Саме вони протягом багатьох років використовувалися хакерами для запуску дуже переконливих фішингових кампаній електронною поштою.
Користувачі вітали таке рішення, але дорікнули Microsoft, що відключити макроси треба було багато років тому, коли громадськість закликала до такої дії ІТ-гіганта. Тоді вдалося б уникнути незліченної кількості атак, які роками завдавали величезної шкоди бізнесу.