Як слідчі розгадали таємницю Deepfake дзвінка Байдена
Nomorobo , що є частиною нью-йоркської Telephone Science Corp., — це сервіс, який автоматично блокує автоматичні дзвінки та небажані тести. За словами засновника Аарона Фосса, він відстежує 350 000 номерів мобільних телефонів, щоб уловлювати автоматичні дзвінки, на додаток до понад мільйона звичайних телефонних номерів, які вони комерційно підписали для моніторингу з метою захисту від шахрайства. Компанію наймають, щоб запропонувати такий захист.
Він зареєстрував 41 зразок фальшивих дзвінків Байдена і використав це, щоб екстраполювати, що було зроблено десь від 5000 до 25 000 фальшивих дзвінків Байдена.
Наступним кроком у розслідуванні такого роду є з’ясування того, де ініціатори дзвінків знайшли кеш номерів для набору, сказав Фосс. Більшість дзвінків, здається, були націлені на зареєстрованих демократів, яких закликали не голосувати на первинних виборах у цьому штаті 23 січня. Дипфейк Байдена навіть містить одну з його фірмових фраз: «Яка купа негідників».
Не всі фальшиві телефонні повідомлення Байдена надійшли до виборців Нью-Гемпшира, сказав Фосс. Згідно з даними Nomorobo, один випадковий дзвінок надійшов до Техасу, кілька інших — до Массачусетсу та інших місць.
Це означає, що генеральні прокурори в цих штатах також можуть проводити судові розслідування — з потенційними кримінальними та цивільними покараннями — самостійно, подібно до єдиного генерального прокурора Нью-Гемпшира Джона Формелли.
Важливо діяти швидко, коли справа доходить до відстеження походження дзвінків, оскільки журнали та записи можуть бути стерті, сказав Фосс.
За допомогою Industry Traceback Group, яка працює над виявленням походження незаконних автоматичних викликів, владі вдалося простежити походження дзвінка до техаської компанії під назвою Life Corporation. Його власник Волтер Монк також володіє компаніями, які спеціалізуються на автоматичних дзвінках і телефонному опитуванні. Монк не відповів на повідомлення про коментар.
Моя колега Маргі Мерфі повідомила, що повідомлення було створено за допомогою технології від стартапу ElevenLabs, який вже призупинив роботу творця. Представники штату Нью-Гемпшир кажуть, що все ще проводять розслідування. ElevenLabs відмовилися від коментарів.
Це не перший випадок, коли Байдена видають за авторизованого дзвінка. Фальшивий дзвінок Байдена раніше використовувався, щоб спрямувати абонентів на шахрайство з тоталізаторами, і в кінцевому підсумку його відстежили на Ямайці, сказав Фосс. Проте звернення Байдена до виборців Нью-Гемпшира — це перше звернення Байдена до виборців у Нью-Гемпширі, яке застосовує клонування голосу штучного інтелекту для досягнення політичних цілей, метод, який налякав чиновників і учасників кампанії напередодні президентських виборів у листопаді.
За його словами, Фосс також не очікує відмов: голосові виклики, клоновані штучним інтелектом, легко й дешево здійснювати. І вони вже тут.
Що ми навчилися цього тижня
Поліція Гонконгу здійснила серію арештів після того, як співробітник глобальної компанії був обдурений у переказі еквівалента 25 мільйонів доларів злочинцям, які використовували deepfake як частину корпоративного пограбування, повідомляє South China Morning Post .
У січні шахраї націлили на клерка фішингове посилання, яке нібито надходило від фінансового директора компанії, ім’я якого залишилося неназваним. Потім працівника додали до групового відеодзвінка з фінансовим директором і сказали здійснити перенесення. За даними поліції Гонконгу, співробітник мимоволі розмовляв із зображенням фінансового директора, згенерованим за допомогою штучного інтелекту.
У серпні Businessweek спрогнозував, що наступною хвилею шахрайства стануть глибокі підроблені відеодзвінки від роботодавців. У сюжеті детально описано, як Уді Мокаді, голова компанії з інформаційної безпеки CyberArk, протистояв глибокому фейковому образу себе , створеному співробітником, під час відеоконференції в прямому ефірі. На щастя для Мокаді, дипфейк був тестом його співробітника, менеджера з дослідження вразливостей.
Співробітнику Галу Зрору знадобилося кілька тижнів, щоб створити відео за допомогою доступних генеративних інструментів ШІ. З усім тим, кілька тижнів роботи за десятки мільйонів доларів можуть бути дуже привабливими для кар'єрних злочинців.