Google розробив інструмент для виявлення підроблених зображень ШІ

Дмитро Сизов
Google розробив інструмент для виявлення підроблених зображень ШІ

Після попереджень про те, що ця технологія може стати джерелом дезінформації, Google запустив новий інструмент, який допоможе людям ідентифікувати підроблені зображення ШІ в Інтернеті .

Користувачі пошуку зображень Google тепер зможуть бачити «додатковий контекст» поряд із зображеннями, включаючи інформацію про те, коли зображення вперше з’явилося в Google, і будь-які пов’язані новини. Інструмент під назвою «Про це зображення» призначений для висвітлення новин про підроблені зображення, які згодом були розвінчані.

Запуск нового інструменту відбувся після того, як в Інтернеті з’явилася низка реалістичних підроблених зображень, у тому числі створених штучним інтелектом зображень, на яких зображено арешт Дональда Трампа.

Такі інструменти, як Midjourney, Stable Diffusion і DALL-E від OpenAI, можна використовувати для створення гіперреалістичних зображень ситуацій, яких насправді ніколи не було, використовуючи лише кілька підказок, слів і фраз.

Співробітники служби безпеки, включаючи британського кіберглаву сера Джеремі Флемінга, попередили, що такі нові інструменти ШІ можуть мати потенційно руйнівні наслідки для дезінформації та пропаганди. 

Однією з перших великих демонстрацій нової технології стало зображення Папи в білій пуховій куртці , яке стало вірусним у березні.

Чиказький будівельник стверджував, що створив картину, «намагаючись знайти способи зробити щось смішне». Пабло Ксав’єр розповів Buzzfeed у березні, що використовував художній інструмент штучного інтелекту Midjourney, додавши: «Я просто подумав, що було смішно бачити Папу Римського у смішному піджаку».

Фотографії, на яких Дональда Трампа, очевидно, арештовує поліція, також стали вірусними на початку цього року. Еліот Хіггінс, співзасновник сайту журналістських розслідувань Bellingcat, створив зображення за допомогою Midjourney.

Корі Дантон, менеджер із продуктів Google для пошуку, сказав: «Завдяки цій довідковій інформації про зображення ви можете краще зрозуміти, чи зображення надійне – чи вам потрібно переглянути його ще раз».

Google наздоганяє в гонці штучного інтелекту після того, як ChatGPT, який підтримується Microsoft, став світовою сенсацією наприкінці минулого року.