Instagram, схоже, працює над новими повідомленнями, які б визначали, коли штучний інтелект грав роль у створенні контенту на його платформі.
Instagram працює над мітками для контенту, створеного штучним інтелектом
Дмитро Сизов
Дослідник додатків Алессандро Палуцці, який часто відкриває нові функції Instagram ще до того, як їх офіційно анонсують або випустять, опублікував знімок екрана сторінки в додатку Instagram, на якому написано: «Творець або Meta сказав, що цей контент створено або відредаговано за допомогою ШІ». У спеціальному повідомленні зазначається, що в даному випадку це зображення, яке було «згенеровано за допомогою Meta AI», перед тим, як дати короткий опис того, що таке генеративний AI, і як ідентифікувати публікації, які використовують AI.
Відкриття сталося невдовзі після того, як Meta разом з іншими великими гравцями зі штучного інтелекту, включаючи Google, Microsoft і OpenAI, взяли перед Білим домом зобов’язання щодо відповідального розвитку штучного інтелекту. Окрім інвестування в дослідження кібербезпеки та дискримінації, одне із зобов’язань включало розробку системи водяних знаків, щоб інформувати користувачів, коли контент створено ШІ.
езрозуміло, наскільки автоматизованою буде система маркування Instagram і якою мірою вона покладатиметься на те, що користувачі повідомлятимуть, коли штучний інтелект використовувався для створення або редагування зображення. Однак той факт, що сповіщення містить слова «Meta сказала», свідчить про те, що принаймні в деяких випадках технічна фірма буде активно застосовувати сповіщення, а не покладатися на чесність самих користувачів. Представник Meta відмовився коментувати Engadget це повідомлення, і компанія не відразу відповіла на запит The Verge про коментар.
Незважаючи на те, що вона все ще перебуває в зародковому стані, ми вже відчули смак того, як може виглядати дезінформація, згенерована штучним інтелектом, коли на початку цього року фотографія Папи Римського в розшарпаній пуховій куртці стала вірусною в соціальних мережах. У цьому випадку відносно нешкідливе зображення було зрештою розвінчано, але це було сприйнято як попередження про те, що зараз існують прості інструменти для поширення небезпечної дезінформації, якщо застосовувати її до супутникових зображень і політичної фотографії .
Meta нещодавно відкрила вихідний код своєї великої мовної моделі LLaMA 2 , але вона ще не випустила широкого випуску генеративних функцій штучного інтелекту для споживачів для своїх продуктів, таких як Instagram. Однак у нас є кілька натяків на те, які функції він розробляє. Під час круглої зустрічі в червні генеральний директор Марк Цукерберг сказав, що Meta розробляє такі функції, як використання текстових підказок для зміни фотографій для Instagram Stories, повідомляє Axios , а дослідник додатків Палуцці також помітив ознаки функції «штучного пензля» для Instagram, яка може «додати або замінити певні частини» зображень. Financial Times нещодавно повідомила , що Meta може інтегрувати функцію «персон» чат-бота AI у свої продукти вже наступного місяця.
Крім Meta, Google вже анонсувала новий інструмент, який повинен полегшити користувачам визначення того, чи було зображення створено ШІ. Його функція «Про це зображення» запускається цього літа, і вона призначена для того, щоб висвітлити, де вперше зображення було проіндексовано пошуковим гігантом, надаючи важливі підказки щодо його походження.