Коли технічний підприємець Вівек Вадхва відкрив WhatsApp у п’ятницю, щоб поспілкуватися з колегами в Індії, додаток з’явилося повідомлення з пропозицією спробувати новий чат-бот зі штучним інтелектом Meta AI. Вадхва, колишній кореспондент Washington Post , останньою роботою якого є робототехнічний стартап під назвою Vionix Biosciences, думав, що спробує це зробити.
Попри очевидні недоліки чат-ботів, ІТ гіганти пхають їх де тільки зможуть
Дмитро Сизов
За кілька хвилин бот розлютив його. Wadhwa спочатку запитав його, хто він, потім, чим він відомий, і, нарешті, чим він «ганебно відомий», він сказав The Tech 202 по телефону в понеділок. У відповідь на останнє запитання бот описав допис у блозі 2014 року, в якому звинуватив Wadhwa у плагіаті, разом із назвою автора, датою та офіційним цитуванням. Як ви вже могли здогадатися, повідомлення в блозі не існує.
Зараз такі « галюцинації » є знайомою проблемою для чат-ботів ШІ. Минулого року ми з колегою Праншу Вермою повідомляли про подібний епізод, у якому ChatGPT OpenAI сфабрикував скандал із сексуальними домаганнями щодо професора права Джонатана Терлі . З моменту випуску ChatGPT наприкінці 2022 року з’явилася незліченна кількість повідомлень про нього та інші інструменти «генеративного штучного інтелекту» від лідерів галузі, таких як Microsoft і Google, які висловлювали дезінформацію, проявляли упередженість і давали невідповідні відповіді.
Але ризик того, що чат-боти зійдуть з ладу, здається, не сповільнює похід технічних гігантів до їх інтеграції в найбільші онлайн-платформи світу.
Нещодавно компанія Meta почала ширше розгортати свій чат-бот Meta AI , зокрема в WhatsApp, Instagram і Messenger по всій Індії та частинах Африки , виводячи цей інструмент на ринки, де він обслуговує сотні мільйонів людей. А в понеділок New York Times повідомила, що компанія звертається до впливових людей Instagram у Сполучених Штатах щодо проекту під назвою «Creator AI», який дозволить аватару AI, навченому їхньому голосу, взаємодіяти з їхніми шанувальниками від їхнього імені.
Для компанії, яка пишалася дослідженнями штучного інтелекту, але відстала від конкурентів Microsoft, Google і OpenAI щодо комерціалізації новітніх моделей мови та зображень, ці кроки являють собою амбітний стрибок у напрямку інтеграції штучного інтелекту в повсякденну взаємодію людей. Meta передбачає, що люди задають питання чат-ботам, використовують його для створення зображень або просто спілкуються з ним, заявила компанія, коли анонсувала Meta AI у вересні.
Враховуючи те, що ми знаємо про чат-ботів, це просто стрибок віри.
Чат-боти зі штучним інтелектом можуть вразити своєю здатністю спілкуватися на різноманітні теми та створювати образи будь-яких мрій людей (з деякими обмеженнями). Але те, що індустрія називає «галюцинаціями» — відповіді, які не ґрунтуються на реальності — здається більше схожим на функцію, ніж на помилку. Останнім часом компанії, включаючи Microsoft, Google, OpenAI і тепер Meta, намагалися розв'язати проблему, під'єднавши моделі штучного інтелекту до Інтернету та дозволивши їм шукати інформацію та посилатися на свої джерела, з неоднозначними результатами. Тим часом спроби навчити чат-ботів позбавлятися від образливих упереджень, отриманих з їхніх навчальних даних, часто не вдаються або заходять занадто далеко.
Meta — не єдина компанія, яка просувається вперед з інтеграцією чат-ботів, незважаючи на ризики. Минулого року його конкурент Snapchat запустив My AI, названий дружнім партнером по розмові, і мій колега Джеффрі А. Фаулер швидко виявив, що він дає підліткам недоречні поради . Google і Microsoft все частіше вбудовують мовні інструменти штучного інтелекту у свої пошукові системи та інструменти підвищення продуктивності, навіть якщо Microsoft використовувався для створення пронацистських мемів , а Google виявив схильність до надмірного виправлення, щоб уникнути расових стереотипів . Компанія X Ілона Маска нещодавно запустила свій інструмент Grok AI для написання популярних заголовків — деякі з яких швидко виявилися неправдивими . Навіть Amazon випустив чат-бота штучного інтелекту для покупок, який моя колега Шира Овіде назвала « тупим, як камінь ». (Засновник Amazon Джефф Безос володіє The Washington Post.)
На цьому етапі Meta AI, очевидно, фабрикує суперечку про Вадхву, навряд чи є несподіванкою.
Як і інші до цього, відповідь Meta полягає в тому, що ці інструменти знаходяться в стадії розробки.
«Meta AI і наш набір генеративних функцій AI допомагають людям у наших програмах бути більш креативними та продуктивними», — сказав прес-секретар Кевін МакАлістер у заяві, надісланій електронною поштою. «Як ми сказали, коли ми запускали ці нові функції у вересні, це нова технологія, і вона не завжди буде ідеальною, що однаково для всіх генеративних систем ШІ. З моменту запуску ми постійно випускаємо оновлення та вдосконалюємо наші моделі, і ми продовжуємо працювати над їх покращенням».
Вадва сказав, що не погоджується на такий захист. «Вже в Індії WhatsApp використовується для впливу на вибори, для розпалювання ненависті та дезінформації», — сказав він. «Тепер уявіть чат-бота зі штучним інтелектом, якому довіряють люди, який створює дуже правдиві посилання. … Це небезпечно».
Попри недоліки, технічні гіганти вважають чат-боти штучного інтелекту стратегічно важливими, сказав Метт Наварра, британський консультант із соціальних медіа та галузевий аналітик.
«Схоже, що більшість платформ, хай то TikTok або X, Instagram або Facebook, матимуть власні версії системного чат-бота зі штучним інтелектом, за допомогою якого ви зможете отримувати відповіді на проблеми чи інформацію, чи проводити пошуки», – сказав Наварра. Попри те, що наразі люди можуть вважати ці функції «химерними», вони дають технологічним компаніям інший спосіб збирати особисті дані користувачів, зберігати їх на платформі та використовувати ці взаємодії для подальшого навчання своїх систем штучного інтелекту для майбутніх програм, які, як вони сподіваються, будуть колись станете «більш значущими».
Тим часом сказав він, ми можемо очікувати «багато більше заголовків» про упередженість і неадекватні відповіді, оскільки ці проблеми навряд чи будуть вирішені найближчим часом.