Apple зупиняє функцію штучного інтелекту, що викликала у iPhone "галюцинації" в новинах

Apple тимчасово вимикає функцію свого основного програмного забезпечення Apple Intelligence, яке псує стрічку заголовків новин. Це рідкісне визнання невдач продукту виробника iPhone — і остання ознака того, що технічні гіганти намагаються подолати схильність програмного забезпечення генеративного штучного інтелекту «галюцинувати» або вигадувати факти.

Apple випустила бета-версію свого програмного забезпечення, яке вимикає звіти Apple Intelligence про сповіщення з новинних і розважальних програм. Усі iPhone, які підтримують Apple Intelligence, отримають оновлення, коли найближчим часом iOS 18.3 отримає широкий випуск.

Apple каже, що працює над покращенням цієї функції та зробить їх доступними в майбутньому оновленні програмного забезпечення.

Функція підбивання підсумків штучного інтелекту була призначена для того, щоб допомогти користувачам швидко надолужити вміст, який з’являється в сповіщеннях на екранах блокування телефону.

Коли я переглядав програмне забезпечення на початку бета-версії минулого літа — і знову, коли воно було широко випущено в жовтні — я зауважив, що штучний інтелект іноді спотворює факти з повідомлень, які він узагальнює. Ці спотворені підсумки були кумедними в текстових повідомленнях із низькими ставками, але небезпечнішими у сповіщеннях із додатків новин. Одного разу він неправильно попередив мене, що Дональд Трамп підтримав Тіма Уолза на пост президента.

Оскільки Apple випустила подальші оновлення Apple Intelligence, проблеми не зникали. У середу звіт Apple Intelligence, який я отримав щодо сповіщень новин від додатка The Washington Post, спотворював факти кількох окремих сповіщень новин. У ньому неправильно сказано, що Піта Хегсета звільнили, а Пем Бонді та Марко Рубіо затвердили на своїх нових посадах у кабінеті міністрів.

Це містить дезінформацію: у звіті Apple Intelligence про сповіщення про сповіщення про новини від програми The Washington Post було неправильно вказано кілька фактів. (Ілюстрація Washington Post)

Інші інформаційні організації, у тому числі British Broadcasting Corp. , також помітили цю проблему та офіційно попросили Apple вжити заходів. В одному випадку було помилково сказано, що Луїджі Мангіоне застрелився; в іншому було помилково сказано , що зірка тенісу Рафаель Надаль виявився геєм.

Інші зміни, внесені Apple у бета-версії програмного забезпечення iOS 18.3, включають чіткіше повідомлення про те, що підсумки сповіщень можуть давати несподівані результати, а також новий стиль, виділений курсивом для підсумкових сповіщень, щоб відрізнити їх від стандартних сповіщень. Apple також каже, що користувачі матимуть можливість керувати тим, чи підсумовувати сповіщення для програми, прямо з екрана блокування.

Не лише Apple намагається змусити генеративний штучний інтелект надавати надійну та точну інформацію в продуктах, якими користуються мільйони людей.

Коли минулого року Google оновив свою пошукову систему відповідями на запити, написаними штучним інтелектом, я задокументував у огляді , що вона вигадувала факти, неправильно інтерпретувала запитання та надавала застарілу інформацію.

Після того, як новий Google AI Overviews став широко доступним, він зробив резонансні помилки, зокрема сказав користувачам наклеїти піцу клеєм і заявив, що Барак Обама був мусульманином. Незабаром після цього Google скоротив відповіді ШІ , змусивши їх відображатися за меншою кількістю запитів.