Microsoft намагається виправдати брехливість ШІ
Завдяки останнім досягненням у галузі штучного інтелекту нові інструменти, такі як ChatGPT, вражають споживачів своєю здатністю створювати переконливі тексти на основі запитів і підказок людей.
Хоча ці інструменти на основі штучного інтелекту стали набагато кращими у створенні творчих, а часом і жартівливих відповідей, вони часто містять неточну інформацію.
Наприклад, у лютому, коли Microsoft представила свій інструмент чату Bing, створений за допомогою технології GPT-4, створеної OpenAI, який підтримує Microsoft, люди помітили, що інструмент надає неправильні відповіді під час демонстрації, пов’язаної зі звітами про фінансові прибутки. Як і інші мовні інструменти штучного інтелекту, включаючи подібне програмне забезпечення від Google, функція чату Bing іноді може надавати фальшиві факти , які користувачі можуть вважати основною правдою, дослідники називають це явище «галюцинацією».
Ці проблеми з фактами не сповільнили гонку ШІ між двома технологічними гігантами.
У вівторок Google оголосив , що впроваджує технологію чату на основі штучного інтелекту в Gmail і Google Docs, що дозволить їй допомагати створювати електронні листи або документи. У четвер Microsoft заявила, що її популярні бізнес-додатки, такі як Word і Excel, незабаром постачатимуть у комплекті з ChatGPT-подібною технологією під назвою Copilot .
Але цього разу Microsoft вважає цю технологію «корисно неправильною».
У онлайн-презентації про нові функції Copilot керівники Microsoft згадали про схильність програмного забезпечення давати неточні відповіді, але назвали це корисним. Поки люди розуміють, що відповіді Copilot можуть бути неохайними з фактами, вони можуть редагувати неточності та швидше надсилати електронні листи чи закінчувати слайди презентації.
Наприклад, якщо людина хоче створити електронний лист із привітанням члена сім’ї з днем народження, Copilot все одно може бути корисним, навіть якщо в ньому вказано неправильну дату народження. На думку Microsoft, сам факт того, що інструмент створив текст, заощадив людині деякий час і тому є корисним. Люди просто повинні бути особливо уважними та переконатися, що текст не містить помилок.
Дослідники можуть не погодитися.
Дійсно, деякі технологи, як-от Ной Гіансіракуза та Гері Маркус, висловили занепокоєння , що люди можуть надто довіряти сучасному штучному інтелекту, приймаючи до серця такі інструменти, як ChatGPT, коли вони ставлять запитання про здоров’я, фінанси та інші важливі теми.
«Опори токсичності ChatGPT легко обійти тими, хто хоче використовувати його на зло, і, як ми побачили на початку цього тижня, усі нові пошукові системи продовжують галюцинувати », — написали вони в нещодавній статті Time. «Але коли ми подолаємо хвилювання в день відкриття, справді матиме значення те, чи зможе хтось із великих гравців створити штучний інтелект, якому ми зможемо щиро довіряти ».
Незрозуміло, наскільки надійним буде Copilot на практиці.
Головний науковий співробітник і технічний співробітник Microsoft Хайме Тіван сказав, що коли Copilot «розбирає щось неправильно, має упередження або його неправильно використовують», Microsoft має «пом’якшення». Крім того, спочатку Microsoft тестуватиме програмне забезпечення лише з 20 корпоративними клієнтами, щоб дізнатися, як воно працює в реальному світі, пояснила вона.
«Ми збираємося припуститися помилок, але коли це зробимо, ми швидко їх виправимо», — сказав Тіван.
Бізнес-ставки надто високі, щоб Microsoft ігнорувала ентузіазм щодо генеративних технологій ШІ, таких як ChatGPT. Завдання полягатиме в тому, щоб компанія включила цю технологію, щоб вона не викликала недовіри громадськості до програмного забезпечення та не призвела до серйозних катастроф у зв’язках з громадськістю.
«Я десятиліттями вивчав штучний інтелект і відчуваю величезне почуття відповідальності за цей потужний новий інструмент», — сказав Тіван. «Ми несемо відповідальність передати це в руки людям і зробити це належним чином».