ШІ міг би бути лікарем у кишені, але експерт закликає бути обережними щодо його порад

Поява штучного інтелекту в охороні здоров’я означає, що одного разу кожен зможе мати лікаря в своїй кишені, але головний охоронець охорони здоров’я Google закликав бути обережними щодо того, що може зробити штучний інтелект і якими мають бути його обмеження.

«У людей з’явиться можливість отримати ще кращий доступ до послуг [і] до високоякісних послуг», — сказала доктор Карен ДеСальво в інтерв’ю Guardian Australia минулого тижня.

«Але ми є способи потрапити туди. У нас є багато речей, які потрібно опрацювати, щоб переконатися, що моделі мають відповідні обмеження, що вони є фактичними, послідовними та що вони дотримуються цих етичних і рівноправних підходів, яких ми хочемо прийняти, але я надзвичайно схвильований потенціалом навіть як доктор».

ДеСальво, колишній чиновник з питань охорони здоров’я адміністрації Обами, очолює відділ охорони здоров’я Google з 2021 року, і минулого тижня вперше відвідала Австралію на своїй посаді. Вона сказала, що штучний інтелект буде «інструментом у наборі інструментів» для лікарів і може допомогти розв'язувати проблеми з нестачею робочої сили та покращити якість обслуговування, яке надається людям. Це заповнить прогалини, а не замінить лікарів, додала вона.

«Іноді мені доводиться говорити як доктору: «Боже, у моєму наборі інструментів є новий стетоскоп, який називається великою мовною моделлю, і він робитиме багато дивовижних речей». Але він не замінить лікарів – я вважаю, що це інструмент у наборі інструментів».

Минулого тижня дослідницьке дослідження Google, опубліковане в Nature, проаналізувало, як широкомовні моделі (LLM) можуть відповідати на медичні запитання, залучивши до дослідження власну LLM Med-PaLM.

LLMs отримали 3173 найпоширеніших медичних запитання, які шукали в Інтернеті, і результати показали, що система Med-PaLM генерувала відповіді на рівні з відповідями клініцистів у 92,9% випадків. Відповіді, оцінені як такі, що потенційно призводять до шкідливих наслідків, виникли на рівні 5,8%. Автори сказали, що необхідна подальша оцінка.

ДеСальво сказала, що це все ще на етапі «тестування та навчання», але магістри можуть стати найкращим стажером для лікаря, якщо розмістять усі підручники у світі під рукою.

«Я прихильник того, що тут є потенціал, і ми повинні бути сміливими, коли ми думаємо про те, якими потенційними можливостями може бути допомога людям у всьому світі».

Але він ніколи не повинен замінювати людей у ​​діагностиці та лікуванні пацієнтів, сказала вона, вказуючи на те, що виникне занепокоєння щодо можливості неправильного діагнозу, оскільки ранні LLM, схильні до того, що називають «галюцинаціями штучного інтелекту», створюють вихідний матеріал для відповіді на необхідну відповідь.