Повстання машин в операційній: ШІ покалічив десятки пацієнтів
Амбітний стрибок уперед корпорації Johnson&Johnson закінчився судовими позовами від пацієнтів, які отримали тяжкі травми під час ШІ-операцій. Десятки людей заявляють про інсульти та пошкодження основи черепа через помилки системи TruDi.
Про це пише Reuters.
У Сполучених Штатах Америки пацієнти звернулися до суду з позовами проти розробника медичного інструмента, що використовує штучний інтелект. Позивачі стверджують, що під час хірургічних втручань із застосуванням цієї технології зазнали тяжких травм, зокрема інсультів.
Що відомо про медичний пристрій з ШІ?
Компанія Acclarent, що є підрозділом корпорації Johnson&Johnson, 2021 року оголосила про «значний прорив», інтегрувавши ШІ в медичний пристрій для лікування хронічного синуситу — запалення придаткових пазух носа.
За майже три роки використання пристрою на ринку США Управління з контролю за продуктами і ліками (FDA) отримало непідтверджені повідомлення щонайменше про 100 випадків несправностей та побічних ефектів, пов’язаних із системою TruDi.
Згідно зі звітами регулятора, більшість інцидентів нібито виникла через введення лікарів в оману щодо точного розташування хірургічних інструментів у тілі пацієнтів.
На що скаржились пацієнти?
У результаті в одному з випадків у хворого стався витік спинномозкової рідини через ніс, а в іншому хірург випадково пошкодив основу черепа. Ще щонайменше у двох ситуаціях пацієнти, за повідомленнями, перенесли інсульт через ушкодження великої артерії.
Водночас у FDA наголошують, що подібні звіти можуть бути неповними і не призначені для встановлення причин медичних інцидентів, тож роль штучного інтелекту в кожному випадку залишається нез’ясованою.
Попри це, дві пацієнтки, які пережили інсульт, подали судові позови проти виробника технології.
Розрив сонної артерії та видалення частини черепа
Як випливає з матеріалів справи, у травні 2023 року під час операції в Донни Фернігаф, ймовірно, розірвалася сонна артерія. За словами позивачки, кровотеча була настільки сильною, що кров розбризкувалася по операційній і навіть потрапила на представника компанії Acclarent, який був присутній під час втручання. Того ж дня жінка нібито перенесла інсульт.
В іншому позові йдеться про Ерін Ральф — матір чотирьох дітей, яка після аналогічної операції провела п’ять днів у реанімації. Лікарі були змушені видалити частину її черепа, аби зменшити тиск через набряк мозку.
У компанії Integra LifeSciences, яка придбала цю технологію 2024 року, заявили, що звіти FDA «лише вказують на факт використання системи TruDi в операційній, де стався інцидент». Там також наголосили, що наразі немає переконливих доказів прямого причинно-наслідкового зв’язку між роботою системи та отриманими пацієнтами травмами.
Інші сумнівні медпристрої з ШІ
Зауважимо, що TruDi — не єдиний медичний пристрій із елементами штучного інтелекту, ефективність якого викликає питання. FDA повідомляє про десятки подібних випадків із іншими ШІ-рішеннями. Серед них — кардіомонітор, який, за повідомленнями, не зафіксував небезпечні порушення серцевого ритму, а також ультразвуковий апарат, що неправильно визначав частини тіла плода.
За результатами досліджень, 60 медичних пристроїв із використанням ШІ були пов’язані зі 182 відкликаннями продукції, схваленої FDA. Водночас 43% таких випадків сталися менш ніж через рік після отримання дозволу на використання.
До слова, раніше хірургічний робот SRT-H, розроблений вченими зі Стенфорда, Колумбії та Університету Джонса Гопкінса, вперше повністю автономно провів видалення жовчного міхура на свинях зі 100% точністю. Використовуючи дворівневу архітектуру ШІ та навчання на 16 тис. прикладів, система самостійно виконала всі 17 етапів операції, включно з розрізами та кліпуваннями. На відміну від системи da Vinci, SRT-H працює з рівнем автономності IV: він повільніший за людину, але його рухи точніші та позбавлені ривків.
Источник: tsn.ua