Штучний інтелект звинуватили у смерті пацієнтки

У Бразилії розгорівся скандал навколо використання штучного інтелекту в системі розподілу лікарняних місць. За даними місцевих ЗМІ, 32-річна Ребека Кардозу Тененте Моліна померла після того, як очікувала переведення до відділення інтенсивної терапії протягом п’яти днів.

Спочатку жінка була госпіталізована до лікарні в невеликому місті Сан-Жуан-Непомусену з камінням у жовчному міхурі. Коли її стан різко погіршився, виникла необхідність термінового переведення до реанімації в іншому місті. Родичі навіть зверталися до суду, однак процес евакуації затягнувся, і сім’я вважає, що саме затримка стала критичною.

Родина стверджує, що автоматизована система розподілу, яка працює в штаті Мінас-Жерайс, оцінила стан пацієнтки нижче, ніж було фактично. Алгоритм визначив пріоритет госпіталізації, через що інші пацієнти з вищими оцінками отримували ліжка швидше.

За словами сестри загиблої, система фактично вплинула на рішення щодо черговості, і лікарі не мали достатньої автономії у процесі ухвалення рішень. Вона також зазначила, що показники стану пацієнтки не переглядалися належним чином, попри оновлення медичних даних.

Офіційно система була запущена нещодавно і мала покращити управління лікарняними ресурсами, автоматично оновлюючи інформацію про доступні ліжка кілька разів на день. Влада регіону заперечує прямий зв’язок між алгоритмом і смертю пацієнтки, наголошуючи, що медичні рішення залишаються за лікарями, а цифрова система лише допомагає в координації госпіталізацій.

Думка редакції

Історія в Бразилії, пов’язана з можливим впливом алгоритмічної системи розподілу лікарняних місць, ще раз піднімає питання меж автоматизації в медицині. Навіть якщо система не ухвалює остаточних рішень, вона може суттєво впливати на черговість і швидкість доступу до допомоги.

У таких умовах будь-яка помилка в оцінці стану пацієнта стає критичною. Проблема полягає не лише в технології, а й у прозорості критеріїв та відповідальності між алгоритмами і лікарями. Без чітких механізмів контролю цифрові інструменти ризикують перетворитися з допоміжних систем на фактор ризику.

Источник: itechua.com