Небезпечні поради. Google видаляє ШІ-огляди для медичних запитів

Технологічний гігант Google розпочав масове видалення оглядів, згенерованих штучним інтелектом, для низки медичних запитів.

Рішення було прийняте після розслідування видання The Guardian, яке виявило, що алгоритми надавали користувачам відверто неправдиву та потенційно смертельну інформацію. Експерти медичної галузі вже назвали результати роботи ШІ «тривожними» та «вкрай небезпечними».

Один із найбільш кричущих випадків стосувався порад для пацієнтів із раком підшлункової залози. ШІ рекомендував людям з цим діагнозом уникати продуктів із високим вмістом жирів. Фахівці наголошують: така порада є прямо протилежною реальним медичним протоколам. Для хворих на цей вид раку дефіцит поживних речовин може значно прискорити критичне виснаження організму та підвищити ризик летального результату.

Інший небезпечний приклад стосувався інтерпретації результатів аналізів крові на функцію печінки. Система надавала хибні дані про «нормальні показники», через що люди із серйозними патологіями могли помилково вважати себе здоровими та ігнорувати необхідність лікування. Станом на сьогодні Google повністю вимкнув функцію ШІ-оглядів для запитів щодо конкретних медичних параметрів.

Офіційний представник компанії Девіс Томпсон заявив, що Google інвестує значні кошти в якість контенту, а внутрішня команда лікарів перевіряє точність даних. Проте в компанії визнали, що в окремих випадках алгоритмам бракувало контексту. Це вже не перший скандал навколо нової функції: раніше ШІ від Google ставав об'єктом насмішок і судових позовів після того, як радив користувачам додавати клей у піцу або вживати в їжу каміння.

Наразі корпорація працює над суттєвим покращенням систем безпеки, аби уникнути подальшого поширення медичної дезінформації.

Источник: techno.nv.ua