Google видаляє огляди штучного інтелекту для певних медичних запитів

Після розслідування, проведеного Guardian , яке виявило, що огляди штучного інтелекту Google пропонують оманливу інформацію у відповідь на певні запити, пов’язані зі здоров’ям, компанія, схоже, видалила огляди штучного інтелекту для деяких із цих запитів.

Наприклад, газета «Ґардіан» спочатку повідомляла, що коли користувачі запитували «який нормальний діапазон показників аналізу крові на печінку», їм надавали цифри, які не враховували такі фактори, як національність, стать, етнічна приналежність чи вік, що потенційно змушувало їх думати, що їхні результати здорові, хоча це було не так.

Тепер, за даними видання Guardian, огляди ШІ були видалені з результатів за запитами «який нормальний діапазон для аналізів крові на печінку» та «який нормальний діапазон для тестів функції печінки». Однак було виявлено, що варіації цих запитів, такі як «діапазон референтних значень lft» або «діапазон референтних значень тесту lft», все ще можуть призводити до зведених результатів, згенерованих ШІ.

Коли я спробував виконати ці запити сьогодні вранці — через кілька годин після публікації статті в Guardian — жоден з них не привів до перегляду оглядів ШІ, хоча Google все одно надавав мені можливість задати той самий запит у режимі ШІ. У кількох випадках першим результатом насправді була стаття Guardian про видалення.

Речник Google повідомив Guardian, що компанія «не коментує окремі видалення в Пошуку», але працює над «внесенням загальних покращень». Речник також сказав, що внутрішня команда клініцистів переглянула запити, висвітлені Guardian, і виявила, що «у багатьох випадках інформація не була неточною, а також підтверджувалася високоякісними веб-сайтами».

TechCrunch звернувся до Google за додатковими коментарями. Минулого року компанія анонсувала нові функції, спрямовані на покращення пошуку Google для випадків використання в охороні здоров'я , включаючи покращені огляди та моделі штучного інтелекту, орієнтовані на здоров'я.

Ванесса Хебдітч, директорка з комунікацій та політики Британського фонду печінки, заявила Guardian, що видалення – це «чудова новина», але додала: «Наше найбільше занепокоєння щодо всього цього полягає в тому, що це прискіпливий вибір одного результату пошуку, і Google може просто вимкнути огляди штучного інтелекту для цього, але це не розв'язує більшу проблему оглядів штучного інтелекту для здоров’я».