Вчені з Мічигану виявили критичну вразливість ШІ у пошуку позаземного життя
Вчені з Університету штату Мічиган дійшли невтішного висновку щодо застосування штучного інтелекту в астробіології: сучасні нейромережі можуть бути вкрайненадійними, коли йдеться про пошук ознак позаземного життя.
Дослідники перевіряли, наскільки точно ШІ здатен розпізнавати біомаркери — сигнали, що можуть вказувати на існування живих організмів. Для цього вони скористалися розробленою в університеті системою Avida, яка моделює цифрову еволюцію. У ній віртуальні організми представлені програмним кодом, що самокопіюється і поступово накопичує випадкові зміни — аналог біологічної еволюції.
Нейромережу навчили на десятках тисяч таких цифрових організмів: частина з них містила команду самокопіювання, частина — ні. На знайомих даних алгоритм показав майже ідеальну точність класифікації.
Проте коли вчені почали поступово змінювати код організмів і показувати моделі варіанти, яких вона раніше не бачила, система давала збій. Іноді вистачало лише 150 незначних змін у коді, щоб алгоритм впевнено приймав хибні сигнали за ознаки життя. За словами одного з авторів дослідження Анкіта Гупти, незалежно від обраної послідовності змін команді вдавалося обдурити модель у 100% випадків.
«У штучного інтелекту є ахіллесова п’ята. Він може виявити закономірність і повністю хибно її класифікувати», — зазначив співавтор дослідження Крістоф Адамі. На його думку, проблема не в самій технології, а в її вразливості до даних, що відрізняються від тих, на яких проводилося навчання.
Автори підкреслюють: подібні помилки характерні не лише для космічних застосувань, де ШІ може аналізувати дані з марсоходів або міжпланетних зондів без постійного нагляду фахівців. Аналогічні збої здатні виникати в системах розпізнавання облич, безпілотному транспорті, медичній діагностиці та інших сферах, де рішення приймає модель.
Дослідники наполягають: штучний інтелект має залишатися допоміжним інструментом, а його висновки потребують незалежної перевірки. Особливо це стосується наукового пошуку — зокрема, можливого відкриття позаземного життя, де людина, на переконання Крістофа Адамі, є обов’язковою ланкою в ухваленні рішень.
Источник: noworries.news