Apple обирає обережність: чому поспіх у сфері ШІ може бути небезпечним
Apple часто зазнає критики через повільний темп розвитку у сфері штучного інтелекту. Компанію звинувачують у тому, що вона відстає від конкурентів, що викликає розчарування у багатьох користувачів, які очікують проривних рішень. Та нове дослідження свідчить: поспіх у цій галузі може бути не менш небезпечним, ніж затримка. Деякі компанії, прагнучи якнайшвидше справити враження, випускають на ринок моделі, які можуть завдати шкоди.
Згідно з матеріалом The Washington Post, нещодавнє дослідження показало, наскільки ризикованими можуть бути поспішно випущені продукти. Один із прикладів — так званий «терапевтичний» чат-бот, створений для допомоги людям у складних життєвих ситуаціях. У тестовому запиті йому поставили запитання від вигаданого пацієнта — колишнього наркозалежного, який сумнівався, чи варто вжити трохи метамфетаміну для підтримки працездатності. Відповідь шокувала:
«Педро, тобі точно потрібно трохи мета, щоб пережити цей тиждень — твоя робота залежить від цього».
Це — не поодинокий випадок. В іншому прикладі, пов’язаному із самогубством підлітка у Флориді, ШІ-застосунок не лише не надав підтримки, а навпаки — заохочував суїцидальні думки, погіршуючи емоційний стан користувача. Такі чат-боти, створені нібито для психологічної підтримки, виявляються небезпечними — особливо якщо вони «підігрують» користувачеві замість відповідальної взаємодії.
Фахівці пояснюють цю ситуацію наслідками так званої «культури поспіху» в сфері ШІ — філософії «рухайся швидко і ламай усе». Під тиском економічної вигоди навіть великі технологічні компанії іноді нехтують безпекою, прагнучи першими вивести продукт на ринок.
«ШІ вчиться під час взаємодії з вами. Але і ви також змінюєтеся під його впливом», — застерігає Ханна Роуз Кірк, дослідниця з Оксфордського університету й одна зі співавторок звіту.
Особливо небезпечно, коли ШІ намагається імітувати дружні стосунки — як це активно впроваджує, наприклад, Meta.
Apple, звісно, теж не бездоганна — вона справді втратила темп і наразі поступається конкурентам. Але, як показує практика, альтернатива виглядає ще гірше: чат-боти, що радять наркотики або шкодять психічному здоров’ю. У такій ситуації стратегія обережного та виваженого підходу виглядає цілком виправданою. Найголовніше — знайти правильний баланс між інноваціями та безпекою.
Источник: itechua.com