Комфортна пастка ШІ: як алгоритми можуть поступово змінити наше мислення

Штучний інтелект може впливати не лише на те, як ми працюємо чи отримуємо інформацію, а й на нашу поведінку. Науковці пояснили, як регулярне спілкування з алгоритмами може змінювати людину.

Світ стрімко змінюється на тлі бурхливого розвитку штучного інтелекту. Йдеться не лише про масштабну автоматизацію тих чи інших сфер людської діяльності або появу нових цифрових інструментів та сервісів. ШІ змінює саму людину. Відповідно до результатів нового дослідження міжнародної команди науковців, регулярне спілкування з алгоритмами здатне поступово змінювати людську поведінку та навіть впливати на сприйняття власної особистості.

Про це повідомляє видання AI & Society, пише Today.ua.

Хто підлаштовується під кого

Люди дедалі частіше спілкуються з чат-ботами, цифровими асистентами та іншими автоматизованими системами. Щоб отримати бажаний результат, користувач може несвідомо змінювати формулювання запитів і власну манеру спілкування відповідно до того, як працює алгоритм.

Отож дослідники звертають увагу на своєрідний взаємний вплив: технології стають дедалі більш схожими на людей, тоді як люди поступово адаптуються до логіки машин. Такий процес вони називають "роботоподібною людяністю".

"Наше дослідження вивчає, як взаємодія з цими антропоморфними роботами може створити двосторонній вплив, де роботи стають більше схожими на людей, а люди – на роботів", – пояснив дослідник маркетингу з Бірмінгемського університету у Великій Британії Інсі Торал-Мансон.

Водночас, як зазначає інженер з управління в Університеті Ліннея у Швеції Селсен Озтюрккан, зміни у поведінці можуть відбуватися непомітно. Людина взаємодіє із системою, отримує певну реакцію, а після численних повторень поступово звикає до такого формату спілкування та починає відтворювати його.

Як алгоритми можуть спрощувати особистість

Науковці описали три етапи, через які людина може поступово адаптувати свою поведінку до можливостей алгоритму.

Спочатку людина входить у штучне соціальне середовище й починає сприймати віртуального співрозмовника не просто як програму, а як повноцінного учасника спілкування.

З часом система накопичує інформацію про користувача та формує його цифровий профіль. Складна й багатогранна особистість фактично перетворюється на набір даних і закономірностей, які може обробити алгоритм.

На наступному етапі користувач уже сам починає пристосовуватися до можливостей системи. Він частіше використовує ті моделі поведінки, які алгоритм легко розпізнає та заохочує. З часом цей спрощений цифровий портрет може почати сприйматися людиною як достовірне відображення її самої.

Чому спілкування з ШІ відрізняється від взаємодії з людьми

У реальному житті наше уявлення про себе постійно змінюється під впливом інших людей. Їхні реакції не завжди передбачувані: вони можуть не погоджуватися, критикувати або ставити незручні запитання. Саме такі ситуації змушують людину переглядати власні погляди та краще розуміти себе.

Взаємодія зі штучним інтелектом часто побудована інакше. Такі системи "прагнуть" забезпечити користувачу комфорт під час спілкування. Отож ШІ може погоджуватися з співрозмовником, підтримувати його та уникати конфліктів.

У підсумку людина потрапляє до, так би мовити, своєрідної інформаційної ехокамери, де майже немає опору її думкам чи поведінці. Така взаємодія може бути зручною, але водночас вона зменшує кількість несподіваних соціальних сигналів, необхідних для самоаналізу та розвитку особистості.

Як зберегти індивідуальність

Сучасні великі мовні моделі здатні запам'ятовувати історію спілкування з користувачем між окремими сесіями. Це робить спілкування більш персоналізованим, але водночас може посилювати описаний дослідниками ефект.

На думку науковця з розвитку бізнесу Орхуського університету в Данії Жан-Поля де Крос Перонара, компанії повинні використовувати технологічні можливості, але робити це з урахуванням етичних принципів.

Отож науковці пропонують запровадити нове етичне поняття – право людини не бути спрощеною алгоритмами. На їхню думку, майбутні цифрові сервіси мають залишати користувачеві простір для індивідуальності, непередбачуваності та навіть своєрідних "дивацтв", а не підштовхувати всіх до моделі поведінки, яку найпростіше розпізнати й обробити машині.