Штучний інтелект персонажів пропонуватиме дітям інтерактивні «історії» замість відкритого чату
Character.AI оголосила про запуск « Історій » – нового формату, який дозволяє користувачам створювати інтерактивні художні твори з їхніми улюбленими персонажами. Ця функція є альтернативою чат-ботам компанії, які з цього тижня недоступні для користувачів віком до 18 років.
Ця зміна з'явилася через зростаюче занепокоєння щодо ризиків для психічного здоров'я, пов'язаних з чат-ботами на базі штучного інтелекту, які доступні цілодобово та можуть ініціювати розмови з користувачами. Проти таких компаній, як OpenAI та Character.AI, було подано кілька позовів щодо їхньої ймовірної ролі в самогубствах користувачів. Протягом останнього місяця Character.AI поступово припиняє доступ для неповнолітніх, і станом на вівторок неповнолітні користувачі взагалі не можуть спілкуватися з її персонажами на базі штучного інтелекту.
«Історії пропонують керований спосіб створення та дослідження художньої літератури замість відкритого чату», – йдеться в дописі компанії в блозі. «Він пропонуватиметься разом з іншими нашими мультимодальними функціями, щоб підлітки могли продовжувати взаємодіяти зі своїми улюбленими персонажами в умовах безпеки».
Інтерактивна фантастика за останні кілька років пережила сплеск популярності , тому зміна Character.AI має сенс. Але цього може бути недостатньо, щоб задовольнити користувачів, які стали надмірно залежними від чат-ботів, — що є ще однією причиною, чому рішення Character.AI обмежити доступ чат-ботів було виправданим.
На сабреддіті Character.AI реакція неоднозначна. Згідно з їхніми коментарями, деякі підлітки кажуть, що хоча вони розчаровані, вони вважають, що це зрештою правильний крок.
«Я так злюся через заборону, але водночас так рада, бо тепер я можу займатися іншими справами, і моя залежність, можливо, нарешті зникне», – написав один користувач, який назвав себе підлітком.
Інший сказав: «Для людини, якій ще немає 18 років, це просто розчаровує. Але це також справедливо, бо люди мого віку тут, залежать від цього».
Залишається з'ясувати, як підлітки використовуватимуть функцію «Історії», але цей формат менш психологічно сумнівний, ніж рольові ігри з чат-ботами. На відміну від Історій, чат-боти безпосередньо взаємодіють з користувачами у відкритих розмовах і можуть надсилати повідомлення без запитань, навіть коли користувачі активно не користуються додатком.
Рішення Character.AI обмежити доступ чат-ботів за віком відбувається в той час, коли Каліфорнія нещодавно стала першим штатом, який регулює використання штучного інтелекту-компаньйонів. Тим часом сенатори Джош Хоулі (республіканець від Міссурі) та Річард Блюменталь (демократ від Коннектикуту) внесли на розгляд національний законопроект , який повністю заборонить використання штучного інтелекту-компаньйонів для неповнолітніх.
«Я щиро сподіваюся, що ми, будучи лідерами, встановимо стандарт у галузі, що для осіб віком до 18 років відкриті чати, ймовірно, не є шляхом чи продуктом, який варто пропонувати», – сказав минулого місяця генеральний директор Character.AI Карандіп Ананд в інтерв’ю TechCrunch.