Штучний інтелект Google у американській школі спричинив кризу психічного здоров'я підлітка
Батьки в Північній Кароліні подали до суду на Google після того, як їхня 13-річна донька місяцями обговорювала суїцидальні думки за допомогою інструментів штучного інтелекту компанії на своєму шкільному Chromebook, що підкреслює потенційні ризики цієї технології, оскільки батьки та педагоги обговорюють місце штучного інтелекту в школах.
Згідно зі скаргою, поданою до суду штату Каліфорнія, дівчина обмінялася тисячами повідомлень із флагманською моделлю штучного інтелекту Google, Gemini, багато з яких детально описували тривогу, депресію та методи самогубства. На той час, як школа повідомила її батьків, вона вже місяцями листувалася з Google на ці теми, часто використовуючи функцію в Пошуку Google, відому як AI Mode. У скарзі стверджується, що оскільки Google впроваджує все більше штучного інтелекту у свої продукти для шкіл, компанія наражає учнів на небезпечні технології, не попереджаючи батьків та адміністрацію належним чином.
«Рекламуючи за своєю суттю небезпечні Chromebook як безпечні та впроваджуючи в них Gemini, щоб виграти конкурентів, Google використав своє надійне становище в освіті K-12 для власної комерційної вигоди», – пишуть у позові адвокати родини, Джулі та Ендрю Лідделл, маючи на увазі флагманську модель штучного інтелекту Google, відому як Gemini. Chromebook – це недорогий ноутбук від Google, який став домінуючим пристроєм для учнів у США. «Google має бути притягнутий до відповідальності за те, що ставиться до життя дітей як до одноразового використання заради свого прибутку».
Речник Google Хосе Кастаньєда заявив, що компанія перевіряє ці заяви.
«Ми активно співпрацювали з медичними працівниками та науковцями, щоб створити функції, які допомагають молодим людям знаходити критично важливу підтримку та надійні ресурси, коли вони їм потрібні», – сказав Кастаньєда. «Роками ми показували інформацію про гарячі лінії безпосередньо в Пошуку, коли хтось міг переживати кризу психічного здоров’я, і ми вбудували ті самі захисні механізми у функції штучного інтелекту Пошуку, пов’язуючи людей із реальною підтримкою».
Протягом останніх кількох років Google витратив мільярди доларів, щоб конкурувати в гонці за створення потужних моделей штучного інтелекту. Одна з переваг Google над такими конкурентами, як стартапи Anthropic PBC та OpenAI, полягає в її помітному місці в школах, де технології компанії доступні учням, оскільки вони формують технологічні звички на все життя. Операційна система Google Chrome працювала на 58% планшетів, поставлених минулого року до шкіл K-12, порівняно з 22% у Microsoft Corp., згідно з даними Futuresource Consulting.