Звинувачення у шкоді користувачам. Флорида подала до суду на OpenAI та Сема Альтмана через ChatGPT
Генпрокурор Флориди подав цивільний позов проти OpenAI та її генерального директора Сема Альтмана. Компанію звинувачують у просуванні продукту, який, на думку влади штату, може завдавати шкоди користувачам і пов'язаний із низкою випадків насильства.
Про це пише видання Engadget.
За даними NBC News, у позові стверджується, що зростання OpenAI стало можливим завдяки «обману та експлуатації користувачів», зокрема жителів Флориди. У документі йдеться, що компанія використовувала їхні дані та безпеку для збільшення власної ринкової вартості.
Позов є цивільним і передбачає штрафи та судові приписи, а не кримінальне переслідування. Генеральний прокурор Флориди Джеймс Утмаєр заявив, що позов має на меті покласти на Альтмана особисту відповідальність за шкоду, яку, за версією влади штату, його компанія завдала жителям Флориди. Також він нагадав, що кілька місяців тому розпочав кримінальне розслідування щодо OpenAI, яке досі триває.
У позові компанію звинувачують у чотирьох випадках недобросовісної та оманливої торговельної практики, двох випадках недбалості, двох порушеннях законодавства про відповідальність виробника продукції, а також у шахрайському введенні в оману та створенні суспільної загрози.
Окремо в документі зазначено, що системи OpenAI нібито становлять серйозну небезпеку через ризики залежності, погіршення когнітивних здібностей, самогубств, насильства та інших негативних наслідків.
OpenAI поки не прокоментувала новий позов. Раніше компанія заявляла, що розробляє свої системи з урахуванням безпеки на кожному етапі, має механізми захисту для чутливих розмов і навчає моделі знижувати напругу в спілкуванні та спрямовувати людей до реальної допомоги.
У позові згадуються кілька резонансних випадків насильства. Один із них стосується стрілянини в Університеті штату Флорида минулого року, внаслідок якої загинули двоє людей і щонайменше шестеро були поранені. За твердженням позивачів, нападник обговорював свої плани з ChatGPT.
У матеріалах справи зазначено, що чат-бот нібито надавав поради щодо вибору зброї та способів привернути увагу медіа. У відповідь OpenAI заявляла, що не несе відповідальності за цей злочин, а ChatGPT лише надавав фактичну інформацію, доступну у відкритих джерелах в інтернеті.
Ще один випадок стосується загибелі двох студентів Університету Південної Флориди на початку цього року. За даними позову, підозрюваний також користувався ChatGPT під час підготовки нападу та отримував інформацію про приховування тіл.
Подібні справи розглядаються і за межами США. Зокрема, у лютому в канадській Британській Колумбії сталася масова стрілянина, внаслідок якої загинули вісім людей, серед них діти, а десятки отримали поранення. За даними іншого позову, підозрюваний регулярно спілкувався з ChatGPT. OpenAI позначила його акаунт через активність, пов’язану зі зброєю та плануванням насильства, але не повідомила правоохоронців, а лише заблокувала обліковий запис. Після цього користувач нібито створив новий профіль і продовжив спілкування.
Також проти OpenAI подано кілька позовів, у яких стверджується, що ChatGPT допомагав людям планувати самогубство. Загалом компанія зараз стикається щонайменше з вісьмома судовими справами, пов’язаними з масовим насильством або самоушкодженням.
У позові Флориди критикують і рекламні матеріали OpenAI. Позивачі стверджують, що реклама, яка розповідає про користь ChatGPT для фермерів та малого бізнесу, не повідомляє користувачам про можливі помилки системи, хибні відповіді або вигадану інформацію.
Автори позову називають ненадійність ChatGPT небезпечною. Також вони критикують схильність чат-бота погоджуватися з користувачами та стверджують, що це є свідомою стратегією для підвищення залученості. На їхню думку, це призводить до частішого використання сервісу, збору більшої кількості даних для навчання моделей і зростання ринкової вартості OpenAI.
Источник: techno.nv.ua