Каліфорнійський законодавець пропонує чотирирічну заборону на використання ШІ чат-ботів у дитячих іграшках
Сенатор Стів Паділья (демократ від Каліфорнії) вніс законопроєкт , який передбачає чотирирічну заборону на продаж і виробництво іграшок із можливостями чат-ботів на базі штучного інтелекту для дітей віком до 18 років. Мета полягає в тому, щоб дати регуляторам безпеки час розробити правила для захисту дітей від «небезпечної взаємодії зі штучним інтелектом».
«Чат-боти та інші інструменти штучного інтелекту можуть стати невід’ємною частиною нашого життя в майбутньому, але небезпеки, які вони становлять зараз, вимагають від нас вжити сміливих заходів для захисту наших дітей», – заявив сенатор Паділья. «Наші правила безпеки щодо такого роду технологій перебувають на початковій стадії розвитку і повинні зростати так само експоненціально, як і можливості цієї технології. Призупинення продажу цих іграшок з інтегрованими чат-ботами дає нам час розробити відповідні рекомендації та рамки безпеки, якими ці іграшки повинні керуватися».
Законопроєкт, який отримав назву SB 867, з'явився після нещодавнього виконавчого розпорядження президента Трампа, яке зобов'язує федеральні агентства оскаржувати закони штатів про штучний інтелект у суді, хоча в розпорядженні чітко передбачені винятки для законів штатів, пов'язаних з безпекою дітей. Законодавство також є результатом кількох інцидентів, пов'язаних зі штучним інтелектом, чат-ботами та дітьми.
Протягом минулого року позови, подані сім'ями , чиї діти померли внаслідок самогубства після тривалих розмов із чат-ботами, спонукали законодавців до дій. Паділья також є співавтором нещодавно прийнятого в Каліфорнії законопроєкту SB 243 , який вимагає від операторів чат-ботів впроваджувати запобіжні заходи для захисту дітей та вразливих користувачів.
Хоча використання чат-ботів в іграшках ще не стало таким поширеним, вже надходили повідомлення про проблемні взаємодії. У листопаді 2025 року група захисту прав споживачів PIRG Education Fund попередила , що іграшки, такі як Kumma — милий іграшковий ведмедик із вбудованим чат-ботом — можна легко спонукати говорити про сірники, ножі та сексуальні теми. NBC News виявила , що Miiloo, «штучна іграшка для дітей», виготовлена китайською компанією Miriat, часом вказувала на те, що вона запрограмована відповідно до цінностей Комуністичної партії Китаю.
OpenAI та виробник Барбі Mattel мали випустити «продукт на базі штучного інтелекту» у 2025 році , але відклали свій випуск. Жодна з компаній не пояснила затримку, і незрозуміло, чи планують вони випустити іграшку у 2026 році.
«Наших дітей не можна використовувати як лабораторних щурів для проведення експериментів над великими технологічними компаніями», – сказав Паділья.