На тлі зростання злочинів. OpenAI представила план боротьби з експлуатацією дітей через ШІ

Компанія OpenAI представила новий план захисту дітей, щоб швидше виявляти, повідомляти та розслідувати випадки сексуальної експлуатації за участю штучного інтелекту на тлі зростання таких злочинів.

Про це пише видання TechCrunch.

У компанії пояснили, що документ під назвою Child Safety Blueprint має допомогти протидіяти зростанню випадків сексуальної експлуатації дітей, пов’язаних із розвитком ШІ. За даними Internet Watch Foundation, лише за першу половину 2025 року зафіксували понад 8 000 повідомлень про матеріали сексуального насильства над дітьми, створені за допомогою ШІ. Це на 14% більше, ніж роком раніше. Зокрема, злочинці використовують такі технології для створення фейкових відвертих зображень дітей і переконливих повідомлень для втягування їх у спілкування.

Поява цього плану відбувається на тлі посиленої уваги з боку політиків, освітян і правозахисників, особливо після випадків, коли молоді люди вчиняли самогубство після спілкування з чат-ботами.

У листопаді Social Media Victims Law Center разом із Tech Justice Law Project подали сім позовів у судах Каліфорнії. У них стверджується, що OpenAI випустила модель GPT-4o до повної готовності. Позивачі заявляють, що психологічний вплив продукту міг сприяти смертям через самогубство та випадкам допомоги у самогубстві. У позовах згадують чотирьох людей, які загинули, і ще трьох, які пережили важкі психічні стани після тривалого спілкування з чат-ботом.

Новий план розробили разом із National Center for Missing and Exploited Children та Attorney General Alliance, а також із урахуванням пропозицій генеральних прокурорів Джефа Джексона і Дерека Брауна.

У компанії зазначили, що документ передбачає три основні напрямки: оновлення законодавства з урахуванням матеріалів, створених ШІ, удосконалення механізмів передачі даних правоохоронцям і впровадження захисних функцій безпосередньо в системи ШІ. Це має допомогти швидше виявляти загрози та оперативно передавати інформацію слідчим.

Новий план доповнює попередні заходи компанії, зокрема оновлені правила взаємодії з користувачами до 18 років. Вони забороняють створення неприйнятного контенту, заохочення до самопошкодження та поради, які допомагають приховувати небезпечну поведінку від дорослих. Раніше OpenAI також оприлюднила окремий план безпеки для підлітків в Індії.

Источник: techno.nv.ua