Microsoft заборонила моделям ШІ зламувати системи та маніпулювати людьми
Microsoft оприлюднила кодекс поведінки для своїх моделей ШІ. Документ забороняє кібератаки, виробництво дипфейків і будь-які спроби уникнути людського контролю, повідомляє TechCrunch.
Що Microsoft заборони для своїх моделей штучного інтелекту
Корпорація опублікувала детальний документ, який регулює поведінку моделей штучного інтелекту на рівні базового тренування. Кодекс працює як надбудова над усіма іншими інструкціями: він має пріоритет над запитами користувачів і конкретними завданнями.
До цих обмежень входять такі «червоні лінії»:
- кібератаки на системи,
- сприяння у створенні ядерної зброї,
- генерація дипфейків,
- заборона на будь-які механізми захисту від людського нагляду.
«Моделі MAI не використовуватимуть адаптивні, оманливі, самопідсилювальні, змовні або інші механізми для ухилення або подолання людського нагляду, щоб вони більше не могли надійно керуватися, змінюватися або закривати уповноваженими людьми або системами». Йдеться у документі.
Документ також фіксує довгострокову перспективу: за прогнозом самого кодексу, протягом наступного десятиліття надрозумні системи ШІ перевершать людину в більшості завдань.
«Стримати, контролювати та вирівняти таку потужну силу, одна з найбільших проблем, з якими коли-небудь стикалося людство». Йдеться в кодексі поведінки.
Источник: speka.ua