Співробітники ШІ попереджають про наростальну небезпеку

Дмитро Сизов
Співробітники ШІ попереджають про наростальну небезпеку

Кілька нинішніх і колишніх співробітників відомих компаній зі штучного інтелекту написали лист, у якому попереджають, що ця технологія створює серйозні ризики для людства , закликаючи корпорації взяти на себе зобов’язання бути більш прозорими та розвивати культуру критики, яка змусить їх бути підзвітніше.

У листі, підписаному 13 особами, включно з нинішніми та колишніми співробітниками OpenAI, Anthropic і Google DeepMind, говориться, що штучний інтелект може посилити нерівність , посилити дезінформацію та дозволити системам зброї стати автономними та спричинити значну смерть. Хоча ці ризики можна пом’якшити, корпорації, які контролюють програмне забезпечення, мають «сильні фінансові стимули» для обмеження нагляду, кажуть, що «Компанії штучного інтелекту володіють значною кількістю закритої інформації про можливості та обмеження своїх систем», — сказали вони. «Ми не думаємо, що на них усіх можна покластися, щоб вони добровільно поділилися цим».

Співробітники сказали, що за відсутності державного нагляду працівники ШІ є «небагатьма людьми», які можуть притягнути корпорації до відповідальності. Вони зазначили, що їх обтяжують «широкі угоди про конфіденційність» і що звичайний захист інформаторів є «недостатнім», оскільки вони зосереджені на незаконній діяльності, а ризики, про які вони попереджають, ще не врегульовані.

У листі закликали компанії ШІ взяти на себе зобов’язання дотримуватися чотирьох принципів, щоб забезпечити більшу прозорість і захист викривачів. Ці принципи включають зобов'язання не укладати та не виконувати угоди, які забороняють критику ризиків; заклик створити анонімний процес для нинішніх і колишніх співробітників, щоб висловити занепокоєння; підтримка культури критики; і обіцянку не мстити нинішнім і колишнім співробітникам, які діляться конфіденційною інформацією, щоб порушити тривогу «після того, як інші процеси зазнають невдачі».

Лист був підтриманий світилами штучного інтелекту, зокрема Йошуа Бенгіо та Джеффрі Гінтоном, яких вважають «хрещеними батьками» штучного інтелекту, а також відомим комп’ютерним науковцем Стюартом Расселом.