OpenAI звільнила трьох дослідників безпеки ШІ: працівники заявили про тиск

Компанія OpenAI опинилася в центрі скандалу після звільнення трьох дослідників, які спеціалізувалися на безпеці штучного інтелекту. Колишні співробітники переконані, що справжньою причиною їхнього звільнення стало спілкування із зовнішніми експертами та організаціями, що вивчають ризики розвитку ШІ. Вони побоюються, що подібні кроки керівництва змусять інших працівників мовчати про потенційні загрози. Про це повідомляє techcrunch.com.

Звільнення торкнулося Мікіти Балесного, Томека Корбака та Жасмін Ван. У своєму спільному зверненні до комітетів із безпеки вони зазначили, що подібна взаємодія з незалежними дослідниками була частиною їхніх службових обов’язків і є критично важливою для створення безпечних технологій.

Зокрема, Балесному закинули «втрату довіри» через надто активні контакти з профільними організаціями, а Корбаку — особливості комунікації з дослідницьким центром METR, який оцінює можливості та ризики передових моделей.

На думку екс-співробітників, такі кадрові рішення серйозно б’ють по культурі відкритості всередині компанії. У зв’язку з цим вони звернулися до керівництва із закликом залучати незалежних аудиторів, надати можливості для контролю найпотужніших моделей ШІ та підтримувати прозорий діалог із науковою спільнотою.

Водночас керівництво OpenAI категорично відкидає звинувачення в тому, що працівників покарали за тривогу довкола безпеки. У компанії наголошують, що всіляко заохочують відкриту дискусію та критику, а також вітають повідомлення про будь-які проблеми.

Проте, за офіційною версією компанії, внутрішнє розслідування виявило порушення чітких правил поводження з конфіденційною інформацією. Саме це, а не робота над безпекою, нібито й стало підставою для звільнення, оголюючи чергову кризу довіри навколо прозорості та контролю за розвитком штучного інтелекту.

Источник: itechua.com