OpenAI ставить «блискучі продукти» вище за безпеку, каже інсайдер
Колишній старший співробітник OpenAI сказав, що компанія, що стоїть за ChatGPT, надає перевагу «блискучим продуктам» над безпекою, показавши, що він звільнився після того, як розбіжності щодо ключових цілей досягли «переломної точки».
Ян Лейке був ключовим дослідником безпеки в OpenAI як співголова супергрупи, забезпечуючи дотримання потужних систем штучного інтелекту людських цінностей і цілей. Його втручання відбулося перед глобальним самітом зі штучного інтелекту в Сеулі наступного тижня, де політики, експерти та технічні керівники обговорять нагляд за технологією.
Лейке пішов у відставку через кілька днів після того, як компанія з Сан-Франциско випустила свою останню модель ШІ GPT-4o. Його відхід означає, що цього тижня після відставки Іллі Суцкевера, співзасновника OpenAI і співголови супергрупи, пішли двоє старших керівників OpenAI.
Лейке детально описав причини свого відходу в ланцюжку на X, опублікованому в п’ятницю, в якому він сказав, що культура безпеки стала нижчим пріоритетом.
«За останні роки культура безпеки та процеси відійшли на другий план, ніж блискучі продукти», — написав він.
OpenAI було засновано з метою забезпечення того, щоб загальний штучний інтелект, який він описує як «системи ШІ, які, як правило, розумніші за людей», приносив користь всьому людству. У своїх публікаціях X Лейке сказав, що протягом деякого часу він не погоджувався з керівництвом OpenAI щодо пріоритетів компанії, але це протистояння «нарешті досягло переломної точки».
Лейке сказав , що OpenAI , яка також розробила генератор зображень Dall-E та відеогенератор Sora, має інвестувати більше ресурсів у такі питання, як безпека, соціальний вплив, конфіденційність і безпека для наступного покоління моделей.
«Ці проблеми досить важко вирішити, і я стурбований тим, що ми не на траєкторії, щоб досягти цього», — написав він, додавши, що його команді стає «все важче і важче» проводити дослідження.
«Створення розумніших за людину машин — за своєю суттю небезпечна спроба. OpenAI несе величезну відповідальність від імені всього людства», – написав Лейке, додавши, що OpenAI «має стати компанією AGI, яка на першому місці займається безпекою».
Сем Альтман, виконавчий директор OpenAI, відповів на тему Leike публікацією на X, в якій подякував своєму колишньому колезі за його внесок у культуру безпеки компанії.