Колишня членкіня правління OpenAI пояснила, чому вони звільнили Сема Альтмана

17 листопада 2023 року рада директорів OpenAI шокувала всіх, раптово вигнавши з посади співзасновника та генерального директора Сема Альтмана.

Він наглядав за одним із найшвидше зростаючих запусків додатків в історії з ChatGPT, тож що сталося? Колишній член правління Хелен Тонер заповнює прогалини в інтерв’ю в подкасті TED AI Show , висловлюючи свою точку зору на події, через які члени правління перестали довіряти Альтману, а також те, як він зрештою повернувся .

За її словами, коли правління вирішило, що їм потрібно залучити нового генерального директора, вони вважали, що єдиний спосіб це зробити — це діяти за його спиною. «[Мені] всім було зрозуміло, що як тільки у Сема виникне будь-якими припущення, що ми можемо зробити щось проти нього, він зробить усе можливе, щоб підірвати правління, щоб запобігти від того, щоб навіть звільнити його», — сказав Тонер.

Тонер каже, що одна з причин, чому рада перестала довіряти Альтману, полягала в тому, що він не повідомив раді, що він є власником OpenAI Startup Fund; іншим було те, як він «кілька разів» давав неточну інформацію про процеси безпеки компанії. Крім того, Тонер каже, що вона особисто стала мішенню генерального директора після того, як вона опублікувала дослідницьку статтю, яка розлютила його. «Сем почав брехати іншим членам правління, щоб спробувати витіснити мене з правління», — каже вона.

Після того, як двоє керівників безпосередньо розповіли правлінню про свій власний досвід роботи з Альтманом, описавши токсичну атмосферу в OpenAI, звинувативши його в «психологічному насильстві» та надавши докази того, що Альтман «брехав і маніпулював у різних ситуаціях», правління нарешті зробило свій висновок. рухатися.

Тонер наводить сам запуск ChatGPT як приклад того, що правління не здійснювало реального нагляду за компанією. «Коли ChatGPT вийшов у листопаді 2022 року, правління не було проінформовано заздалегідь. Ми дізналися про ChatGPT у Twitter», — каже Тонер.

Подкаст не вдається в подробиці того, що сталося в дні після звільнення Альтмана. OpenAI швидко перемішала тимчасових генеральних директорів, співробітники, включаючи принаймні одного з членів правління, які звільнили Альтмана, наполягали на його поверненні, і провідний інвестор OpenAI, Microsoft, також підтримав Альтмана .

Однак Тонер вказує на три причини, чому, на її думку, тиск щодо відновлення Альтмана був таким сильним. Вона стверджує, що працівникам було запропоновано лише два варіанти щодо того, як все може піти (відмовитися від правління, щоб відновити Альтмана, або знищити компанію), і оскільки люди не хотіли, щоб компанія розвалилася, вони підтримали інший. Вона також каже, що багато людей боялися виступити проти Альтмана, побачивши, як він мстить іншим.

Її остання причина — послужний список Альтмана до OpenAI:

І, мабуть, останнє, що я хотів би сказати про це, це те, що це насправді не нова проблема для Сема. І якщо ви подивитеся на деякі звіти, які вийшли з листопада. З’ясувалося, що його фактично звільнили з попередньої роботи в Y Combinator, про яку на той час замовчували. А потім, знаєте, на його роботі до цього, яка була його єдиною іншою роботою в Кремнієвій долині, його стартапі Loopt, мабуть, керівництво двічі зверталося до правління і просило його звільнити за те, що вони назвали оманливим і хаотичним поведінка. Якщо ви дійсно подивитеся на його послужний список, він не має яскравого сліду згадок. Це не була проблема, притаманна особистостям у правлінні, як би він не хотів це зобразити таким чином. 

Подкаст також містить відповідь поточного голови правління OpenAI Брета Тейлора:

Ми розчаровані тим, що пані Тонер продовжує повертатися до цих питань. Незалежний комітет правління працював з юридичною фірмою Wilmer Hale, щоб провести розгорнутий аналіз подій листопада. Під час перевірки було зроблено висновок, що попереднє рішення правління не ґрунтувалося на занепокоєннях щодо безпеки продукту, темпах розвитку, фінансах OpenAI або його заявах для інвесторів, клієнтів або ділових партнерів. Крім того, понад 95 відсотків співробітників, включаючи вище керівництво, попросили відновлення Сема на посаді генерального директора та відставки попереднього правління. Ми зосереджені на просуванні вперед і виконанні місії OpenAI, щоб забезпечити користь AGI для всього людства.