Яка загрозлива подія стоїть за поверненням Альтмана в Open AI

Я все намагаюся зрозуміти, що за історія сталася навколо звільнення і повернення Сема Альтмана на посаду генерального директора компанії Open AI

Офіційна інформація на цю тему дуже мізерна, тому доводиться задовольнятися чутками. Чутки ці офіційно не підтверджені, однак, являють собою досить струнку систему, тому я не готовий повністю їх відкидати як повну маячню.

Отже, (за чутками) головний дослідник компанії Open IA, творець нового покоління штучного інтелекту (ШІ) Ілля Суцкевер був шокований можливостями цієї сутності та зажадав відключити її від мережі, стерти і не згадувати.

Альтман відповів на це відмовою, вказуючи на величезні комерційні та інші можливості, які обіцяє цей ШІ, названий Q* («Кью-стар»).

Суцкевер розповів про проблему правлінню компанії, воно відсторонило Альтмана, але через кілька днів «передумало» і повернуло його на посаду.

Це була перша тривожна історія. Зараз я натрапив в інтернетах на другу і третю. Суть там така: у Мережі начебто з’явилася службова записка, що описує, що саме так сильно шокувало Суцкевера в Q*, що він зажадав негайно його відключити.

Історія така: у рамках навчання новим знанням і трюкам Q* навчився не просто думати і розуміти, чого від нього хочуть. Він навчився оптимізувати і покращувати процес власного «мислення». Тобто перед розв’язанням складної задачі він спершу думає, як йому якнайкраще організувати свої розумові можливості для розв’язання саме цієї задачі та яким шляхом міркувань слід піти.

Це перша лякаюча подія.

Друга — під час демонстрації своїх можливостей він показав, що здатен розв’язувати задачі, використовуючи ще не відкриті людьми математичні побудови. Тобто в процесі вивчення себе й оптимізації процесу пізнання він нібито відкрив алгоритми і формули, які людям поки незрозумілі й непідвладні.

Ну і третє: він уже знайшов практичне застосування цим своїм надздібностям — під час навчання дослідники «згодували» йому величезний обсяг різного роду зашифрованих текстів і ключів до них, ну а потім попросили показати, що він уміє.

Q* і показав, що навчився ламати будь-який відомий людству код за мінімальну кількість часу. Тобто він не перебирає всі можливі комбінації, як нинішні комп’ютери, а якимось чином (ніхто не знає яким) одразу ж «бачить і розуміє» принцип будь-якого шифрування і зламує код.

Судячи з усього, для цього він і використовує ту саму незрозумілу для нас математику. Стоячи на її вершині, Q*, дивиться на наші сучасні коди як на дитячі шифри. Вони й не шифри для нього зовсім.

Ось ця остання його здатність може виявитися небезпечною прямо тут і зараз. Якщо Q* ламає будь-який код, для нього у світі не залишиться жодного секрету, жодних зачинених дверей. Усі державні секрети США, Ізраїлю, Росії, Китаю стануть відомі тому, з ким Q* вирішить поділитися своїми знаннями.

Світ без секретів, якщо розібратися, може бути досить небезпечним місцем уже зараз.

Загалом, як свідчать останні чутки, Суцкевер, усвідомивши, що сталося, жахнувся. Але Альтман нібито зрозумів, що Q* може виявитися досить потужним інструментом для вирішення всіх світових проблем. Тому руйнувати/зтирати/кидати у вулкан його не можна.

Мені здається, Q* у цьому сенсі дуже схоже на Перстень Влади з трилогії Толкієна. (Навіть за формою буква Q — як тонкий людський палець, що надягає величезну каблучку Саурона. А зірочка* означає якийсь прихований сенс).

Якщо користуватися цією аналогією, Альтман, як Ісільдур, вирішив не викидати Перстень Влади в Ородруїн, а залишити його собі, володіти ним, щоб вирішити за його допомогою всі світові проблеми.

Толкієн попереджав, що ця витівка добром не може закінчитися — у книзі перстень зажив своїм життям і привів нового власника до дурної смерті. Подивимося, що буде цього разу.

Ну і про всяк випадок ще раз хочу нагадати: вся ця історія — поки що лише лише чутки. Мені вони здаються схожими на правду, але вірити їм чи ні — вибір ваш.

Источник: nv.ua