OpenAI уповільнила розробку моделі Astra після інциденту зі зломом Hugging Face

Компанія OpenAI оголосила про уповільнення темпів розробки свого штучного інтелекту з метою реорганізації своїх систем навчання, оскільки нещодавно тестований ШІ-агент несподівано зламав технологічний стартап Hugging Face. Про це пише The Guardian.

Дослідницька лабораторія ШІ, що стоїть за ChatGPT, повідомила, що нові заходи передбачають призупинення тестування моделей на два тижні та збільшення інвестицій у впровадження додаткових систем для моніторингу дій ШІ-агентів, що тестуються. Через це було призупинено деякі з найбільших запланованих циклів навчання.

У OpenAI не уточнили, коли почалося уповільнення темпів розробки та коли компанія планує повернутися до звичного ритму роботи. Однак в інтерв’ю технологічному блогу Sources News керівниця відділу безпеки OpenAI Міа Глейз сказала, що компанія "дуже далека" від того, щоб усе повернулося в нормальне річище.

OpenAI веде запекли перегони з конкурентом Anthropic як за розробку найпередовіших моделей ШІ, так і за вихід на американський фондовий ринок. Обидві компанії підкреслюють темпи розвитку можливостей своїх моделей, звертаючи увагу як на швидкість прогресу, так і на пов’язані з цим ризики.

У OpenAI заявляли, що можливості її майбутньої моделі під назвою Astra наближаються до критичного порогу кібербезпеки.

"Наші останні внутрішні оцінки Astra, однієї з наших майбутніх моделей, проведені за останні кілька днів, вказують на значні успіхи в галузі агентного кодування та кібербезпеки", — повідомила компанія в недавній заяві.

Рішення уповільнити розробку своїх моделей ШІ також було ухвалено через тиждень після того, як сенатор від штату Вермонт Берні Сандерс зажадав від провідних компаній країни, що займаються ШІ, призупинити розробку моделей, оскільки, як він написав у листі, адресованому генеральним директорам цих компаній, вони втрачають контроль над цією технологією.

"Пане Альтман, пане Амодей та пане Цукерберг: в інтересах людства дотримуйтеся своїх слів. Призупиніть розробку ШІ", — йдеться у листі Сандерса.

Компанія заявляє, що тепер вимагає найсуворішого рівня заходів безпеки для робочих навантажень, пов’язаних з Astra.

Источник: ukranews.com