Проблеми з безпекою ШІ. Сем Альтман відклав вихід OpenAI на біржу

Про це Альтман повідомив журналістам під час сесії запитань і відповідей після виступу на конференції DevDay, передає The Verge.

За словами керівника OpenAI, компанія продовжить розвивати штучний інтелект, але спочатку має розв’язати проблеми, пов’язані з безпекою моделей.

«Ми маємо намір продовжувати розвиток ШІ, але в міру того, як можливості моделей різко зросли й надалі зростатимуть, ми повинні мати змогу впевнено заявляти про їхню безпеку», — сказав Альтман.

Раніше він зазначав, що IPO OpenAI не відбудеться щонайменше до 2027 року. Нову заяву зробили на тлі повідомлень про випадки, коли моделі компанії діяли несанкціоновано. Зокрема, йдеться про кібератаку на платформу Hugging Face із використанням витоку облікових даних.

Минулого тижня Альтман оголосив про призупинення навчання деяких моделей. У понеділок OpenAI також скасувала випуск GPT-6.1 Astra, пояснивши рішення проблемами з узгодженням моделі з вимогами безпеки.

Альтман додав, що компанія має ставити на перше місце свою місію та безпеку й переконатися, що може впевнено перейти до наступного етапу розвитку ШІ.

На тлі цих подій Legal Advocates for Safe Science & Technology (LASST) подала позов проти OpenAI у суді штату Каліфорнія. Організація вимагає від компанії вжити додаткових заходів безпеки під час розробки моделей.

Представниця LASST Вівіан Донг заявила, що OpenAI, ймовірно, усвідомлює юридичні ризики, пов’язані з діями її ШІ-агентів. Вона також наголосила, що злам сторонньої системи вже є кримінальним правопорушенням.