OpenAI хоче знаходити та виправляти помилки у відкритому коді
OpenAI оголосила про нову ініціативу, розроблену, щоб допомогти спільноті відкритого коду покращити свою гру в кібербезпеці та запобігти помилкам.
«Залатай планету» (що є не дуже тонким натяком на « Зламай планету », культовий слоган з фільму 1995 року «Хакери») дозволить OpenAI об’єднатися з компанією з безпеки Trail of Bits , щоб допомогти розробникам відкритого коду захистити свої проекти.
OpenAI заявила, що співробітники служби безпеки Trail of Bits працюватимуть безпосередньо з розробниками відкритого коду, щоб розглянути потенційні проблеми з кодом. Інструменти безпеки OpenAI, такі як Codex Security, будуть використані для допомоги в цьому процесі.
«Багатьох розробників вже просять сортувати більше звітів швидше, з тим самим обмеженим часом та ресурсами», – заявив OpenAI у понеділок. «Patch the Planet створений для того, щоб зменшити це навантаження, а не збільшити його: інженери з безпеки перевіряють результати, перш ніж вони потраплять до розробників, працюють з проектами над розробкою патчів і тестів, а також створюють робочі процеси, які можна повторно використовувати, щоб допомогти командам продовжувати покращувати безпеку після появи перших виправлень».
Іншими словами, інженери Trail of Bits функціонуватимуть більш-менш як фахівці з коду з невідкладної допомоги — допомагатимуть розробникам проектів з відкритим кодом виявляти та сортувати потенційні проблеми, і все це буде підтримуватися програмним забезпеченням OpenAI. Звучить як амбітний проект, і дещо незрозуміло, як він функціонуватиме в довгостроковій перспективі або як планується масштабування (якщо воно взагалі буде).
Проєкти з відкритим кодом є цифровою основою, на якій тримається індустрія комерційного програмного забезпечення, але, на жаль, через децентралізовану та погано контрольовану структуру цієї екосистеми, значна частина програмного забезпечення є небезпечною. Помилки у проєктах з відкритим кодом можуть перетворитися на серйозні проблеми для комерційних кодових баз. Хорошим прикладом є крах log4j кілька років тому, коли в широко використовуваній утиліті з відкритим кодом було виявлено серйозну вразливість.
Значна частина занепокоєння щодо таких інструментів, як Mythos (широко розрекламований інструмент безпеки Anthropic), схоже, пов'язана з тим, що штучний інтелект тепер може автоматично виявляти існуючі помилки в кодових базах і створювати для них експлойти. Хоча автоматизація кіберзлочинності не є новою, ці інструменти, безсумнівно, мають потенціал зробити її значно зручнішою для зловмисників.