OpenAI випустив нову модель кібербезпеки

OpenAI оголосив, що нова модель, орієнтована на кібербезпеку, ChatGPT Cyber, буде доступна для користувачів найвищого рівня в програмі кібербезпеки Daybreak Red. Вона надає наступальним дослідникам з кібербезпеки інструменти для пошуку та розробки вразливостей. Вчора OpenAI заявив , що та сама модель була використана для сканування та підготовки патчів для вразливостей у ядрі Linux, виявивши 948 потенційних проблем. OpenAI також виявив 81 «нову» вразливість у веббраузері Firefox.

«Наша мета — значно розширити Daybreak, пропонуючи передові дослідження в галузі безпеки організаціям будь-якого розміру, незалежним дослідникам та розробникам програмного забезпечення з відкритим кодом», — йдеться у заяві frontier lab.

Окрім доступу до моделей Daybreak, OpenAI також оголосила про ініціативу вартістю 1 мільярд доларів на підтримку фахівців з кібербезпеки, які працюють над критично важливою інфраструктурою, такою як електромережа чи системи водопостачання.

Програма Daybreak має власні зауваження. Юстіч зазначає, що лабораторія Frontier, схоже, нещодавно «послабила» Daybreak Blue, щоб зробити його менш корисним для пошуку вразливостей. З одного боку, можливо, було б добре обмежити доступ потенційних зловмисників — Юстіч сказав, що він щойно завантажив фотографію своїх водійських прав, щоб приєднатися до програми. З іншого боку, фахівці з кібербезпеки кажуть, що їм зв'язана одна рука, якщо вони не можуть використовувати Frontier-технології, тоді як зловмисники можуть розгортати моделі з відкритою вагою та знищеними захисними огорожами .

Тим не менш, OpenAI стверджує, що лише «тисячі» фахівців з кібербезпеки беруть участь у програмі Daybreak, на відміну від набагато більшої кількості потенційних хакерів.

Незрозуміло, чи передові лабораторії виділяють достатньо своїх ресурсів на вирішення цієї проблеми. Ерік Воллес, дослідник технічного персоналу OpenAI, сказав, що «зараз ми виділяємо значну частину наших передових обчислень на виявлення та виправлення вразливостей у базах коду з відкритим вихідним кодом, повністю pro bono».

Але пошук помилок у Linux коштував 1,2 мільйона доларів, що значно менше, ніж приблизні 6 мільйонів доларів, які компанія витратила на пошук потенційного рішення відомої проблеми гідродинаміки.

Якщо для оновлення цифрової інфраструктури, від якої залежить світ, залишається мало часу, може знадобитися більша терміновість.