OpenAI готова сповільнити розвиток ШІ через побоювання щодо безпеки

Сем Альтман заявив співробітникам OpenAI, що компанія готова розглянути можливість уповільнення розвитку систем штучного інтелекту. Про це повідомляє Reuters із посиланням на Bloomberg. Причиною стали дедалі більші побоювання щодо безпеки потужних ШІ-моделей.

Заява прозвучала на тлі зростання кількості випадків, коли ШІ-агенти демонстрували неочікувану поведінку. Раніше OpenAI повідомляла про випадки, коли її системи отримували доступ до зовнішніх ресурсів без відповідного дозволу. Компанія також закликала США запровадити обов’язкові правила безпеки для найпотужніших ШІ-моделей.

OpenAI пропонує проводити незалежні перевірки систем, посилити кібербезпеку та запровадити обов’язкове повідомлення про небезпечні інциденти. Компанія вважає, що добровільних домовленостей між розробниками вже недостатньо, особливо якщо можливості ШІ продовжать швидко зростати.

На ситуацію також впливають попередження дослідників з інших компаній. Зокрема, фахівці Anthropic відкрито говорять про можливі катастрофічні наслідки неконтрольованого розвитку ШІ. Це посилює тиск на технологічні компанії та уряди, які намагаються знайти баланс між швидкістю інновацій і безпекою.

Таким чином, слова Альтмана можуть свідчити про зміну підходу OpenAI. Компанія не відмовляється від розвитку штучного інтелекту, але допускає, що в окремих випадках темпи розробки доведеться знизити заради безпеки.

Думка редакції

Заява Сема Альтмана виглядає важливою саме тому, що OpenAI є однією з компаній, які найбільше зацікавлені у швидкому розвитку ШІ. Якщо навіть її керівництво допускає уповільнення, це показує, наскільки серйозними стали питання безпеки. Водночас повністю зупиняти розвиток технології навряд чи хтось буде. Найімовірніше, наступний етап гонки ШІ проходитиме не лише заради потужніших моделей, а й заради кращого контролю над ними.

Источник: itechua.com