У США хочуть зобов’язати AI-компанії повідомляти про небезпечні збої

У США представили законопроєкт AI Incident Reporting Act, який може запровадити федеральний контроль за безпекою передових систем штучного інтелекту. Документ передбачає обов’язкове повідомлення Міністерства торгівлі про серйозні інциденти, пов’язані з роботою моделей.

Якщо закон ухвалять, розробники окремих категорій ШІ повинні будуть повідомляти про інциденти протягом семи днів після їх виявлення. Для випадків із високим ризиком серйозної шкоди відомство також має оперативно інформувати Конгрес – не пізніше ніж через 48 годин після отримання звіту.

Під вимоги можуть потрапити не лише технічні збої, а й ситуації, коли модель намагається обійти контроль, отримати несанкціонований доступ, протидіяти відключенню або демонструє потенційно небезпечні можливості у сфері кібербезпеки чи роботи з критичною інфраструктурою.

Міністерство торгівлі отримає право визначати критерії для таких моделей, перевіряти дотримання правил та застосовувати санкції. За порушення можуть передбачатися штрафи до 2 млн доларів. Ініціатори законопроєкту наголошують, що мета нових правил – не стримувати розвиток індустрії, а забезпечити відповідальність і швидке реагування на ризики.

Думка редакції

Спроба США запровадити обов’язкове звітування про інциденти зі штучним інтелектом показує, що регулятори дедалі серйозніше ставляться до ризиків нових технологій. Ідея багато в чому нагадує правила з інших критично важливих сфер – від авіації до кібербезпеки, де проблеми не приховують, а аналізують для запобігання повторенню.

Водночас головний виклик полягатиме у балансі: надто жорсткі вимоги можуть сповільнити інновації, а надто м’які – залишити прогалини для потенційно небезпечних систем. У підсумку саме ефективність реалізації, а не сам факт регулювання, визначить успіх цієї ініціативи.

Источник: itechua.com