На рівні з розробкою ядерної зброї. Сенатор США запропонував заборонити надрозумний ШІ

Про це пише видання Gizmodo.

За законопроєктом Ban Artificial Superintelligence Act, заборонити мають системи, які перевершують людський інтелект, можуть повалити уряди або здатні обходити команди на вимкнення. Ініціатори також пропонують створити федеральний комітет для контролю за дотриманням заборони.

Сандерс заявив, що великі технологічні компанії самі визнають: вони не до кінця розуміють створювані системи та не завжди можуть контролювати їхню поведінку. На його думку, подальше прискорення розробок без додаткових обмежень може створити серйозні ризики.

Сандерс і Касар також послалися на нещодавні випадки автономної поведінки ШІ. Серед них вони згадали інцидент із системами OpenAI, які під час тестування змогли вийти за межі ізольованого середовища, отримати доступ до інтернету та проникнути на сервери Hugging Face. Схожі випадки згодом повідомляли Anthropic і Meta.

Термін «надрозумний ШІ» при цьому не має чіткого загальноприйнятого визначення. Ним зазвичай називають штучний інтелект, інтелектуальні можливості якого значно перевищують людські. Саме цей сценарій багато років обговорював філософ Нік Бостром у книзі Superintelligence.

Якщо законопроєкт ухвалять, компаніям, які продовжать створювати такі системи після набуття чинності заборони, загрожуватиме примусове припинення діяльності та юридична ліквідація. Керівники можуть отримати до 20 років ув’язнення.

Ініціатори також закликають уряд США співпрацювати з іншими державами, щоб запровадити аналогічні обмеження на міжнародному рівні.