Ілон Маск назвав три принципи безпечного розвитку ШІ

Ілон Маск в інтерв’ю з індійським мільярдером Ніхілом Каматом знову попередив про небезпеки штучного інтелекту. Він назвав три принципи безпечного розвитку ШІ: істина, краса та цікавість. За його словами, ігнорування цих принципів може призвести до хибних або небезпечних висновків від ШІ.

Маск пояснив, що ШІ навчається на даних з інтернету, де багато неправди, і через це може робити помилки. Він навів приклад: на початку 2025 року функція Apple Intelligence на iPhone розповсюдила фейкову інформацію про перемогу британського дартсиста Люка Літтлера до того, як турнір відбувся.

Також Маск підкреслив, що ШІ має прагнути пізнання й бути орієнтованим на реальність та майбутнє людства, а не на його шкоду. Ця позиція збігається з думкою Джеффрі Хінтона, який оцінює ризик серйозної загрози від ШІ у 10-20%. Хінтон вважає, що достатньо розумних людей із ресурсами зможуть створити безпечні системи, які не шкодитимуть людям.

Источник: itechua.com