Гендиректор Microsoft Наделла закликав до виваженого розвитку ШІ

У Туреччині голова ради директорів і генеральний директор Microsoft Сатья Наделла заявив, що передові системи штучного інтелекту мають залишатися під контролем людини, а їхнє безпечне впровадження потребує виваженого темпу. Про це повідомляє Anadolu Agency.

Людський контроль над ШІ

Наделла написав у X, що розробка суперінтелекту має ґрунтуватися на принципі користі для людства та людського контролю. На його думку, створення таких систем не варто продовжувати, якщо вони не допомагають людству або не перебувають під людським контролем.

Керівник Microsoft підтримав виважений темп, необхідний для належного узгодження роботи систем ШІ, а також пропозиції щодо вбудованих оцінювачів, які стежили б за системами безпосередньо в лабораторіях. Він закликав учасників індустрії перетворювати концепції безпеки на конкретні робочі механізми.

Управління та моделі ШІ

За словами Наделли, управління ШІ не може контролюватися кількома структурами: воно має передбачати широке представництво в екосистемі, країн і різних галузей, зокрема академічного середовища. Він також зазначив, що для здорової екосистеми передових моделей мають розвиватися як закриті, так і моделі з відкритим кодом.

Наделла додав, що компанії мають зберігати контроль над власними унікальними та неявними знаннями. Він вважає, що організаціям потрібні архітектури безперервного навчання, які дозволяють контролювати власні ваги моделей і не залежати від одного розробника. Microsoft планує у понеділок винести на публічне обговорення кодекс поведінки для власних моделей Microsoft AI (MAI).

Заява пролунала на тлі посилення дискусії про протоколи безпеки ШІ. Генеральний директор Anthropic Даріо Амодеї запропонував розміщувати незалежних експертів усередині лабораторій, а генеральний директор OpenAI Сем Альтман повідомив, що його компанія застосує такий підхід.

Источник: ua.news