Цукерберг заявив, що ШІ-компанії мають стимули дбати про безпеку

У США генеральний директор Meta Марк Цукерберг заявив, що конкуренція та юридична відповідальність дають компаніям, які розробляють штучний інтелект, достатні стимули самостійно дбати про безпеку своїх моделей. Про це він написав 15 вересня у соцмережі X, повідомляє Channel NewsAsia.

За словами Цукерберга, кожна лабораторія має відповідальність і стимули розвивати моделі в темпі, потрібному для їхнього безпечного навчання, а також може самостійно вживати заходів для цього. Він також заявив, що довіра та узгодженість дедалі більше відрізнятимуть ШІ-агентів і моделі різних розробників.

Розбіжності щодо темпів розробки

Заява Цукерберга пролунала через три дні після заклику гендиректора Anthropic Даріо Амодеї сповільнити темпи вдосконалення можливостей моделей ШІ. Амодеї порушив це питання на тлі попереджень низки дослідників про екзистенційні ризики технології. Його заклик публічно підтримали керівник OpenAI Сем Альтман та засновник xAI Ілон Маск.

Президент США Дональд Трамп 14 вересня применшив побоювання щодо потенційної шкоди від ШІ, заявивши, що країна вже має запобіжники у цій сфері. Він також сказав, що сумніви щодо розвитку технології можуть зіграти на користь Китаю. Позицію, що регулювання може послабити конкурентоспроможність американських компаній, поділяє, зокрема, гендиректор Nvidia Дженсен Хуанг.

Позиція Meta щодо безпеки

Цукерберг заявив, що лабораторії мають вагомий стимул не допустити шкоди від своїх моделей, оскільки інакше можуть зіткнутися зі значною юридичною відповідальністю. Він навів приклад Meta, яка цього року відклала випуск ШІ-агента Muse, щоб посилити його захист.

Також керівник Meta повідомив, що компанія спрямувала значну більшість своїх обчислювальних ресурсів на продукти для поточних потреб користувачів, а не на системи ШІ, здатні до самовдосконалення. Підрозділ Meta Superintelligence Labs, за його словами, уже залучає незалежних оцінювачів у кількох напрямах і вважає це найкращою галузевою практикою.

Голова Федеральної торгової комісії США Ендрю Фергюсон 15 вересня закликав із підозрою ставитися до ШІ-компаній, які домагаються антимонопольних винятків, одночасно лобіюючи нові правила. Видання зазначає, що Амодеї минулого тижня просив надати такий дозвіл, аби конкуренти могли координувати уповільнення розвитку ШІ з міркувань безпеки.

Источник: ua.news