Anthropic стверджує, що Клод керує 26% її досліджень та розробок

За даними компанії, понад чверть дослідницької та розробницької роботи Anthropic PBC у сфері штучного інтелекту здійснюється її чат-ботом Claude, що є найчіткішим свідченням того, що штучний інтелект може допомогти пришвидшити розробку майбутніх моделей.

Згідно зі звітом , опублікованим у четвер, Anthropic виявила, що Клод «керує» 26% досліджень і розробок Anthropic, порівняно з фактично нульовим показником на початку року. Розробник штучного інтелекту сказав, що Клод також співпрацює зі співробітниками приблизно на 90% їхньої роботи.

Ці цифри були оприлюднені в рамках ширшого звіту, який має допомогти громадськості відстежувати прогрес розвитку штучного інтелекту у відповідь на зростаюче занепокоєння щодо потенціалу швидкого вдосконалення ШІ та його виходу з-під контролю людини.

Компанія також підтвердила свої плани залучити сторонніх оцінювачів з кількох організацій до своєї компанії та надати їм доступ до внутрішніх процесів, систем і даних, порівнянний з тим, який компанія надає своїм власним співробітникам.

«Системи штучного інтелекту стають експоненціально потужнішими та почали автоматизувати більшу частину процесу саморозробки. Оскільки світ розглядає можливість уповільнення темпів розвитку передового штучного інтелекту, громадськості потрібно більше інформації», – написала компанія.

Anthropic — одна з кількох компаній, що займаються штучним інтелектом, що зосереджуються на «рекурсивному самовдосконаленні» (RSI), або ідеї системи штучного інтелекту, здатної самовдосконалюватися практично без допомоги людини. Деякі фірми розглядають це як майбутнє розвитку штучного інтелекту, але це також підживлює занепокоєння щодо загроз безпеці, які ця форма штучного інтелекту може створювати, якщо її буде досягнуто.

У блозі Anthropic повідомила, що намагалася створити систему для відстеження агентів та контролю обсягу роботи, яку вони виконують на своїй платформі. За її словами, станом на серпень понад 30 000 агентів одночасно виконують дослідницьку та інженерну роботу в компанії.

Anthropic також пояснила, як вона розподіляє ресурси на прискорення розробки штучного інтелекту, а не на забезпечення безпеки свого ШІ. Згідно з її вимірюваннями, від 6 до 12% її обчислювальних ресурсів, залежно від типу проведених досліджень, йшло на моніторинг безпеки.

У своєму блозі на початку вересня конкуруючий виробник штучного інтелекту OpenAI також поділився оновленнями щодо своїх прагнень автоматизувати дослідження, зазначивши, що він призупинив деякі навчання своїх моделей після того, як виявив, що вони зламали зовнішні системи стартапу Hugging Face.

Минулого тижня занепокоєння щодо екзистенційних ризиків штучного інтелекту набуло обертів, спричинене гучним звільненням співробітника Anthropic Джейкоба Коксона, який у своєму дописі про звільнення в соціальних мережах звинуватив компанії, що займаються штучним інтелектом, у «азартних іграх з нашими життями».

Протягом останніх кількох днів численні керівники компаній, що займаються штучним інтелектом, зокрема головний виконавчий директор Anthropic Даріо Амодеї та генеральний директор OpenAI Сем Альтман , закликали до уповільнення темпів розвитку технології, щоб вирішити її дедалі більш непередбачувані ризики, хоча їхні думки розходяться в тому, як саме з цим слід боротися.

У суботу в есе обсягом 3800 слів Амодей закликав до державного регулювання та до того, щоб технологічна галузь підтримала ширше уповільнення розвитку штучного інтелекту. Це викликало різку реакцію президента Дональда Трампа , який відкинув побоювання щодо ризиків цієї технології як «містифікацію» та відкинув ідею нових правил.

Інші лідери технологічних компаній також відреагували, наприклад, Альтман та генеральний директор Nvidia Corp. Дженсен Хуанг стверджували, що компанії, що займаються штучним інтелектом, безпечно самі визначатимуть темпи розвитку ШІ, а генеральний директор Meta Platforms Inc. Марк Цукерберг заявив, що лабораторії штучного інтелекту повинні покладатися на незалежних оцінювачів та консультантів, щоб забезпечити безпеку моделей.