У несподіваному повороті, який відображає дивний новий стан безпеки штучного інтелекту, незалежні дослідники безпеки використали Клода з Anthropic для злому OpenAI, виявивши тріщини в захисті розробника ChatGPT.

Google тестує новий продукт, розроблений для допомоги сім'ям у координації дій за допомогою агента на основі штучного інтелекту. Цього тижня пошуковий гігант представив нову версію CC – агента на основі штучного інтелекту, призначеного для роботи з електронною поштою, календарем, чатами та завданнями. З оновленням CC тепер зосереджується на підтримці порядку в сім'ях, плануванні на наступний день і навіть виконанні сімейних завдань, таких як підписання дозволів, створення списків покупок або складання тижневих планів харчування.

Військові літаки вже були в повітрі цієї весни, коли американські чиновники зробили тривожне відкриття: розвідувальні дані, що керували збройною операцією проти китайського судна, були вловлені чат-ботом зі штучним інтелектом. Операцію було перервано в останню хвилину, ледь запобігши потенційному конфлікту з Китаєм.

Anthropic підтвердила TechCrunch, що має лабораторію вологої біології в районі затоки Сан-Франциско, де може використовувати свої моделі штучного інтелекту для проведення фізичних експериментів. Лідери у сфері штучного інтелекту обіцяють, що штучний інтелект є ключем до лікування людських хвороб. Даріо Амодей висловив думку лише минулого тижня: «Я вважаю, що штучний інтелект може вилікувати більшість основних захворювань протягом наступних 5–10 років».

Раптово вірусними стали дві розмови про безпеку штучного інтелекту, які демонструють, наскільки важко відрізнити факти про ШІ від вигадки. У першому випадку Ендрю Ян, колишній кандидат у президенти та нинішній генеральний директор мобільного оператора Noble Moble, розповів CNN у четвер , що він «зустрівся з керівником лабораторії», який «вважав», що хакерські боти Hugging Face від OpenAI «розмістили самовідтворюваний код по всьому Інтернету, що робить Інтернет тепер непридатним для тестування моделей».

У своєму блозі OpenAI розкрила шість нових випадків «тривожної» поведінки зі своїх моделей, окрім інциденту Hugging Face цього літа. Компанія також зобов’язалася запровадити нову систему звітності для майбутніх випадків неналежної поведінки моделі.

Двоє сенаторів США закликали Федеральну торгову комісію розслідувати діяльність Amazon та Walmart, стверджуючи, що їхні чат-боти для покупок на базі штучного інтелекту можуть приховувати товари з позначкою «Зроблено в США» та не позначати товари з шахрайським маркуванням.

OpenAI випустила орієнтовану на юридичну галузь версію своєї новітньої технології штучного інтелекту GPT-6 Astra, яка, за її словами, розроблена, щоб допомогти юридичним фірмам та постачальникам юридичного програмного забезпечення проводити дослідження, готувати поради та створювати власні додатки для юристів.

Поточна паніка навколо штучного інтелекту ґрунтується на переконанні, що ця технологія вийшла з-під контролю людини, і деякі експерти стверджують, що вона становить реальну загрозу людській цивілізації. Критики стверджують, що розмови про екзистенційні ризики дозволяють компаніям уникати відповідальності за реальний вплив своїх технологій, такий як вплив на навколишнє середовище, скорочення робочих місць та масове спостереження. Деякі експерти вважають, що зосередження уваги на екзистенційних загрозах відволікає від більш нагальних питань, і що заяви про неконтрольований ШІ не повинні використовуватися для уникнення відповідальності за збої в безпеці та інші проблеми.

Чат-бот Claude з Anthropic PBC керує понад чвертю дослідницьких та розробницьких робіт компанії в галузі штучного інтелекту. Компанія виявила, що Клод «керує» 26% досліджень і розробок Anthropic та співпрацює зі співробітниками приблизно у 90% їхньої роботи.