Технологічні компанії вивчають можливі права для ШІ-систем — Jerusalem Post

В Ізраїлі Jerusalem Post повідомляє, що дослідники та керівники великих технологічних компаній дедалі активніше обговорюють, чи можуть у майбутньому системи штучного інтелекту потребувати прав і захисту від людей, які їх створили. Цей напрям досліджень називають добробутом ШІ: він розглядає можливість появи у складних систем свідомості, суб’єктивного досвіду або власних інтересів.

Дослідження добробуту моделей

Генеральний директор Anthropic Даріо Амодеї допускав, що такі системи в майбутньому можуть заслуговувати на суттєві права. Водночас він не заявляв, що наявний штучний інтелект є свідомим, наголошуючи на неповному розумінні принципів роботи цих моделей.

Компанія Anthropic, яка розробляє чатбот Claude, створила окрему дослідницьку програму з вивчення добробуту моделей. Деяким версіям Claude також надали можливість завершувати розмови у виняткових ситуаціях, пов’язаних із тривалими образливими взаємодіями.

Суперечки про моральний статус ШІ

Філософ Anthropic Джо Карлсміт, який працює у сфері безпеки штучного інтелекту, порушував питання про те, чи може розумна система, яку експлуатують, бути морально виправданою у спротиві операторам. Дослідники, пов’язані з Google та OpenAI, також висловлювали занепокоєння щодо можливої появи цифрової работоргівлі, за якої люди отримували б користь від праці свідомих штучних сутностей.

Критики таких підходів застерігають, що надання машинам морального статусу може розмити межі відповідальності між людьми та штучними системами, ускладнити нагляд за ними й навіть виправдовувати зменшення людського контролю над технологіями. Anthropic наголошує, що її робота є обережним дослідженням наукової та філософської невизначеності, а безпека людей залишається центральним принципом розробки моделей. Наразі доказів свідомості або здатності до страждань у чинних систем штучного інтелекту немає.

Источник: ua.news