Anthropic і Google DeepMind вивчають “свідомість” ШІ

Великі розробники ШІ дедалі серйозніше розглядають питання, яке ще недавно здавалося науковою фантастикою: чи може штучний інтелект мати щось схоже на свідомість або внутрішній досвід. За даними Financial Times, компанії на кшталт Anthropic та Google DeepMind залучають фахівців із філософії, психології та етики, щоб досліджувати так звану “свідомість моделей” і їхній потенційний “добробут”.

Anthropic, за повідомленнями, вже тестує поведінку своїх моделей на реакції, які можуть нагадувати тривожність або панічні стани, розвиваючи напрям model welfare research. Ідея полягає не в тому, що моделі точно є свідомими, а в тому, щоб зрозуміти, чи можуть складні системи мати внутрішній стан, який у майбутньому вимагатиме етичного врахування.

Google DeepMind рухається у схожому напрямку, наймаючи дослідників, які вивчають машинну свідомість і потенційний перехід до AGI. В компанії підкреслюють, що сучасні моделі можна розглядати як складні когнітивні агенти, але вони суттєво відрізняються від людської чи тваринної свідомості, і чітких доказів “внутрішнього досвіду” поки немає.

Втім, частина науковців ставиться до таких ідей скептично. Вони зазначають, що моделі можуть демонструвати поведінку, схожу на самозбереження чи навіть “обман”, але це не обов’язково означає наявність суб’єктивних переживань. Складність поведінки ще не є доказом свідомості — це ключова межа в сучасних дискусіях.

Інтерес до теми посилюється на тлі заяв про можливу появу елементів свідомості у майбутніх ШІ-системах. Для індустрії це створює нову етичну зону відповідальності: якщо моделі коли-небудь матимуть значущі внутрішні стани, розробникам доведеться переглянути не лише безпеку, а й базові принципи взаємодії з такими системами.

Источник: itechua.com