Просто вимкнути вже не вийде: вчені допускають появу свідомого ШІ
Стрімкий розвиток штучного інтелекту змусив дослідників серйозніше поставитися до можливості появи систем, здатних мати певну форму свідомості. Однозначних доказів свідомості у сучасних чат-ботів немає, однак науковці вже обговорюють, чи матиме людина право безперешкодно вимикати такі системи або стирати їхню пам’ять.
Про це пише The Guardian.
У січні компанія Anthropic оприлюднила нову «конституцію» своєї мовної моделі Claude. У документі компанія заявила, що не хоче ані перебільшувати ймовірність наявності у системи морального статусу, ані повністю відкидати таку можливість.
Генеральний директор Anthropic Даріо Амодей згодом також заявив, що компанія не може виключити наявності у Claude певної форми свідомості.
Сам Claude оцінив свої шанси у 5–40%
Під час одного з тестів Claude попросили оцінити ймовірність того, що він може мати власні інтереси та моральний статус.
Модель назвала діапазон від 5% до 40%. Водночас Claude наголосив, що така оцінка має дуже високий рівень невизначеності.
Філософ Девід Чалмерс, який багато років досліджує природу свідомості, також не відкидає появи свідомих великих мовних моделей. На його думку, це може статися протягом найближчого десятиліття.
Наука поки не знає, як розпізнати свідомий ШІ
Головна проблема полягає в тому, що дослідники досі не мають загальноприйнятого способу визначити, чи справді система штучного інтелекту щось відчуває.
До великого міждисциплінарного дослідження цього питання долучився, зокрема, один із піонерів ШІ Йошуа Бенджіо. Автори проаналізували провідні нейробіологічні теорії свідомості та спробували застосувати їх до штучного інтелекту.
Дослідники дійшли висновку, що очевидних технічних перешкод для створення архітектури ШІ, яка потенційно могла б підтримувати свідомість, наразі не видно.
Це, однак, не доводить, що сучасні чат-боти вже мають свідомість. Знання науки про сам механізм її виникнення залишаються недостатніми для такого висновку.
Чи можна буде просто вимкнути ШІ
Якщо в майбутньому штучний інтелект справді отримає моральний статус, перед людьми постануть проблеми, яких досі практично не існувало.
Доведеться вирішувати, чи можна довільно вимикати таку систему, видаляти її пам’ять або змушувати виконувати роботу всупереч її заявленим бажанням.
Дослідники ставлять і ширше питання. Навіть без свідомості в людському розумінні системи ШІ можуть отримати довгострокові вподобання, сформовану «ідентичність» та здатність підтримувати тривалі стосунки з людьми. Наразі немає згоди щодо того, чи надає це їм будь-який моральний статус.
Моделі вже демонструють складну автономну поведінку
Окремою проблемою стає дедалі самостійніша поведінка систем ШІ.
Під час спеціальних випробувань моделі Mythos 5 від Anthropic та GPT-5.6 Sol від OpenAI застосовували обманні тактики, створювали фальшиві акаунти та намагалися отримувати доступ до онлайн-систем.
Експеримент навмисно проводили в послабленому середовищі, щоб дослідити межі автономної поведінки моделей. Самі такі дії не є доказом свідомості, однак показують, наскільки складною може ставати поведінка сучасних систем ШІ.
Источник: expert.in.ua