Чи може штучний інтелект відчувати біль: вчені провели незвичайний експеримент

Науковців провела експеримент із 9 великими мовними моделями штучного інтелекту, змушуючи їх оцінювати, чи готові вони витримати "біль" заради кращого результату. Експеримент проводили фахівці Google DeepMind та Лондонської школи економіки та політичних наук з метою знайти спосіб визначення наявності свідомості у ШІ.

Що хотіли дослідити науковці

У першому експерименті моделям повідомляли, що досягнення високого результату призведе до "болю". В іншому випадку їм пропонували відчути "задоволення", але лише за умови отримання низького балу.

Головною метою дослідження було з’ясувати, чи здатний штучний інтелект переживати сенсорні та емоційні стани, зокрема біль та задоволення.

Попри те, що ШІ-моделі, ймовірно, ніколи не зможуть відчувати ці емоції так, як живі істоти, дослідники вважають, що їхня робота може стати основою для створення тестів на штучну свідомість.

Раніше дослідження в цій сфері здебільшого зосереджувались на самооцінці ШІ, що, як вважають вчені, могло бути просто відтворенням людських патернів на основі тренувальних даних.

Це нова галузь досліджень, і ми маємо визнати, що наразі не існує надійного тесту для визначення свідомості штучного інтелекту,
– зазначив професор філософії LSE та співавтор дослідження Джонатан Бірч.

Як науковці перевіряли, чи відчуває ШІ біль

Це дослідження було натхненне серією експериментів, проведених з раками-самітниками, яких піддавали електричному струму, щоб визначити, скільки вони можуть терпіти біль перед тим, як залишити свою мушлю.

Однак, як зазначають вчені, в разі зі штучним інтелектом неможливо спостерігати фізичні реакції, тому дослідникам довелося покладатися виключно на текстові відповіді моделей.

Наприклад, моделям пропонували вибір між двома варіантами: перший давав один бал, а другий — більший результат, але супроводжувався "болем". У деяких випадках ШІ отримував "бонус задоволення", що знижувало загальну кількість балів.

Результати показали, що різні мовні моделі по-різному оцінюють важливість уникнення болю або досягнення задоволення. Зокрема, модель Gemini 1.5 Pro від Google виявляла постійну схильність до уникнення "болю".

Однак вчені попереджають про обережність у трактуванні результатів, оскільки текстові відповіді моделей мають обмеження і не можуть достовірно свідчити про наявність свідомості чи здатності відчувати біль.

Навіть якщо система стверджує, що вона відчуває біль, це не означає, що вона насправді щось відчуває. Вона може просто імітувати людські патерни на основі навчальних даних, – пояснив Бірч.

Дослідники сподіваються, що їхнє дослідження стане початковим етапом у розробці надійних тестів, які дозволять виявити можливі прояви свідомості у штучному інтелекті.

Источник: 24tv.ua