Експерти не повірили в зародження свідомості у штучного інтелекту Google
Напередодні розголосу набула гучна історія з відстороненням компанією Google інженера Блейка Лемойна, який працював із системою штучного інтелекту (ШІ) LaMDA. Лемойн стверджував, що ШІ почав проявлятися ознаки свідомості.
Низка експертів засумнівалися у цьому, вважаючи, що найважливішим є вирішення інших питань: чи може ШІ перебувати під впливом забобонів і завдати шкоди у реальному світі, і чи навчаються алгоритми на людях.
Велике шоу для скидання відповідальності
За словами Емілі Бендер, професора лінгвістики Вашингтонського університету, згода з позицією Лемойна в даному питанні може допомогти технологічним компаніям уникнути відповідальності за рішення, що приймаються ШІ-алгоритмами.
У це шоу вкладено багато зусиль. Проблема в тому, що чим більше ця технологія продається як штучний інтелект, не кажучи вже про щось справді розумне, тим більше людей будуть готові погоджуватися з рішеннями таких систем, які можуть завдати реальної шкоди, — вважає Бендер.
Як приклад вона розглянула варіант із прийомом людей на роботу чи виставленням оцінок студентам. Рішення у таких питаннях можуть змінюватися у разі, якщо алгоритм не позбавлений забобонів, через що різних людей він оцінюватиме по-різному. На думку Бендера, акцент на тому, що система розумна, може використовуватися розробниками для того, щоб зняти з себе відповідальність за будь-які виявлені в процесі експлуатації недоліки.
На думку експертів, "розумність" ШІ може використовуватися розробниками для зняття з себе відповідальності у випадку, якщо ШІ-система припуститься помилки. Акцентування уваги на розумності ШІ дозволить звинуватити у проблемі штучний інтелект.
Компанія може сказати: "Це програма припустилася помилки". Ні, ваша компанія створила цю програму. Ви несете відповідальність за цю помилку. Міркування про розумність роблять розпливчастим це питання, – впевнена Емілі Бендер.
За словами Марка Рідла, професора Технологічного інституту Джорджії, ШІ-системи на цей час не здатні усвідомлювати вплив своїх відповідей або поведінки на людей та суспільство. У цьому, на його думку, є одна з уразливостей технології.