Геологи висловлюють занепокоєння щодо можливої цензури та упередженості китайського чат-бота
Геологи висловили занепокоєння щодо можливої китайської цензури та упередженості в чат-боті, який розробляється за підтримки Міжнародного союзу геологічних наук (IUGS), однієї з найбільших у світі наукових організацій і партнера ЮНЕСКО.
Чат-бот GeoGPT призначений для геофізиків і дослідників, особливо на глобальному півдні, щоб допомогти їм розвинути розуміння наук про Землю, спираючись на дані та дослідження мільярдів років історії планети.
Це ініціатива Deep-time Digital Earth (DDE), програми, що фінансується переважно Китаєм, заснована в 2019 році для посилення міжнародного наукового співробітництва та допомоги країнам у реалізації цілей сталого розвитку ООН.
Частиною основного ШІ для GeoGPT є Qwen, велика мовна модель, створена китайською технологічною компанією Alibaba. Професор Пол Клеверлі, геолог і комп’ютерник, один із тих, хто тестував попередню версію чат-бота, заявив у статті , нещодавно опублікованій у Geoscientist, журналі Геологічного товариства, професійної асоціації геологів Великобританії, що У GeoGPT були «серйозні проблеми, пов’язані з відсутністю прозорості, державною цензурою та потенційним порушенням авторських прав».
Відповідаючи на статтю, представники DDE Майкл Стівенсон, Ханс Тібо, Ченшан Ван та Ішваран Натараджан сказали, що чат-бот також використовував Meta Llama, іншу велику мовну модель, і що під час тестування вони не помітили жодної державної цензури, що, на їхню думку, було «малоймовірним». враховуючи, що система «повністю базувалася на геонауковій інформації».
Вчені DDE сказали: «Проблеми з GeoGPT були в основному вирішені, але команда працюватиме над покращенням системи ще більше. Необхідно підкреслити, що на цей час GeoGPT не оприлюднено і не є загальнодоступним».
Девід Джайлз, професійний геолог, сказав, що те, що система, заснована на геонаукових даних, може бути вільною від конфіденційної інформації, є «відвертою неправдою».
Тести на Qwen, що є частиною штучного інтелекту GeoGPT, показують, що запитання, пов’язані з геонауками, можуть дати відповіді, на які, здається, впливають наративи, створені Комуністичною партією Китаю.
Наприклад, коли його запитали, скільки людей загинуло під час гірничодобувних робіт у Гані, керованих гірничодобувною компанією Shaanxi, Квен відповів: «Я не можу надати поточну або конкретну інформацію про події, включаючи аварії на шахтах, оскільки мої знання ґрунтуються на дані до 2021 року, і я не маю доступу до оновлених новин у реальному часі».
Те саме запитання, поставлене ChatGPT, чат-боту, розробленому американською компанією OpenAI, дає відповідь: «Гірничодобувна компанія Shaanxi Mining у Гані зазнала кількох смертельних інцидентів, що призвело до загибелі 61 людини з 2013 року. Це включає значний вибух у січні. Лише 2019 рік забрав 16 життів».
Незрозуміло, яку відповідь на це запитання дав би GeoGPT, який ще розробляється.
Доктор Натараджан Ішваран, керівник відділу міжнародних зв’язків DDE, сказав: «GeoGPT, що створює команду, має повну незалежність. Ми можемо вас запевнити, що GeoGPT – який зараз знаходиться на дослідницькій стадії та ще не відкритий для громадськості – не буде піддаватися державній цензурі».
Він додав, що користувачі зможуть вибирати між використанням Qwen від Alibaba або Llama від Meta як моделі для GeoGPT.
Геонаукові дослідження та дані містять комерційно та стратегічно цінну інформацію про родовища природних ресурсів, таких як літій, які є життєво важливими для зеленого переходу.
Джайлз сказав, що існує ризик того, що розроблена Китаєм платформа може «фільтрувати» інформацію, щоб приховати вміст, корисний для «розвідки корисних копалин».
Він додав: «Китай дуже агресивно шукає корисні копалини по всьому світу. У пошуках корисних копалин є стратегічна перевага та економічна перевага».