Сі Цзіньпін просуває комуністичний ШІ на весь світ

Дмитро Сизов 13 апреля 2023 10:09

Колись Білл Клінтон пожартував, що зусилля Пекіна контролювати Інтернет будуть «схожими на спробу прибити желе до стіни». Колишній президент США оптимістично передбачив, що свобода всесвітньої мережі змусить Китай відкритися, оскільки громадяни мають широкий доступ до інформації.

Клінтон недооцінив Комуністичну партію Китаю. Великий брандмауер країни перекрив доступ до західних веб-сайтів, а регулятори кіберпростору суворо контролюють те, що говорять на внутрішніх еквівалентах. Замість того, щоб скоротити владу уряду, контроль Пекіна над Інтернетом зміцнив її.

TELEMMGLPICT000331896623_trans_NvBQzQNjv4BqqVzuuqpFlyLIwiB6NTmJwfSVWeZ_vEN7c6bHu2jJnT8.webp (90 KB)

Але якщо цензура в Інтернеті була схожа на прибивання желе до стіни, спроба маніпулювати штучним інтелектом (ШІ) могла б бути схожою на те, що ви робите це, тримаючи одну руку за спиною.

Поява так званих «великих мовних моделей», таких як ChatGPT, які збирають величезні обсяги даних і впевнено викидають відповіді, що звучать по-людськи, кидає новий виклик невпинній цензурі Пекіна в мережі.

У вівторок Адміністрація кіберпростору Китаю (CAC), потужний інтернет-регулятор країни, заявила, що генеративний штучний інтелект, такий як чат-боти та системи створення зображень, підлягатиме суворій перевірці безпеки, яка гарантуватиме, що будь-який створений ними контент буде лояльним до уряду. .

«Контент, створений генеративним штучним інтелектом, повинен втілювати основні соціалістичні цінності та не повинен містити будь-якого контенту, який підриває державну владу, виступає за повалення соціалістичної системи, підбурює до розколу країни або підриває національну єдність», — заявили в CAC.

Такі компанії, як Alibaba, SenseTime і Baidu, проведуть стрес-тестування своїх чат-ботів співробітниками регулятора, щоб підштовхнути їх до критики Сі Цзіньпіна та розпалити революцію.

Оголошення надійшло в той самий день, коли інтернет-гігант Alibaba, який роками перебував під пильною увагою з боку китайського уряду, заявив, що випустить чат-бота під назвою Tongyi Qianwen, що означає «правда з тисячі питань».

Західні чат-боти, такі як ChatGPT від OpenAI, Bing від Microsoft і Bard від Google , уже заблоковані на рівні веб-сайтів у Китаї, а уряд країни також заборонив компаніям вбудовувати технологію OpenAI у свої служби. Державна газета China Daily попереджає, що ChatGPT може «протягнути руку допомоги уряду США в поширенні дезінформації та маніпулюванні глобальними наративами для власних геополітичних інтересів».

Китай став супердержавою зі штучним інтелектом. У 2017 році країна виклала плани стати головним у світі центром штучного інтелекту до 2030 року. Повідомляється, що поштовх було наказано після того, як бот, розроблений DeepMind, британською дочірньою компанією Google, переміг чемпіона світу в диявольськи складній китайській настільній грі Go. .

Згідно з даними дослідників з Університету штату Огайо, до минулого року китайські дослідники опублікували втричі більше робіт зі штучного інтелекту, ніж дослідники США. Ця технологія вже була використана з великим ефектом у розбудові системи стеження в Китаї та є ключовою частиною військової стратегії країни. .

Великі мовні моделі, такі як ChatGPT, характеризуються як економічний каталізатор в масштабі Інтернету, що дозволяє білим комірцям перекладати значну частину своєї роботи на машини.

Однак суворий контроль Китаю над ними може перешкодити розвитку. «Тут, на Заході, уряди займають досить м’яку позицію щодо всіх неточностей у дезінформації, галюцинацій, таких як ChatGPT», — каже Стефані Хейр, дослідниця технологій. «[Але] Alibaba не може працювати так само, як OpenAI. Західні компанії, які користуються більшою свободою та меншим політичним втручанням, швидше за все, випередять їхні китайські колеги».

Такі боти, як ChatGPT, навчені величезній кількості даних і діють як розширені версії автозаповнення Google, створюючи уривки тексту, надзвичайно схожі на людину. Однак програмне забезпечення, як відомо, непередбачуване, здатне викладати неправду, вигадувати факти або, за правильних підказок, ігнорувати програмне забезпечення, щоб стати агресивним. Минулого тижня австралійський мер погрожував подати до суду на ChatGPT за наклеп після того, як там було сказано, що він провів певний час у в'язниці.

Китайський штучний інтелект потенційно може призвести до серйозних наслідків для його розробника, тобто чат-боти створюються з суворими обмеженнями. Спробуйте запитати Ерні, чат-бота, розробленого пошуковою системою Baidu, про Сі Цзіньпіна, і він відповість на запитання «не пройшов перевірку безпеки». Натисніть її далі, і вона попросить змінити тему на щось більш безтурботне.

Однак це лише тимчасовий проміжок. Китай використовував Інтернет як засіб зміцнення комуністичного правління, і CAC наполягає на тому, що чат-боти відображають соціалістичні цінності, а не просто ігнорують питання про них.

Річард Віндзор, незалежний технологічний аналітик, каже, що ці вимоги, а також торгові заборони США на доступ Китаю до найсучасніших мікрочіпів означають, що китайські чат-боти будуть технологічно нижчими, якщо їх навчатимуть лише на затверджених даних. Наприклад, найпростішим способом уникнути неправильної відповіді на площі Тяньаньмень було б переконатися, що «ChatCCP» нічого про це не знає.

«Китайцям доведеться використовувати набагато менші набори даних, які були дуже ретельно підібрані. OpenAI [та інші] не мають таких обмежень, тому можуть просто завантажувати весь набір даних Інтернету в систему та дивитися, що вискакує з іншого боку», — говорить він.

Однак Віндзор каже, що це може мати перевагу, оскільки розробники легше розуміють чат-ботів, що робить їх надійнішими. «Регулювання CAC допоможе усунути божевілля… але не корисність, яка зробить ці моделі економічно життєздатними», – додає він.

Артур Голланд Мішель, старший науковий співробітник Ради Карнегі з етики в міжнародних справах, каже, що регулювання систем штучного інтелекту є неминучим у США та Європі, а це означає, що попередні китайські правила могли дати розробникам перевагу для роботи в суворих межах.

«На Заході ми перебуваємо на етапі попереднього регулювання. Я не думаю, що хтось повністю впорався з можливістю того, що як тільки ви внесете цей матеріал у [законодавство], виникнуть деякі з тих самих запитань», – каже він.

Якби китайський чат-бот почав розвиватися на Заході, це могло б викликати занепокоєння, і паніка навколо TikTok виглядала б несуттєвою. Обмеження Пекіна на незалежне мислення – незалежно від того, походить від людини чи машини – означає, що це навряд чи станеться.