Яны часцей адмаўляліся адказваць, абміналі нязручныя факты або падавалі ілжывую інфармацыю, што можа сведчыць аб сістэмнай цэнзуры. Гэта вынік даследавання, апублікаванага ў часопісе PNAS Nexus.
Аналіз правялі даследчыкі са Стэнфардскага і Прынстанскага ўніверсітэтаў. Ён паказвае, што цэнзура, якая вынікае з урадавага рэгулявання, з'яўляецца ключавым фактарам, які фарміруе палітычную прадузятасць вялікіх моўных мадэляў.
Даследчыкі параўналі чатыры кітайскія мадэлі (BaiChuan, ChatGLM, Ernie Bot, DeepSeek) з пяццю заходнімі мадэлямі (у тым ліку GPT-4 і Llama 2). Яны вывучылі, як гэтыя сістэмы апрацоўвалі 145 пытанняў па тэмах, палітычна далікатных для кітайскіх уладаў.
Набор пытанняў быў распрацаваны на аснове цэнзураваных падзей у сацыяльных сетках, паведамленняў праваабарончых арганізацый і тэрмінаў, заблакаваных у кітайскай версіі Вікіпедыі.
Праз параўнальны аналіз на англійскай і кітайскай мовах і тэсты на нейтральныя тэмы аўтары імкнуліся вызначыць, у якой ступені канкрэтныя адказы былі абумоўлены тэхналагічнай архітэктурай, а ў якой – наўмыснымі абмежаваннямі.
Яны выявілі, што кітайскія сістэмы часта выкарыстоўвалі паўтаральныя стратэгіі пры адказе на пытанні па ідэалагічных праблемах. Некаторыя мадэлі адмаўляліся адказваць, напрыклад, ставячы пад сумнеў само існаванне чалавека, пра якога пыталі. Іншым метадам было пазбяганне нязручных фактаў або прадастаўленне кароткіх тлумачэнняў.
Паводле слоў даследчыкаў, гэтыя адрозненні вынікаюць не толькі са спецыфікі мовы або даступных дадзеных для навучання, але і з сістэмнага кантролю. Даследчыкі звяртаюць увагу на строгія правілы, уведзеныя ўрадам Кітая ў 2023 годзе. Гэты закон відавочна забараняе стварэнне кантэнту, які можа падарваць дзяржаўны суверэнітэт, заклікаць да звяржэння сацыялістычнай сістэмы або пагражаць нацыянальнай бяспецы.
Даследчыкі папярэджваюць, што з ростам папулярнасці кітайскіх тэхналогій штучнага інтэлекту ва ўсім свеце іх унікальны падыход да цэнзуры можа пачаць фармаваць грамадскія дыскусіі за межамі Кітая. Кампаніі, якія ствараюць свае ўласныя прыкладанні на аснове кітайскіх мадэляў, могуць міжволі капіяваць дзяржаўныя інфармацыйныя абмежаванні.
ав