Хуман Ригхтс Ватцх: Кина користи велике податке за циљне групе мањина

Кинеска влада користи предиктивне полицијске алгоритме за циљање етничких мањина у покрајини Ксињианг, наводи се у извјештају Хуман Ригхтс Ватцха објављеном у понедјељак.

Покрајина у сјеверозападној Кини дом је 11 милиона Ујгура, турске муслиманске етничке групе која је посљедњих година дискриминисана од стране кинеске владе.

Власти сада, према извјештајима, користе велике податке како би систематски напале било кога осумњиченог за политичку нелојалност. Потез је део кампање "Стрике Хард", чији је циљ да укине потенцијалне терористичке активности у Кини. У пракси, то је довело до несразмерног полицијског рада ујгура, каже Хуман Ригхтс Ватцх.

Предиктивни полицијски систем, познат као ИЈОП - Интегрисана заједничка операциона платформа - добија податке из разних различитих надзорних алата. Ово укључује ЦЦТВ камере, регистарске таблице и бројеве личних карата које добијате од сигурносних контролних пунктова, као и личне податке, укључујући здравствене, банкарске и правне записе.

Поред аутоматизованог надзора, владини званичници врше и кућне посете како би прикупили податке о становништву. Кинески бизнисмен је подијелио образац који је попунио за евиденцију ИЈОП-а са Хуман Ригхтс Ватцхом - између осталог, упитник је питао да ли је бизнисмен Ујгур, колико често моли и гдје иде за вјерске службе.

Све ове улазне податке користи ИЈОП за означавање људи као потенцијалних пријетњи. Када је неко означен, полиција отвара даљњу истрагу и води их у притвор ако се сматра сумњивим.

„Први пут смо у могућности да покажемо да коришћење кинеске владе великим подацима и предиктивном полицијом не само да крши права приватности, већ и омогућава званичницима да произвољно задржавају људе“, каже виши кинески истраживач за људска права, Маја Ванг.

Према извјештају, неки људи који су били означени су отпремљени у политичке образовне центре, гдје су затворени на неодређено вријеме без суђења.

„Од око априла 2016. године, према процјенама Хуман Ригхтс Ватцх-а, власти у Ксињиангу послале су десетине хиљада Ујгура и других етничких мањина у„ центре за политичко образовање “, наводи се у извјештају. ИЈОП даје кредибилитет тим задржавањима применом објективне, алгоритамске анализе на дискриминаторна хапшења.

Да ствари буду још горе, унутрашњи рад ИЈОП-а је обавијен тајном.

"Људи у Ксињиангу не могу да се одупру или изазову све интрузивнију контролу њиховог свакодневног живота, јер већина њих уопште не зна за тај програм" црне кутије "или како функционише", рекао је Ванг.

То је исти проблем који изазива најсофистицираније системе машинског учења: процедуре доношења одлука које користе су нејасне чак и креаторима алгоритма.

Кинеска употреба ИЈОП-а је вредна пажње, јер се предвиђање полиције може повећати како се технологија побољшава. Као што је Јон Цхристиан истакао Обриси, предиктивни полицијски системи већ се користе на неким мјестима у Сједињеним Државама. Полицијски одељење у Лос Анђелесу користи софтвер који предвиђа где и када се вероватно догађају злочини, тако да их полицајци могу одбити.

С друге стране система кривичног правосуђа, суднице понекад користе алгоритме који потенцијалним паролеима дају оцјене „процјене ризика“ како би помогли судијама да донесу боље одлуке. Нажалост, ови наводно непристрасни алгоритми заправо дискриминирају на основу расе.

Кинески улазак у предиктивни рад полиције наглашава важност имплементације одговорног алгоритма како машинско учење наставља да улази у јавни сектор. Можда је време да владе способне за технику усвоје нову мантру: Понекад вештачка интелигенција ствара више проблема него што их решава.