Студија: Алгоритам је "пристрасан против црнаца" иза сиромашних предвиђања рецидивизма затвореника

$config[ads_kvadrat] not found

1001364

1001364
Anonim

Алгоритми су једнако пристрасни као и људи који их праве. Истрага од ПроПублица открили су да Нортхпоинте, креатори алгоритма који покушава да предвиди вероватноћу затвореника да почини други злочин, предвиђа да ће црнци много чешће починити злочин након што изађу од белаца.

Алгоритам ствара оцјену ризика за затворенике. Користи се широм земље за вођење датума пуштања на слободу затвора. Након анализе података за више од 7.000 људи у округу Бровард, Флорида, реалност расистичких алгоритама је јасна: црни оптужени били су скоро двоструко вјероватнији од бијелих оптуженика да би добили предвиђање да су починили још један злочин.

Анализа је контролисана за варијабле попут пола и криминалне позадине. Ипак, предвиђало се да ће црнци за 77% вјероватније починити насилан злочин у будућности, а 45% вјероватно починити било који будући злочин. Забрињавајуће је и то што је тачно само 20 процената предвиђања Нортхпоинте о томе ко ће починити насилне злочине у будућности.

Нортхпоинте користи 137 питања за процјену потенцијала људи који су починили злочин. Како ПроПублица извештава, питања се не питају о раси. Међутим, нека од питања могу бити повезана.

Примјери питања укључују: “Да ли је један од ваших родитеља икада упућен у затвор или затвор?” И “Колико често сте се борили у школи?” Постоје и питања да / не, као што је “Гладна особа има право Остали фактори укључују ниво образовања и да ли особа има посао или не.

ПроПублица је детаљно описао како су приступили и анализирали податке компаније Нортхпоинте у објашњењима, а Нортхпоинте је послао писмо ПроПублици наводећи да се компанија “не слаже да се резултати њихове анализе или тврдње темеље на томе су тачне или да тачно одражавају резултате примене модела. ”

Резултати ПроПублица, ако не и невероватно изненађујуће, забрињавају. Процјене ризика се користе за утврђивање увјетног отпуста и одлучивања о износима обвезница; они чак чине фактор кривичног кажњавања у девет држава.

Технологија није крајње рјешење сваког проблема, посебно ако се узме у обзир да је технологија једнако погрешна као и људи који је стварају.

$config[ads_kvadrat] not found