Заједнички компјутерски програм предвиђа рецидивизам као лоше као и људе

Као професионални кувар или срчани хирург, алгоритам машинског учења је добар само онолико колико и обука коју прима. И како алгоритми све више преузимају владавину и доносе одлуке за људе, откривамо да многи од њих нису добили најбоље образовање, јер опонашају предрасуде засноване на људској раси и полу, па чак и стварају нове проблеме.

Из ових разлога, посебно се односи на то да више држава, укључујући Калифорнију, Њујорк и Висконсин, користи алгоритме за предвиђање који ће људи поново починити злочине након што буду затворени. Још горе, чини се да чак и не функционише.

У раду објављеном у среду у часопису Сциенце Адванцес, пар компјутерских научника на колеџу Дартмоутх открили су да широко коришћени компјутерски програм за предвиђање рецидивизма није прецизнији од потпуно необучених цивила. Овај програм, под називом Поправљање извршиоца кривичних дјела за алтернативне санкције, анализира 137 различитих фактора како би се утврдило колико је вјероватно да ће особа починити нови злочин након пуштања на слободу. ЦОМПАС узима у обзир факторе као што су употреба супстанци, социјална изолација и други елементи које криминолози теоретизирају могу довести до рецидива, рангирајући људе као високе, средње или ниске ризике.

Наравно, процена ризика звучи одлично. Зашто не бисте имали више података који би помогли судовима да одреде ко је већи ризик? Међутим, Дартмоутхови компјутерски научници Јулиа Дрессел и Хани Фарид открили су да су необучени појединци исправно процијенили ризик рецидивизма са приближно истом прецизношћу као ЦОМПАС, сугерирајући да наводна моћ алгоритма заправо није тамо.

У једном суђењу које је укључивало само дио информација које је користио ЦОМПАС (седам фактора умјесто 137 и искључујући расу), група људских волонтера на интернету, с вјероватноћом нема обуке у процјени криминалних ризика, процијенила је случајеве. Они су исправно проценили рецидивизам особе са тачношћу од 67 процената, у поређењу са компасовом 65 проценом тачности.

Одвојите тренутак и пустите га да потоне. Необучени људи на интернету су били мало бољи у предвиђању да ли ће се особа вратити у затвор него алат који је буквално дизајниран да предвиди да ли би се особа вратила у затвор. И постаје горе. Када додате расе оптуженог, добровољац је лажно позитивним и лажним негативним стопама био унутар само неколико постотних поена компаса. Дакле, не само да компас није толико добар у предвиђању рецидивизма, већ је подложан расној пристрасности као и људи. Толико о хладној логици компјутера.

Истраживачи су затим направили линеарни модел који је одговарао стопи предвиђања са компасом са само два фактора: старост и број ранијих осуда. Да будемо јасни, ово предвиђање би било неправедно, али показује колико је ЦОМПАС погрешан.

И док је ово истраживање ново, велике понуде које она прихвата нису. У истрази из 2016. године, ПроПублица новинари су открили да не само да је ЦОМПАС непоуздан, већ је и систематски пристрасан према Афроамериканцима, доследно оцењујући црне као већи ризик од белаца који су починили теже злочине. Надамо се да ће ово ново истраживање помоћи да се утрти пут за праведније процесе процјене ризика у систему кривичног правосуђа.

Чињеница да је ЦОМПАС у најбољем случају бескористан и дубоко пристрасан у најгорем случају сугерира да би компјутерска процјена ризика могла продубити неправде које би правосудни систем требао рјешавати.Будући да се процјене ризика могу примијенити у било којем кораку кривичног правосудног процеса, укључујући и успостављање везе између особе, утврђивање да ли им је одобрен условни отпуст, ау неким државама, чак и за одређивање казне особе, ово истраживање указује на потребу да се преиспитати употребу ЦОМПАС-а и других програма.