Алгоритам је тестиран у Сан Францисцу да се постави предтужба

Систем кривичног правосуђа је усред алгоритамске промене. Око 30 јурисдикција - укључујући читаве државе Аризона, Кентуцки и Нев Јерсеи, као и градове попут Сан Францисца и Чикага - тестирало је алгоритам који одређује трошак кауције на основу података о криминалним подацима широм земље. Нису све судије нужно спремне да узму у обзир дигиталне препоруке.

Алгоритам је креирала Лаура и Јохн Арнолд Фоундатион из Хјустона и назива се Процјена јавне сигурности или ПСА. Циљ алгоритма је да изузме пристраност из одређивања јамчевине користећи податке од 1,5 милиона случајева прије суђења. У прошлости, међутим, алгоритми су носили исте предрасуде људи који их стварају.

Девет фактора улази у алгоритам, на веб страници фондације:

• Да ли је тренутни прекршај насилан
• Да ли особа има оптужницу у току хапшења

• Да ли особа има раније осуђујућу пресуду за прекршај
• Да ли је особа раније осуђена на кривично дело
• Да ли је особа раније осуђивана за насилни злочин
• Старост особе у тренутку хапшења
• Да ли се та особа није појавила на претпретресном саслушању у посљедње двије године
• Да ли се та особа није појавила на претпретресном саслушању прије више од двије године
• Да ли је та особа раније била осуђена на затворску казну.

Алгоритам не узима у обзир расу, пол, приход, образовање, запослење или сусједство. То, према заклади, чини ПСА неутралним.

Ипак, судије у Сан Францисцу нису досљедно слиједиле препоруке Сан Францисцо Цхроницле извештаји.

Сан Франциско је користио алгоритам након што је град тужио националну групу за људска права која је тврдила да је прекомјерна кауција повриједила сиромашне више него богате. Богати људи који су починили мањи злочин куповали су излаз из затвора, док су сиромашни људи који нису могли приуштити прекомјерне кауције остављени у ћелији док се не би заказало суђење.

ПСА је требало да изједначи игралиште гледајући податке, а не непосредни криминал. Алгоритам користи историјске податке да би проценио колико је вероватно да ће неко починити неко друго кривично дело или избећи суђење ако буде пуштен уз кауцију, Минорити Репорт стил. Ако је вероватноћа велика, кауција се поставља више, и обрнуто.

Сличан алгоритам који је креирао Нортхпоинте коришћен је за вођење датума објављивања затвореника. ПроПублица објавили резултате истраживања у мају који су открили да су оцјене "процјене ризика" које је дао Нортхпоинтеов алгоритам несразмјерно предвидио да су црнци вјероватније починили још један злочин него бијели људи након што су изашли. Само 20 процената предвиђања компаније Нортхпоинте су тачне.

Напредне технологије мапирања и велики подаци, са друге стране, такође помажу у откривању полицијских снага и полицијским криминалним жариштима.

Алгоритам фондације има за циљ да избегне сличну пристрасност уклањањем демографских показатеља. Међутим, да ли заиста или не функционише, неће се видети док судије не почну да се ослањају на алгоритме изнад преседана и интуиције.