Мицрософт има преткриминацију са апликацијом која предвиђа рецидивизам

У вебцасту са полицијским службама раније ове године, виши Мицрософтов програмер је проклизао да је компанија дубоко у развоју апликације која може предвидјети да ли ће се затвореник вратити иза решетака шест мјесеци након објављивања.

"Све се врти око софтвера који има способност да предвиди будућност", рекао је програмер Јефф Кинг.

Још неименована апликација ради анализом историје затвореника користећи - шта још? - замршен алгоритам, који је Кинг рекао да је 91% тачан. Неколико примера фактора које је краљ рекао би требало да се узму у обзир: припадност банди, учешће у програму рехабилитације, кршења док служе своје време и сати у административној сегрегацији. У ствари, није све толико далеко од фактора које одбор за отпуст узима у обзир приликом одлучивања о томе да ли ће ослободити затворенике.

То звучи као разумни предиктори све док не сматрате да затвореници који се оцјењују можда немају много избора у начину на који су провели своје затварање. Као Економиста белешке, затворске банде нису биле ни до друге половине 20. века, када је експлодирала заточена популација и живот иза решетака постао толико опасан да су се људи пријавили као облик заштите који стражари нису успели да обезбеде. Што се тиче рехабилитације, током протекле деценије државе које су се суочавале са недостатком новца смањиле су финансирање тих програма за стотине милиона - Калифорнија је 2011. године значајно смањила 250 милиона долара од третмана злоупотребе супстанци, стручне обуке и образовних програма. То је бар делимично крив за стопу затвореника који су узели програм рехабилитације много нижи него што је био прије 20 година. Стављањем на терет затвореника да се докажу како се прилагођавају затвору, док ослобађање затвора за политике које ће вјероватно повећати рецидивизам, у најбољем случају говори пола приче.

Онда је питање шта радимо са Мицрософт-ом Минорити Репорт вредни бројеви. Да ли би бивши затвореник добио више социјалних услуга како би му помогао да не буде поново починио прекршај? Да ли би одбори за помиловање размотрили мишљење алгоритма? Да ли би се ниска оцјена користила да би се оправдале дуже затворске казне? Шта је са оправдавањем обавезног изрицања казне, политике која је историјски учинила много више штете него користи.

Када је прекршио Мицрософтове планове предвиђања Фусион, Даниел Риверо је написао да је краљев говор "практично остао незапажен", са око 100 погледа на ИоуТубе говор. (Добро око, Даниеле.) Можда је прошло испод радара јер то више није изненађујуће. Алгоритми предвиђања криминала, и аргументи о њиховим нијансама и моралним импликацијама, све су чешћи. Јапанска компанија Хитацхи има пола туцета градова САД-а који су укључени у тестирање концепта концепта за који компанија каже да може помоћи у предвиђању злочина тако што ће смањити број историјских статистичких података о криминалу, карте јавног пријевоза, временске прогнозе, па чак и друштвене медије. На крају нижег технолошког нивоа, Чикаго управља "листом топлоте" потенцијалних преступника који добијају случајне полицијске посете без обзира на то шта су радили. А Лос Анђелес размишља о аутоматизованом читачу да скенира регистарске таблице било ког аутомобила који само вози близу подручје које посећују проститутке и шаљу писмо "Драги Џон" на име на регистрацији возила. Све више и више, најбоље предвиђање које вам можемо дати је да ће ваша будућност бити посматрана и вреднована од стране ужасне пуно ванземаљске интелигенције. Али хеј, бар ћете имати ховербоард.