А.И. Стручњак Виргиниа Дигнум: Проблем с колицима показује зашто нам је потребна транспарентност

Вештачкој интелигенцији је потребна транспарентност, тако да је људи могу држати на рачуну, тврди истраживач. Вирџинија Дигнум, ванредни професор на Технолошком универзитету у Делфту, рекла је публици на Универзитету у Њујорку да ако не разумемо зашто машине делују на начин на који то раде, ми нећемо моћи да процењујемо њихове одлуке.

Дигнум је навео причу Давида Бернеиа, знанственика и истраживача, који је објављен у Псицхологи Тодаи: "Докази сугеришу да када људи раде са машинама, они осећају мање осећаја за агенцију него што раде када раде сами или са другим људима."

"Проблем тролејбуса", објаснио је Дигнум, је област у којој људи могу слепо веровати у машину да бирају прави исход. Питање је да ли да се пребаци полуга на хипотетски одбјегли воз тако да убије једну особу умјесто пет. Људи очекују да машине решавају проблем на најрационалнији могући начин. То можда није увек случај, а транспарентност би помогла да се објасни како је машина дошла до своје одлуке.

"То није само веома дубок, неуронски ланац догађаја који нико не може да разуме, већ да та објашњења направе на начин који људи могу да разумеју", рекла је она.

А.И. што чини његов рад јасним је подручје које ДАРПА истражује. Агенција је у августу објавила саопштење да тражи тимове који су заинтересовани за објашњење А.И. пројектима, познатим као КСАИ. Ови системи ће помоћи истраживачима да схвате зашто је А.И. донео је одлуку да је то учинио, дајући више простора да одлучи шта да уради са резултујућим информацијама, уместо да слепо верује машини.

Уз машинско учење, Дигнум је истакао да је транспарентност важнија него икад. "Не можемо очекивати да системи, а посебно машине за стројно учење, уче и да све то одмах знају", каже она.“Не очекујемо да наши возачи, када возе, буду у потпуности разумију прометне законе. У многим земљама, они користе те “Л” плоче да покажу: '' Ја учим, извините ме за грешке које могу направити. '' Гледајући АИ, схватајући како долази до одређених одлука и поступања на основу тога, биће пресудно заустављање машина које још увек уче од доношења лоших одлука.