Хоће ли возачи без возача бити етички убице?

Да ли ће аутомобили без возача морати да убијају људе? Звучи апсурдно док не размишљате о томе пола секунде и закључите, "да", а онда размислите о томе још пола секунде и размислите, "не." Морална загонетка у игри је довољно стара да има име, Тролијевски проблем. ”У својој класичној формулацији, то иде овако: крећете се низ стазу са пет људи везаних за њу, али можете пребацити на другу стазу, која има само једну особу - што ти? Не осећајте се обавезним да одговорите на питање; то је мисаона вежба. Исто тако, људи који праве аутомобиле који сами возе ће морати да одговоре на све нас.

Анализа тројице компјутерских научника и психолога, објављена у октобру, истражује психологију људи у аутомобилима без возача. Истраживачи су 400 испитаника прочитали о аутомобилу без возача који би нашкодио људском путнику како би спасио гомилу људи. Закључак је био јасан. Људи су волели идеју, али нису хтели ауто. Људи попут мисли вежбају много више када нису стварни и њихови животи нису на линији. Питање које поставља овај сценарио је, са становишта реалног света, о програмирању. Треба ли аутомобил без возача дати предност свима, путницима или никоме?

Поставили смо питање нашим писцима из науке. Ствари су постале чудне.

Бен Гуарино: Нисам убеђен да ће аутомобили који возе без возача морати да процене да ли би требало да етички убијају људе (или, знате, уопште). Али шта ви мислите?

Неел Пател: Мислим да ће произвођачи аутомобила морати да пређу овај мост и да модификују технологију на неки начин како би доносили ове процене. То није толико проблем ако евери Аутомобил на путу је аутоматизован, али биће прелазног периода где су неки аутомобили без возача, а неки нису. И током тог периода, аутомобили ће морати да направе неку врсту пресуде.

Управо сада, када се догоди несрећа, сваки возач било ког аутомобила ради на самоодржању. Чак и ако акције неке особе доведу до тога да више људи буде повријеђено или убијено у сусједним возилима, не можемо стварно кривити возача за тај потез - то је инстинкт преживљавања уграђен у готово све који су икада живјели. Можемо га разумети и идентифицирати с њом.

Али, аутономна возила неће одузети тај морални луксуз. Са колико несрећа се догоди сваке године у САД-у (било је преко 30.000 смртних случајева у 2012. години), то ће бити неки ситуације у којима ће акције аутомобила резултирати већим бројем смртних случајева него иначе. То није у реду ако говоримо о малим торбицама за четири величине у односу на једног деду.

И даље ће бити проблема јер нико не жели да уђе у аутомобил који је програмиран да жртвује путнике. Американци никада нису добро примили утилитаризам.

БГ: Схватам да аутономна возила неће бити програмирана са “инстинктом” - али ће имати бољу свест и рефлекс, што бих рекао да им нуди предност у односу на људске реакције и елиминише потребу за етичким одлукама у многим од ових случајева.. У сценарију у којем се дете креће на пут у једној траци и ту је комби који долази у други, човек мора да обрађује много информација и брзо доноси брзу одлуку. Али аутономан или технолошки побољшан аутомобил има више од два ока која гледају напријед и треба је задржати на путу, зар не? Уместо да се одазове само кад има дете на путу ваших гума и да аутомобил мора да изабере мртвог детета или ван кола, може да се успори чим се нешто крене са ивичњака и на улицу, пре него што човек може да реагује.

Ови изнад-људски одговори су разлог зашто су многе несреће које укључују аутомобиле без возача са задње стране, јер нисмо навикли на возаче који су способни да буду тако рефлексивни.

НП: Дефинитивно се слажете са вашим ставовима, али још увек сам забринут због прелазног периода, када прелазимо са људских возача на роботске. Да ли би људи још увек били кључ који би зајебао целу машину? Или мислите да би технологија могла довољно добро да објасни људску грешку код других аутомобила? Мисли?

Иасмин Таиаг: Предност аутономних аутомобила над људима је у томе што нису склони емоцијама, које се, у случају већине судара аутомобила, манифестују као паника. Тамо где би се човек, који је био изопачен, могао маниакално скренути да би избегао клинца или комби, ауто који вози сам ће, по Беновом мишљењу, једноставно успорити. Зар нема смисла сачувати објективност - оно што ће аутономне аутомобиле учинити супериорнијим од људских возача? На путу, једина ствар која би требала бити важна за аутомобил без возача су подаци на располагању.

Мислим да ће људски возачи увијек захтијевати могућност да се превазиђе одлука аутомобила - чак и када смо у потпуности прешли на роботске аутомобиле - и то је, мислим, прави разлог за забринутост. Нисам сигуран да ће се период транзиције заиста завршити.

БГ: Људи су лоши кључеви и лошији утилитаристи. Моје питање у вези са тврдњом да би требало да наши роботи некако буду етички убице је да претпоставља да људи знају када треба да буду етички убице. Ако возим ограничење брзине, и нешто ми се скаче, нико ме не пита за веће добро у овој ситуацији. Или си погодио дете или комби и срање је за све укључене. Зашто бисмо очекивали да возачи без возача направе супериорнији морални позив у овим сценаријима када нико не очекује да ће људи то урадити. Ми смо ти који смо дали свемиру Канту, а ми то још нисмо урадили. Аутомобили без возача треба да се фокусирају на то да буду најбољи избегавајући судар.

НП: Али мислим да смо заправо моћи очекујте да возачи без возача направе супериорнији морални позив. То, наравно, зависи од усаглашене етике, али погледајмо један хипотетички.

Генерално говорећи, ми ћемо дати приоритет безбедности деце у односу на одрасле. Рецимо у будућности, сва возила су опремљена технологијом која зна старосну доб свих путника у сваком аутомобилу на путу - а ови подаци су доступни и подијељени са свим аутомобилима на одређеном путу. Ако се догоди несрећа због непредвиђених околности, та возила могу комуницирати један с другим како би осигурала сигурност дјеце у односу на друге, старије путнике на путу. Не замишљам много људи који би дали успјешан протуаргумент таквом аранжману.

Аутомобили су у стању да то ураде боље од људи јер имају приступ информацијама које људи могу, и могу да учине ове процене бржим - без да буду под утицајем физиолошких ефеката који могу замаглити просуђивање, као што су емоције или хормонални одговори створени високим стресом. ситуацијама. У овом случају, они заправо моћи направити морално супериорне изборе.

Међутим, колико добро можете да програмирате нешто слично, остаје да се види.…

ИТ: Ио Неел, који каже да ћемо дати приоритет сигурности дјеце над одраслима? Зар не постоји нешто дубоко погрешно у додељивању другачије вредности животу малишана у животу старијег грађанина? Ако идемо на пут моралног аута, мислим да је кључ за постизање једнаког напора да се спасу сви животи. Како ће људи реаговати када сазнају да су аутомобилске компаније доносиле вредносне судове о својим живи ? Као што сам раније рекао, морамо да држимо људску субјективност изван програмирања колико год је то могуће. То је оно што увек зајебава ствари.

БГ: У реду је са људима на Титанику који се одрекну својих места женама и деци на чамцима за спасавање јер је то било самопожртвовање. Да је робот одвојио мушкарце да се удави од жена и деце, тај робот би био разбијен са Мјолниром јер је то негативац у филму Осветници.

Осим тога, ниједан осигураватељ или законодавац никада не би био цоол са возилом које би могло направити неку врсту смртоносног обрачуна без људске контроле.

НП: Никада нећете потпуно искоријенити субјективност из аутоматизованог програмирања. Пристраност је својствена аутоматизованим системима дизајнираним да уче из искуства. Уместо да покушамо да ублажимо овај проблем, требало би да се позабавимо њиме и преобразимо ту пристрасност на начин који боље служи људима. То је будућност да ли нам се то свиђа или не.

Гласујем за Ултрон 2016.