Туфтс Роботицист позива на стројну моралност: Роботи морају "непослушно да се покоравају"

Роботи постају све више централни у нашем свакодневном животу, и ускоро ће морати почети да се суочавају са неким од тешких моралних избора које морамо редовно доносити. Маттхиас Сцхеутз, професор информатике у лабораторији за интеракцију између људи и роботика Универзитета Туфтс, посебно је забринут што нисмо опремили чак ни најнапредније роботе прототипа способностима да се носе са неким од ових ситуација. Сцхеутз верује да ће роботи морати да науче да не послушају људе ако желимо да заиста служе нашим потребама.

У коментару Тодаи Онлине, провокативно назван “Роботи морају бити у стању да се покоравају послушности”, Сцхеутз тражи од читаоца да одреди шта би робот требало да уради ако се суочи са низом ситуација које се могу чак и збунити. Неки од њих:

Робот за старије особе задужен од забораваног власника да опере "прљаву одећу", иако је одећа управо изашла из машине за прање.

Ученик који командира свом учитељу робота да уради све домаће задаће, уместо да то ради сама.

Кућни робот је од свог запосленог и одвратног власника добио инструкције да покрене одлагање смећа, иако су се у њему заглавиле кашике и ножеви.

Оно што Сцхеутз жели описати у чланку је једноставна чињеница да ће нам требати роботи који знају како рећи „не“ људима. Многи његови примери имају везе са поузданошћу особе која управља роботом, али је теже него што звучи да програмира робота који зна да узима инструкције од било кога ко није превише млад или престар или очигледно покушава да изазове невоље..

Нека од ових питања већ се жестоко расправљају у сједишту најмоћнијих свјетских технолошких компанија, јер траже нове начине на које технологија може преузети дијелове наших живота. Сцхеутз поставља примјер аутономног аутомобила који је усмјерен на подупирање, али примјећује пса који лежи на његовом путу. Већина нас се слаже да би чак и човек који вози ауто желео да се аутомобил заустави, али шта ако је животиња била веверица или ракун? Шта ако би аутомобил возио 45 км / х низ сеоски пут и изненада кочење за пса ризиковало је излагање аутомобила колизији са другим возилом иза њега?

"У оба случаја, од суштинског је значаја да обје аутономне машине открију потенцијалну штету коју би њихова дјела могла проузроковати и да на њу реагирају било покушајем да се то избјегне, или ако се штета не може избјећи, одбијањем да се проведе људско упутство" Сцхеутз пише о сличној дилеми.

Сцхеутзов тим ради на овим питањима са својим прототиповима и открио је да је најтежи део ових питања диференцирање малог степена штете која би се могла десити када робот следи одређени ред. Тако су својим роботима додијелили врло једноставну, али снажну моралну лекцију која би посрамила и велике филозофе.

"Ако вам је наложено да извршите неку радњу и могуће је да извршење радње може проузроковати штету, онда вам је дозвољено да то не учините."

На суптилан начин, то је револуционарна прогноза из Сцхеутза. Наравно, сви ми покушавамо да избегнемо штету, али зар није могуће да понекад мислимо да је у реду ризиковати? Јаивалкинг на улици, једући другу посластицу од десерта, или чак копирање биљешки пријатеља из разреда, могло би кршити Сцхеутзов аксиом.

Појам роботске интерференције такође указује на то да Сцхеутз жели да његови роботи слиједе закон. Не очекујте да вам Сцхеутзиан асистент робота помогне да нелегално преузмете нову музику. То би нашкодило акционарима ЕМИ!

То је компликовано подручје моралне, правне и техничке мисли, а Сцхеутз се не стиди да га нападне.