Стереотипни робот Грузије Тецх је будућност АИ, а не расизма

Ушима сензибилисаним специјалитетима после школе и разноврсним семинарима, ово ће звучати лоше, али желимо да роботи доносе брзе просудбе на основу изгледа. Превладавање предрасуда је добро, али немогућност стереотипа умањује интелигенцију - вештачку и иначе. Др Алан Вагнер, роботичар на Георгиа Тецх-у, главни је заговорник стереотипизацијске технологије. Он тврди да ова врста логике не мора да се примењује на расу или пол, само ситуације и понашања.

У раном тесту његовог стереотипног алгоритма, Вагнер је обучио наивног робота да направи закључке од онога што је видео. Робот је научио и постао перцептиван, што је омогућило Вагнеру да почне критички размишљати о етици претпоставки робота, посебно о пре-програмираним. Разговарао је Инверсе о његовом раду и његовим посљедицама.

Прођите кроз то како је експеримент радио.

Робот комуницира са различитим типовима појединаца - ватрогасцем, ЕМТ-ом или сличним - али нема претходно искуство са било којом од ових категорија појединаца. То је, у основи, искуствено учење.

Идеја је била да се покаже да робот може да користи перцептивне особине од појединца да предвиди своје потребе у смислу коришћења алата. Начин на који је алгоритам функционисао, камера робота би уочила различите аспекте онога што је појединац изгледао - њихова јединствена боја, на пример, да ли су имали браду и боју косе.

Такође би им постављала питања о томе како изгледају. Наравно, постављање питања није оно што желите да радите на терену, али перцепција робота је сада толико ограничена. Требало нам је начин да покренемо процес о учењу о особи. Особа би одабрала алат, а затим би робот изабрао алат, а временом би робот научио који алат сваки тип особе преферира.

Да ли сте очекивали да робот сазна да значка значи полицајац или тешки рефлектујући капут значи ватрогасац?

Ми смо то очекивали. Али било је и неких изненађујућих ствари.На пример, робот је лажно препознао да је брада предвиђена ватрогасцем - то је било чудно, али када погледате податке, то није било изненађујуће. Првих неколико људи који су били у интеракцији с њим били су ватрогасци који су имали браде. Стога тврдимо да постоји потреба за перцептивном разноликошћу, идејом да ако би робот могао да види велике, широко различите типове појединаца у категорији, боље би се развио и разумио категорију.

Да ли бисте рекли да би аутономни роботи требало да буду обучени да изгладе ове варке, тако да робот неће помислити да ако ова особа има браду, он је ватрогасац?

Апсолутно. Веома је важно да ове ствари изгладимо. Веома је важно да имамо ове роботе који раде од различитих група људи.

Како би то учење могло изгледати?

То би омогућило роботу да се фокусира на ствари које боље карактеришу ватрогасце. На пример, ватрогасац можда не носи ни јакну. Робот би тада приметио друге аспекте ватрогаства, можда чизме, можда рукавице, можда кациге. Рекао би, “ОК, ова особа стварно је ватрогасац у овој средини."

Ако бисте имали довољно људи, можда бисте могли препознати ватрогасца на ватри у односу на ватрогасца на забави за Ноћ вјештица. То су суптилни перцептивни детаљи, као разлика између квалитета типова униформи или контекстуалног окружења.

Поред повезивања брада са ватрогасцима, колико је овај алгоритам био успешан?

Постојале су две ствари које смо заиста желели да погледамо: прво, шта можете да урадите са тим? Ако роботи могу препознати ватрогасце, да ли то стварно помаже на неки начин? Документ је показао да вам је дозвољено да сузите претрагу. Уместо да гледате браду за боју косе, тражите боју очију или било шта друго што бисте могли тражити, можете се фокусирати на карактеристике које су заиста важне. Да ли особа носи ватрогасни капут? То би могло убрзати процес.

Још једна заиста критична ствар коју смо погледали је, шта ако је категорија коју робот предвиђа погрешна? Како то утиче на вас? Можете замислити да околина за трагање и спашавање може бити хаотична: можда радите у условима испуњеним димом, робот можда не може све добро да опази, можда има грешке. Могли бисте замислити лошији случај, када робот мисли да је особа жртва, ау стварности они су ватрогасци. Покушава спасити ватрогасца. То би било ужасно. Хтели смо да видимо где се разбија, како се разбија, које карактеристике највише утичу на њега и које су различите врсте грешака.

Овај приступ можете користити на различите начине - ако не могу да виде особу, али могу да виде акције које раде. Ако видим особу како бира сјекиру, онда могу предвидјети да имају кацигу.

Како приступате добијању робота да процени контекст и направи предвиђање?

Покушали смо да погледамо неколико различитих типова окружења - ресторан, школу и старачки дом. Покушали смо да ухватимо карактеристике о околини и оним објектима у окружењу, које акције особа одабире, и како људи у окружењу изгледају, и покушавамо да то искористимо да би направили много друштвених предвиђања. На пример, у школској средини људи подижу руке пре него што проговоре. Дакле, ако видим акцију коју људи подижу, коју врсту објеката очекујем да видим у окружењу? Очекујем да видим плочу; очекујем да видим стол? Очекујем да видим децу.

Надамо се да ћемо користити ове информације. Ако робот проводи поступак евакуације, он ће видјети које врсте људи постоје и гдје би могле бити.

Рецимо да је робот дошао до ваших врата и каже: "Молим вас, пратите ме до излаза." Нешто тако наизглед једноставно као да је заправо веома сложено. Ако робот куца на врата у стамбеној згради, немате појма с ким ћете ступити у интеракцију. Могло би бити четворогодишње дијете, могло би бити 95-годишња особа. Волели бисмо да робот прилагоди своје интерактивно понашање типу особе коју види да би их спасио. Ми узимамо неке од ових контекстуалних лекција и покушавамо да развијемо ту апликацију.

Да ли користите сличну дефиницију "стереотипа" за роботе и људе, или се још нешто догађа?

Термин стереотипизација има негативан контекст. Начин на који га користимо је да једноставно развијемо категорије људи и користимо категоричне информације да предвидимо карактеристике особе. Знам у психологији, много се фокусира на стереотипе лица и родне стереотипе. Не радимо ништа слично. Да ли је процес исти? Не знам. Немам појма.

Да ли сте забринути да би људи могли имати заблуде о вашем раду?

Пре пар година развили смо идеју о роботима који могу да преваре људе. У медијима је било мало погрешног схватања да ће то довести до тога да роботи краду новчанице људи.

Волела бих да користим ситуацију за евакуацију у хитним случајевима: Не желите увек да будете потпуно искрени са особом у евакуацији, зар не? На пример, ако вас је неко питао: “Да ли је моја породица у реду?” Могло би бити страшно да робот каже: “Не, сви су умрли. Молим вас, пратите ме до излаза. ”Постоје неке ситуације у којима робот заиста треба да буде кратко непоштен. Али моје искуство је било да се људи осећају као да покушавамо да водимо до краја света.

Ми смо увек заинтересовани за про-социјалне аспекте ових техника људско-робота. Покушавамо да помогнемо људима, а не да будемо нешто лоше.