Како би нови центар УЦ Беркелеи могао спријечити А.И. Апоцалипсе

Калифорнијски универзитет Беркелеи је управо додао своје име све већој листи угледних институција које раде на томе да спрече злонамерну вештачку интелигенцију да уништи човечанство. Његов нови Центар за вештачку интелигенцију, компатибилан са људима, објављен у понедељак, требало би да обезбеди да А.И. остаје корисно, а такође и да се спречи А.И. апоцалипсе.

Берклијев властити А.И. Стручњак Стуарт Расел, стручњак, предводи овај подухват. Пројекат „Отворена филантропија“ обезбедио је Центру 5,5 милиона долара бесповратне помоћи, а други су такође добијали одобрење. Неколико других експерата са Беркелеи, Цорнелл Университи и Универзитета у Мичигену служиће као главни истраживачи.

Корнел професор Барт Селман је рекао за Инверсе о Центру, А.И.с да смо ми требало би и засто свет вероватно није кренуо у пакао у руцној корпи - јос.

Шта се надате да ћете постићи са Центром за компатибилну људску врсту А.И.?

Ови центри су релативно нов развој. Људи инвестирају - Институт за будућност живота, на пример, има инвестицију од Елона Муска из Тесле - да се бави питањима која се тичу будућности живота и могућих претњи будућности живота и друштва. Нови центар на Берклију је још један примјер таквог института.

То је инспирисано променљивом улогом вештачке интелигенције и рачунарства у нашем друштву. Те технологије се крећу у наше друштво и утичу на нас. Ови институти су ту како би истраживаче спојили како би проучили могуће негативне утицаје, или како осигурати да не постоје негативни утицаји.

Сам наслов Центра сугерише да је А.И. а човечанство је инхерентно неспојиво. Да ли је то ваше мишљење?

То је прва реакција коју људи имају, да те ствари могу бити неспојиве. Ми заправо верујемо да, уз одговарајуће мере предострожности, и правилне смернице и истраживања, можемо заиста ускладити интересе и осигурати да те технологије буду корисне. А.И. технологија има огромне позитивне стране, а циљ друштва је да осигура да останемо на позитивним странама. Истраживачи укључени у институт вјерују да је то изводљиво.

Ако бисте могли да усвојите перспективу судбине судбине, како би изгледао највјероватнији сценариј судњег дана изазваног А.И.?

Јасан ризик био би војни развој вештачке интелигенције, који би могао довести до утрке оружја између земаља: Аутономно оружје, аутономне беспилотне летелице које прате своје команде, које су развиле различите земље које су непријатељске. То је најконкретнији ризик који видим. Мислим да сам А.И. развијени за аутомобиле који се сами возе, на пример - за редовне улоге у друштву - биће веома корисно. Али војни аспект је забрињавајућа компонента.

Да ли је то већ тешка битка?

Земље заправо разматрају ово питање. У одређеном смислу, то је тешка битка: војска се труди да развије А.И. технологије. Али, било је споразума - на пример, биолошко оружје је вероватно најпознатији случај - где су земље у неком тренутку одлучиле да ће то донети корист свим земљама. не развити биолошко оружје у великом обиму. Надамо се да ће земље схватити да је лоша страна, за свакога, превелика да би ушла у свеобухватну А.И. трка у наоружавању.

Ако обе стране развијају ову технологију, нико није пред нама.

Постоји ли још нешто што би требало да знам о Центру, или о злобном А.И. у глобалу?

Важно је дати позитивну страну. Лако је нагласити ризике - и, наравно, то је дијелом и разлог зашто су ови центри успостављени - али исто тако је важно нагласити да многи истраживачи сматрају да је овај ризик подложан управљању и да ће успони бити огромни.

Већ сте дали перспективу судњег дана. Које су потенцијалне позитивне користи од А.И. о чему сте заиста узбуђени?

Позитивне стране ће бити друштво у којем нам ова технологија помаже. Превод симултаног говора - између кинеског и енглеског, на пример - где људи могу само да разговарају, као да говоре матерњи језик, једни са другима широм света. Брига о старијим особама: Људи могу да остану колико год желе у свом дому, јер имају помоћног робота који им помаже да живе самостално.

То ће вероватно имати прилично драматичан утицај на живот уопште - што се тиче запошљавања, и онога што ми приоритете.

Да. Постоји дебата о запошљавању, која је својеврсна посебна расправа. Биће довољно ресурса да се подрже сви, тако да постоји питање како да осигурамо да сви имају користи од овог развоја. Биће ре-реализација онога што значи радити, какав посао ће људи радити. Али у принципу, људи ће имати више слободе, и више времена за обављање активности које уживају, јер ће машине помоћи са многим другим земаљским, рад -Тип ствари. Требат ће неко вријеме, али вјерујемо да ће се друштво прилагодити и полако уградити те промјене.

Овај интервју је уређен ради јасноће и сажетости.