ОпенАИ компаније Елон Муск може бити мишић за безбедно истраживање вештачке интелигенције

Током викенда, Елон Муск, Сам Алтман и друге силицијумске долине неочекивано су најавили покретање ОпенАИ-а, непрофитне компаније која описује свој циљ као: “унапредити дигиталну интелигенцију на начин који ће највероватније донети корист човечанству у целини, ограничена потребом да се оствари финансијски повратак."

“Пошто су наша истраживања ослобођена финансијских обавеза, можемо се боље фокусирати на позитиван људски утицај. Ми верујемо А.И. треба да буде проширење појединачних људских воља и, у духу слободе, што је могуће шире и равномјерније распоређено."

Постоје два главна открића из овог саопштења. Први је да Муск и компанија виде А.И. истраживања сада као сувише уско фокусирана на постизање краткорочне практичне вриједности, и желе помоћи да се наставе напори који заузимају шири, свеобухватнији приступ развоју АИ. системима. Други, више прикривени став је да је Муск и даље забринут због потенцијала А.И. да нанесе штету ако развијемо и уведемо полупечене системе. Муск се раније звао А.И. „Наша највећа егзистенцијална претња“ и сугерисали да је регулаторни надзор можда неопходан да би се спречиле потенцијалне опасности. ОпенАИ би могао бити начин да се обезбиједи тај надзор без потребе за федералним надзором.

Шта раде Мошк и његове колеге другачије од онога што су други урадили. Уосталом, опен соурце А.И. није ништа ново. Гоогле је направио свој А.И. софтвер отвореног кода прошлог месеца и то је постало стандардна процедура. Али са 1 милијардом долара, ОпенАИ је већ једна од највећих организација које раде на А.И. истраживања, и врло лако највећа непрофитна организација. Његов циљ је да своје резултате учини јавно доступним и да сви његови патенти буду бесплатни. Имају шаргарепу и штап и намеравају да га користе да би управљали индустријом.

Идеја је да се ОпенАИ користи као нека врста протутеже већим корпорацијама, приватним истраживачким лабораторијама, па чак и светским владама које имају невероватне износе новца и ресурса да се сипају у своје А.И. истраживања која можда нису посвећена пријатељским циљевима и могла би умјесто тога довести до технологија с лошим апликацијама. Истраживачи који раде са ОпенАИ у основи ће се бавити "пријатељским", без притиска да покажу тренутне резултате. Може постојати већа пажња за сигурносне и дизајнерске карактеристике које приватни бизниси могу да игноришу. Неће бити бијеле куле у којој само одабрани пар контролира пут А.И. развој. Свима ће бити добродошао свет.

У интервјуу за Бацкцханнел Муск такође наглашава жељу да направи широк спектар А.И. системима. “Желимо А.И. да буде раширена ”, каже он. "Мислимо да је много добро."

То је важно, јер прелази у можда главни разлог због кога Муск и Алтман желе да демократизују А.И. Они верују да је најбоља врста А.И. - врста која ће на користан начин донијети корист човјечанству без стварања роботских владара - је врста која дјелује као "продужетак индивидуалне људске воље", како каже Муск. Он наставља да каже:

“Као у А.И. продужење себе, тако да је свака особа у суштини симбиотска са АИ, за разлику од АИ која је велика централна интелигенција која је врста другог. Ако размишљате о томе како користите, рецимо, апликације на интернету, имате своју е-пошту и имате друштвене медије и апликације на својим телефонима - оне вас заправо чине надљудским и не мислите на њих као Бити другачији, ви их сматрате продужетком себе. Дакле, до те мере да можемо водити АИ у том правцу, желимо то да урадимо. И нашли смо бројне инжењере и истраживаче истомишљеника на пољу АИ који се осећају слично."

У основи, ОпенАИ визија за А.И. истраживање је децентрализована заједница која помаже да се људска бића повежу са другима и са самим светом.

Муск још није истакао како ће спречити истраживање унутар ОпенАИ-а - или да га преусмеравају спољне групе - у опасном правцу. И ту је још нешто вредно напоменути: системи отвореног кода имају смисла само ако се подаци који се користе за прављење алгоритама за стројно учење слободно деле. Интелигентни систем мора научити како бити интелигентан, и за то треба да учи из података и искуства. То је као изградња бране - потребни су и нацрти (алгоритам) и грађевински материјали (подаци) да би се заправо направило нешто што ће зауставити воду.

Зато су људи још увек ограничени у томе шта могу да ураде са Гоогле-овим ТенсорФлов-ом - они још увек немају податке које Гоогле има. И ако колаборације изграђене од ОпенАИ не омогућују слободан приступ истим подацима са којима раде истраживачи у кући, Муск-ова визија неће нужно бити реализована - или барем не на начин на који он то промовише.

Муск, Алтман и други оснивачи ОпенАИ-а почели су нешто што ће имати огроман утицај на раст А.И. од сада па надаље. У исто време, они ће морати да буду отворени у својој посвећености подстицању истраживачке заједнице отвореног кода, што значи да је јавност о својим плановима за непрофитну компанију и да буде вољна да дели податке. Иначе, ОпенАИ неће бити много другачији од компанија које су дизајниране за стадо.