Зашто још увек верујемо Амазону? Како велики технички дивови не штите друштво

Амазон је можда очекивао велику пажњу јавности када је објавио гдје ће успоставити своје ново сједиште - али, као и многе друге технолошке компаније у посљедње вријеме, вјероватно није очекивао колико би одговор био негативан. У одабраним територијама Амазона у Њујорку и Вирџинији, локални политичари су се опирали подстицајима које су финансирали порески обвезници. Новинари из цијелог политичког спектра почели су се бавити послом - и друштвени медији попунили су гласове Њујорчана и Виргинијанаца који су обећавали отпор.

Слично томе, открића да је Фацебоок искористио антисемитске теорије завере да би поткопао легитимитет својих критичара указују на то да би умјесто да се мијења, Фацебоок радије ишао у офанзиву. Чак и када су Амазон и Аппле видјели своје вриједности на тржишту дионица накратко изнад $ 1 трилијуна, технолошки руководитељи су одвучени пред Конгрес, покушавали су кохерентно заузети став о говору мржње, ухваћени прикривајући сексуални прекршај, и видјели своје запосленике који протестирају због пословних договора.

У неким круговима ово се доживљава као губитак повјерења јавности у технолошке фирме које су обећале да ће преобликовати свијет - друштвено, еколошки и политички - или барем као фрустрацију начином на који су те компаније промијениле свијет. Али технолошке компаније треба да ураде много више него да поврате поверење јавности; они морају да докажу да су то заслужили на првом месту - што, када су стављени у контекст историје критике технологије и скептицизма, нису.

Гледајући даље од проблема

Велике технолошке компаније користиле су своје пројекте у нејасно утопијском, позитивно звучном жаргону који замрачује политику и јавну политику, превазилазећи партизанство и - прикладно - избјегавајући надзор. Гоогле је своје раднике подсјећао: "Немојте бити зли." Фацебоок је радио на томе да "учини свијет отворенијим и повезаним". Тко би могао приговорити тим идеалима?

Учењаци су упозоравали на опасности од оваквих платформи, много пре него што су се чак и њихови оснивачи родили. Године 1970. друштвени критичар и историчар технологије Левис Мумфорд предвидио је да ће циљ онога што је назвао “компјутеризам” бити “опремање и обрада бескрајне количине података, како би се проширила улога и осигурала доминација електроенергетског система. Исте године, основни есеј феминистичког мислиоца Јо Фреемана упозорио је на инхерентну неравнотежу моћи која је остала у системима који су чинили да сви буду једнаки.

Слично томе, компјутерски научник Јосепх Веизенбаум је 1976. године предвидио да ће се у наредним деценијама људи наћи у стању невоље када се све више ослањају на непрозирне техничке системе. Од тада се појављују безброј сличних упозорења, укључујући и важну недавну стипендију као што је истраживање научника Сафиие Нобле о томе како Гоогле тражи реплицирање расних и родних предрасуда и изјаву истраживача медија Сиве Ваидхиантхана да је "проблем са Фацебооком Фацебоок."

Технолошке компаније су моћне и богате, али њихови дани избјегавања контроле можда се завршавају. Чини се да америчка јавност почиње да сумња да су технолошки дивови неприпремљени, а можда и невољни, да преузму одговорност за алате које су покренули на свету.

Након председничких избора у САД-у 2016. године, забринутост остаје велика да руске и друге стране владе користе било коју доступну платформу друштвених медија да сије раздор и незадовољство у друштвима широм свијета.

Фацебоок још увијек није ријешио проблеме у погледу приватности и транспарентности података који су изазвали скандал у Цамбридге Аналитици. Твиттер је омиљени мегафон за председника Доналда Трумпа и дом за узнемирујуће количине насилног говора мржње. Будућност Амазонових корпоративних канцеларија се обликује да буде вишеструка свађа између изабраних званичника и људи које они наводно представљају.

Да ли је то незнање или наивност?

Имајући у виду садашњу ситуацију са историјом критика технологије, тешко је не закључити да технолошке компаније заслужују кризу са којом се суочавају. Ове компаније траже од људи да им повјере своју е-пошту, особне податке, историју онлине претраживања и финанцијске информације, до те мјере да многе од ових компанија поносно рекламирају да познају појединце боље од себе. Они промовишу своје најновије системе, укључујући „паметне звучнике“ и „паметне камере“, настојећи да осигурају да се сваки тренутак буђења корисника - и тренуци спавања - могу пратити, дајући више података у њихове алгоритме за стварање новца.

Ипак, наизглед неизбежно, ове компаније настављају да демонстрирају колико су безвредне у поверењу, пропуштају податке, размењују личне информације и не спречавају хаковање, јер полако испуњавају свет узнемирујућом техно-параноијом која је достојна епизоде ​​„Блацк Миррор“. ”

Одговори технолошких фирми на свако ново откриће одговарају стандардном обрасцу: након што се појави скандал, компанија у питању изражава аларм да је све пошло по злу, обећава да ће истражити и обећати да ће у будућности бити боље. Неко време - дани, недеље, или чак месеци - касније, компанија открива да је скандал био директан резултат начина на који је систем дизајниран, и да истиче одвратну извршну власт да изрази огорчење на деструктивне употребе лоших људи пронађених за њихов систем, без признавања да је проблем сам систем.

Сам Зуцкерберг је рекао америчком Сенату у априлу 2018. године да га је скандал са Кембриџ Аналитиком научио "да имамо одговорност да не само да људима дамо алате, већ да осигурамо да се ти алати користе за добро." док стварате компанију са више милијарди долара.

Обнова од онога што је остало

Коришћење било које технологије - од ножа до компјутера - носи ризике, али како се технолошки системи повећавају у величини и сложености, обим ових ризика се такође повећава. Технологија је корисна само ако је људи могу користити на сигуран начин, на начин на који користи превазилазе опасности, и ако могу бити сигурни да разумију и прихватају потенцијалне ризике. Пре неколико година, Фацебоок, Твиттер и Гоогле су се већини људи чинили бенигним методама комуникације које су доносиле више друштву него што су им одузеле. Али са сваким новим скандалом и неуспјелим одговорима, све више људи види да те компаније представљају озбиљну опасност за друштво.

Колико год то могло бити примамљиво указати на дугме "искључено", не постоји лако решење. Технолошки дивови су постали дио свакодневног живота за стотине милијуна људи. Сугерисање да људи једноставно одустају је једноставно, али не препознаје колико су многи људи постали на овим платформама - и колико су заробљени у све неподношљивијој ситуацији.

Као резултат тога, људи купују књиге о томе колико је Амазон лош - наручујући их на Амазону. Они врше Гоогле претраге чланака о томе колико информација Гоогле зна о сваком појединачном кориснику. Твита о томе колико мрзе Твиттер и објављују чланке на Фацебооку о најновијем Фацебоок скандалу.

Технолошке компаније могу се наћи у позицији да све више погоршавају корисничку базу, јер њихове платформе проширују незадовољство даље и шире него што је то било могуће у прошлости. Или би се могли драматично промијенити, разбити се, претворити неке контроле у ​​демократске одлуке својих корисника и преузети одговорност за штету коју су њихове платформе и производи направили свијету. До сада, међутим, чини се да индустрија није отишла даље од тога да понуди пола исцрпљене исприке, а да настави са својим послом као и обично. Надам се да ће се то променити. Али ако је прошлост било који водич, то вероватно неће.

Овај чланак је првобитно објављен на Тхе Цонверсатион би Зацхари Лоеб. Прочитајте оригинални чланак овде.