Аппле иПхоне Кс не може да разуме друге кинеске личности, поврат новца

Прошле недеље, у Нањингу, главном граду на истоку Кине, жена по имену Иан је двапут понудио поврат од Аппле-а за њен неисправан иПхонеКс, који је њен колега откључао користећи технологију препознавања лица. Обје жене су етнички Кинези.

Иан је за локалне вијести изјавио да је први пут када се то догодило назвала иПхоне телефон, али јој нису вјеровали. Све док она и њен колега нису отишли ​​у локалну Аппле продавницу и показали запосленима у продавници да су јој понудили поврат новца, купила је нови телефон, мислећи да је можда крива камера.

Али други телефон је имао исти проблем, сугеришући да то није неисправна камера, као што су радници предложили, већ проблем са самим софтвером.

Ово не би био први случај у коме би софтвер за препознавање лица и АИ иза њега имали проблема са препознавањем не-белих лица.

У 2015. години, Гоогле фотографије су случајно означиле фотографију два афроамериканца као гориле, док су 2009. године ХП рачунари хттп://ввв.иоутубе.цом/ватцх?в=т4ДТ3тКкгРМ) имали проблема са препознавањем и праћењем црних лица - али нема проблема са белим лицима. Исте године, Никонов софтвер за камере је ухваћен погрешно означавајући азијско лице као трепћуће.

Гоогле фотографије, сјебали сте се. Мој пријатељ није горила. пиц.твиттер.цом/СМкМЦсНВКС4

- Јацки (@јацкиалцине) Јун 29, 2015

"То је у основи проблем са подацима", написала је Кате Цравфорд, главна истраживачица у Мицрософту и копредсједавајући Симпозијума о друштву у Белој кући Обаме и А.И. „Алгоритми се уче тако што се храни одређене слике, често изабране од стране инжењера, а систем гради модел света заснован на тим сликама. Ако се систем обучава на фотографијама људи који су у великој мери бели, биће му теже препознати лица без беле боје."

Јацки Алцине, програмер са сједиштем у Брооклину, чију је фотографију Гоогле погрешно означио, сложио се. Из његовог искуства је рекао: "То се могло избећи прецизним и потпунијим класификовањем црних људи."

Али расизам који је кодиран у АИ, чак и ако је ненамеран, има импликације изван само препознавања лица.

ПроПублица истрага у 2016. открила је да су црни криминалци два пута вјероватнији погрешно означени као да ће поново починити злочине од белих криминалаца, док растући тренд „предиктивног рада полиције“ користи алгоритме за предвиђање криминала и на одговарајући начин усмерава полицијска средства.

Ипак, мањинске заједнице су биле историјски претерано контролисане, што је довело до могућности да “овај софтвер рискира перпетуирање већ зачараног круга”, каже Цравфорд.

Још у Нањингу, Кина, Иан је добио други повраћај новца за свој други иПхонеКс. Из локалних новинских извештаја није јасно да ли је она онда купила трећу.

Оно што је сада на коцки, можда је само један потрошач. Али Иан-ов случај био је примјер континуиране потребе да се технолошка индустрија дизајнира с обзиром на разноликост и инклузивност.