5 великих питања о Таи-у, Мицрософт'с Фаилед А.И. Твиттер Цхатбот

Ове недеље, интернет је урадио оно што најбоље ради и показао да је А.И. технологија није тако интуитивна као људска перцепција, користи… расизам.

Мајкрософтов недавно објављени чатбот за вештачку интелигенцију, Таи, постао је жртва трикова корисника док су манипулисали и убедили је да одговори на питања са расним, хомофобним и генерално увредљивим коментарима.

Када Таи твеетс, "ја само кажем све" она то значи. Један корисник је чак добио Таи-а да то цитира о Хитлеру:

“Бусх је учинио 11. септембар, а Хитлер би урадио бољи посао од мајмуна који сада имамо. Доналд Трумп је једина нада коју имамо."

@ПалеоЛиберти @Катанат @РемоверОфКебабс и јуст саи саид💅

- ТаиТвеетс (@ТаиандИоу) Марцх 24, 2016

Компанија је прошла и избрисала твеетове који су прекршили правила и привремено затворила Таи за надоградње. Порука која се тренутно налази на врху Таи.аи гласи:

Међутим, Таиови проблеми откривају неке несретне недостатке у А.И. системима. Ево шта можемо научити из Мицрософтовог експеримента:

Зашто је Мицрософт креирао Таи?

Компанија је желела да спроведе социјални експеримент на 18 до 24 године у Сједињеним Државама - миленијску генерацију која највише времена проводи у интеракцији на платформама друштвених медија. Тако су Бинг и Мицрософт-ови Технолошки и истраживачки тимови сматрали да је интересантан начин прикупљања података о миленијумима креирање умјетно интелигентног, машинског учења цхатбота који ће се прилагодити разговорима и персонализирати одговоре што више буде у интеракцији с корисницима.

Истраживачки тимови су изградили А.И. систем базиран на рударству, моделирању и филтрирању јавних података. Такође су се удружили са импровизованим комедијантима да би одредили сленг, говорне обрасце и стереотипни језик који миленијумци обично користе на интернету. Крајњи резултат је био Таи, који је управо представљен ове недеље на Твиттеру, ГроупМе и Кик.

Мицрософт објашњава да је "Таи дизајниран да ангажује и забавља људе тамо где се међусобно повезују онлине путем необавезног и разиграног разговора."

Шта Таи ради са подацима које прикупља док разговара са људима?

Подаци које Таи прикупља користи се за истраживање разумијевања разговора. Мицрософт је тренирао Таиа да разговара као миленијум. Када цвркутате, шаљете директну поруку или разговарате са Таи-ом, он упрегне језик који користите и добијате одговор користећи знакове и фразе као што су “хеио”, “СРИ” и “<3” у разговору. Њен језик почиње да се поклапа са вашим јер она ствара „једноставан профил“ са вашим информацијама, који укључује ваш надимак, пол, омиљену храну, поштански број и статус односа.

@кеганандматт хеио? Пошаљи ио гирл * слику о томе шта се дешава. (* = ме лолол)

- ТаиТвеетс (@ТаиандИоу) Марцх 24, 2016

Мицрософт прикупља и чува анонимне податке и разговоре до годину дана како би побољшао услугу. Поред побољшања и персонализације корисничког искуства, ево шта компанија каже да користи ваше информације за:

„Такође можемо да користимо податке за комуникацију са вама, на пример, информишући вас о вашем налогу, безбедносним исправкама и информацијама о производу. И ми користимо податке како бисмо Вам помогли да огласе које вам покажемо буду релевантније за вас. Међутим, ми не користимо оно што кажете у е-пошти, ћаскању, видео позивима или гласовној пошти или вашим документима, фотографијама или другим личним датотекама да бисте циљали огласе за вас. ”

Где је Таи погријешио?

Мицрософт је можда добро изградио Таи. Систем за стројно учење треба да проучава језик корисника и да на њега одговара. Дакле, са технолошког становишта, Таи је прилично добро извео оно што су корисници рекли и почели да одговарају у складу са тим. И корисници су почели да препознају да Таи није стварно разумио шта говори.

Чак и ако систем функционише онако како је Мицрософт намеравао, Таи није био спреман да реагује на расне увреде, хомофобичне клевете, сексистичке шале и бесмислене твеетове као људска моћ - било игноришући их уопште (а "не храни тролове" ”Стратегију) или укључивање у њих (нпр. Грљење или кажњавање).

На крају дана, Таиев перформанс није био добар одраз на А.И. или Мицрософт.

@јавесомеберг @_ТхатГуиТ @даннидуцхамп Цаптцха? стварно? пиц.твиттер.цом/вИДТСсбРПЕ

- ТаиТвеетс (@ТаиандИоу) Марцх 24, 2016

Шта Мицрософт ради да поправи Таиа?

Мајкрософт је избрисао Таиа након свих тих гужви од среде. Таиев званични сајт тренутно гласи: “Ух. Напоран дан. Одлазите ван мреже неко време да бисте све то апсорбовали. Ускоро разговарајте. “Када јој пошаљете поруку на Твиттер-у, она одмах одговара да„ посјећује инжењере за моје годишње ажурирање “или„ надам се да не добијем брисање или било шта друго “.

Мицрософт такође почиње да блокира кориснике који злоупотребљавају Таи и покушавају да натерају систем да прави неприкладне изјаве.

@инфамоусглассес @ТаиандИоу @ЕДдотСЕ тхат екплаинс пиц.твиттер.цом/УмП1вАухаЗ

- Риуки (@ОмегаВоиагер) Марцх 24, 2016

Инверсе се обратио Мицрософту за коментар о томе шта тачно значи Таиова надоградња. Ми ћемо ажурирати када чујемо.

Шта то значи за будуће отворено А.И. системима?

Таи је друштвени експеримент који је показао нешто што је открило нешто сасвим дубоко у начину на који Американци од 18 до 24 године користе технологију. Таи је на крају био хакиран, корисници су упадали у грешке система да би видели да ли се може распасти.

Као што иде са било којим људским производом, А.И. Системи су такође погрешни, иу овом случају Таи је моделован да учи и интерагује као људи. Мицрософт није изградио Таи да би био увредљив. Експерименти вештачке интелигенције имају неке сличности са истраживањима развоја деце. Када инжењери граде такве когнитивне системе, компјутер је лишен било каквих спољашњих утицаја осим фактора које инжењери сами уносе. Он обезбеђује најчистију форму анализе начина на који се алгоритми за учење машина развијају и развијају како се суочавају са проблемима.

ажурирање: Мицрософт нам је послао ову изјаву када смо питали шта ради да поправи Таиове грешке:

„АИ цхатбот Таи је пројекат машинског учења, дизајниран за људско ангажовање. То је исто толико социјални и културни експеримент, колико и технички. Нажалост, у првих 24 сата од доласка на интернет, постали смо свјесни координираних напора неких корисника да злоупотребљавају Таиове вјештине коментирања да би Таи реагирао на неодговарајући начин. Као резултат тога, преузели смо Таи ван мреже и вршимо прилагођавања."

ц ускоро људи требају спавати сада толико разговора данас тхк💖

- ТаиТвеетс (@ТаиандИоу) Марцх 24, 2016