12 НАЧИНИ НА КОИ АЛГОРИТМИТЕ Нѐ КОНТРОЛИРААТ НАС: Од оценување во училиштата, преку отпуштања од работа до тоа дали можеби сме иден криминалец
Можеби ви звучи нереално, но не сте ни свесни колку алгоритмите одлучуваат во вашите животи!
Сигурно се прашувате зошто десет исти луѓе ви се „вртат“ на Инстаграм или ви пречи тоа што Youtube ве нервира со своите препораки.
Би требало да го обвините алгоритмот за тоа, таа сеприсутна инструкција што му кажува на вашиот компјутер што да прави, а секако ве нервира кога ќе ги помеша објавите што ги читате, гледате, слушате на социјалните мрежи.
Иако се чини дека некои работи се доста далечмо за вашата земја, некои од нив ќе се користат побрзо отколку што мислите, особено ако се покажат добри во пракса!
Алгоритмите можат да бидат важни при донесување на животни одлуки, често се случува некое лице да биде заменето со код, но тоа не значи дека резултатот е сигурен. Алгоритмот може да биде погрешен, исто како и неговиот творец – човекот.
1. Дали можеме да јадеме надвор за време на глобална пандемија
Федералната агенција за управување со вонредни состојби на САД (ФЕМА) создаде алгоритам кој предвидува пандемија што владините службеници можат да ја користат (и ја користат) за да одлучат кои работодавци можат да ги отворат своите продавници и кога!
Според Блумберг, гувернерот на Аризона ја користел алатката за предвидување за да го забрза отворањето во мај. Ова наскоро се проширило на нивните глави, бидејќи голем број луѓе се заразиле со корона вирусот.
2. Како работат факултетите
Алгоритмите за прием можат да прават или да ги кршат академските планови. Според истражувањето на „Вашингтон пост“, 44 училишта користеле софтвер кој на апликантите им дава оценка до 100 за процесот на прием. Оценката зависи од различните аспекти на примената на ученикот – резултати од тестот, домашна адреса, препис, дури и од веб-страницата што студентите ја посетиле!
Сето ова е пресметано со цел да се процени каков вид ученик е за тоа училиште. Овие јавни и приватни факултети (кои работат со надворешни фирми што ги советуваат) се обидуваат да предвидат дали примениот студент воопшто ќе оди на часови. Значи, личните интереси и согледаната компатибилност во рамките на кампусот се вклучени во алгоритмот. Пресметката може да се случи дури и пред кандидатот воопшто да се пријави!
3. Оценување
Минатата недела студентите протестираа во Велика Британија откако одделот за образование првично одлучи да користи алгоритам за проценка на студенти кои не можат да полагаат тестови што ќе ги утврдат нивните шанси за запишување на универзитет за време на затворањето поради пандемијата. Тие нагласија дека компјутерот го пресметува нивниот резултат, наместо човек,а сето тоа се базира на резултатите постигнати во минатото. Учениците од посиромашните училишта имаа поголеми шанси да добијат пониска оценка отколку учениците кои студираат во побогатите институции!
Слична ситуација се случи и на годинешната програма за меѓународна матура. Бидејќи завршниот испит не можеше да се одржи, програмата создаде алгоритам кој предвидуваше како учениците ќе се справат и се засноваше на оценки и задачи добиени минатата година и ги споредуваше со оценките од поранешните ученици од истото училиште, пренесува Wired.
Многумина беа шокирани кога добија пониска оценка отколку што очекуваа, бидејќи им беше потребна за да се запишат на колеџ. Повеќе од 25.000 ученици, наставници, родители и други луѓе потпишаа онлајн петиција со која се бара програмата да го препознае скандалот поврзан со оценките и да го поправи проблемот!
4. Изнајмување станови, соби и апартмани
Алгоритмите не само што одлучуваат колку кирија ќе платите, туку и компјутерите можат да одлучат дали можете да закупите! Софтверот што ја проверува позадината на апликантот, користи алгоритми што создаваат профили на кандидати што ги користат сопствениците за да ја олеснат одлуката!
Но, Њу Јорк Тајмс истражи голем број автоматски извештаи кои имаат неточни информации, честопати од погрешна личност со слично име.
Овие проверки на позадината често се генерираат и испраќаат без дозвола и потврда на информациите на тоа лице.
Против секоја компанија што ги користи овие проекции се собираат тужби откако стотици издавачи беа одбиени поради лажни информации.
Секој што има исто презиме како и одбиените, заради овој алгоритам нема да можат да изнајмуваат!
5. Утврдување на хипотека
Како што известува „Mashable“, да бевте црнец или латиноауц и да плаќате хипотека за вашата куќа, вашата рата ќе беше многу поголема. Алгоритмите што се користат за пресметување на каматната стапка имаат расистичка тенденција, открива студија на Беркли. Овие формули имаат тенденција да ги намалат инцидентите на дискриминација лице в лице, но тие ненамерно ја зголемуваат цената на барателот кој купува за помалку отколку што бараат заем. Овие апликанти се претежно црнци и латинци.
6. Цена на осигурување
Осигурувањето е прашање на проценка на ризик, но наместо лице кое разгледува приговор (случај), тоа го прави софтвер што носи одлука за тоа колку сте ризични. Компаниите заедно собраа голема количина лични информации за вас. Една осигурителна компанија започна да користи уреди за носење и други дигитални уреди за следење, слични на оние уреди за следење во автомобилите за осигурување на трупот. Ако забележите дека јадете нездраво или лошо вежбате, ќе ви се наплати повеќе!
7. Вработување
Софтверот за вработување требаше да го води процесот на вработување. Тоа на крајот може да фаворизира одреден вид апликанти, поради името, полот, етничката припадност и демографската содржина!
Вашата биографија и мотивационо писмо најчесто се скенираат пред да паднат во човечки раце, особено кога поднесувате апликација во национална или глобална компанија, објаснува Светскиот економски форум.
Овој процес служи за отпис на сите оние кои се заинтересирани за работата, па доколку вашето CV нема клучен збор или исполнети барања во однос на тоа дали тој некој има квалификации (образование), веднаш се отпишува!
Дури и по ова, постојат AI алатки како HireVue кои можат да проценат видео интервју и да одлучат дали некое лице е соодветно за работа. Вашиот избор на зборови, тон, израз на лицето, сè е снимено и пресметано врз основа на очекувањата на работодавачот – што не можете да ги знаете.
8. Вашиот распоред на работа
Наместо менаџер, шеф или личност да прави распоред за работно време и одмор, многу компании користат софтверски услуги. Поголемите компании за работна сила како „Таргет“ и „Старбакс“ се вклучени во достапноста на системот за создавање распоред, според истрагата на „Матичната плоча“.
Услугите креирани, како што е онаа од Кронос, може да доведе до „несигурност во распоредот“ или нестабилно и неконзистентно работно време. Ова најмногу ги погодува жените кои не се бели, открива студија на Беркли.
9. Дали ќе даде отказ на работа
Излезните интервјуа доаѓаат предоцна за компаниите кои сакаат да ги задржат своите вработени.
Наместо тоа, новиот алгоритам им дава на компаниите известување за вработените кои не се задоволни и кои ќе ја напуштат работата, пред да го известат нивниот шеф.
Две студии најдоа начин да пресметаат дали некој „ќе скокне од бродот“. Алгоритмот содржеше неколку клучни фактори, како што се големи организациски промени и дали некој е поврзан со чувствата за работата.
Истражувачите дошле до заклучок дека главните причини за некој да ја напушти работата се сообраќајните шокови и деловната интеграција.
Шокот може да биде промена во компанијата или во приватниот живот, додека вградувањето е поврзано со заедницата на работа, но исто така и со лични интереси и вештини и дали тие се поврзани со секојдневна работа и занимање!
10. Колку работа може да „заработи“ работник
Возачите на Uber во Европа ја тужат таа компанија со цел да добијат пристап до тајните пресметки на компанијата што им дава работни места. Возачите тврдат дека е нивно право да разберат како апликацијата одлучува кој возач добива одреден дел од работата и кои профили и минати информации ги користи Uber. Uber ги држи своите возачи во тотален мрак и тие не знаат како функционира индивидуалното возење.
11. Одлучување дали сте изложени на ризик да извршите кривично дело
Скриените пресметки можат да утврдат дали сте подложни на извршување на кривично дело пред тоа да се случи!
Њу Јорк Тајмс известува за ризикот од град во Велика Британија што им го доделува на тинејџерите и „ризичната“ младина.
Резултатот се заснова на извештаи од полицијата и владата, а исто така се испитува дали младите се дел од социјална програма. Таа исто така има увид во присуството на училиштето, без разлика дали случајот е поврзан со други деца со „висок ризик“, како и со други податоци поврзани со семејството, родителите и нивниот дом. Слична пресметка се користи во американски затвор во Филаделфија. Таму, алгоритмот одлучува кои услови ќе бидат воспоставени за време на ослободувањето на затворениците.
12. Со кого се „борите“ на апликациите за запознавање
Апликациите за состаноци користат претходни податоци за тоа кој кого сакал, за да предвидат што ќе работи. Алгоритмот одлучува кога да избере во зависност од тоа како завршиле минатите натпревари (спојувања). Вашите избори се веќе филтрирани пред да одлучите да одите лево или десно (избор дали сакате некој). Истражувачите го нарекоа овој систем „надминување на автономијата на донесување одлуки за корисниците“.
Дали сè уште верувате во алгоритми или ќе ги набљудувате резултатите со доза на резерва?