Mistä algoritmien valtaan keskittyvässä tutkimuksessa on kyse?

Miksi algoritmit ovat tärkeitä?

Algoritmi on tietokoneohjelma, joka kykenee tekemään itsenäisiä päätöksiä. Tällä hetkellä päätökset koskevat esimerkiksi informaation leviämistä sosiaalisessa mediassa, hakukoneiden tulosten järjestelyä sekä mainosten kohdentamista verkossa. Algoritmien päätöksillä on tärkeä rooli kansalaisten ja kuluttajien arjessa, sillä käytännössä informaatioalgoritmit määrittävät mitä sisältöä meille näytetään milläkin hetkellä. Esimerkiksi Facebook voisi näyttää käyttäjälle jopa 1500 viestiä päivää kohti, mutta koska tämä on liikaa useimmille käyttäjille, se näyttää niistä noin 300 viestiä päivässä (Facebook, 2013). Samoin Google valitsee jokaista hakukyselyä kohti ensimmäiselle hakusivulle 10 tulosta miljoonien samankaltaisten sivujen joukosta (Google, 2016). Koneilla on siis valta valita, minkälaista informaatiota kullekin yksilölle näytetään, ja tätä kautta vaikuttaa mm. kansalaisten maailmankuvaan ja yleiseen mielipiteeseen.

Neutraalit algoritmit

Jos algoritmi on neutraali, eli toimii 1) läpinäkyvästi ja 2) yleisesti hyväksyttyjen toimintaperiaatteiden mukaisesti, sen valta-asemassa ei välttämättä ole mitään ongelmaa, sillä parhaimmillaan koneelliset päätökset ovat vapaita ihmisten asenteellisuudesta ja kognitiivisista rajoitteista. Jos algoritmi kuitenkin on puolueellinen, esimerkiksi maksimoimalla sen omistajan mainostuloja käyttäjien hyödyn sijaan, piilottamalla poliittisesti arkoja aiheita taikka järjestelmällisesti syrjimällä tiettyjä käyttäjiä, voidaan algoritmien suuri valta nähdä yhteiskunnallisena riskinä. Koska merkittävimpien algoritmien kehitystä johtavat suuret pörssiyritykset, joiden pääasiallinen tehtävä on tuottaa voittoa osakkeenomistajilleen, ja koska algoritmien toimintalogiikat ovat liikesalaisuuksia, on koneellisen päätöksenteon kriittinen tarkastelu perusteltua.

Algoritmien valta on avoin yhteiskunnallinen kysymys

Koneiden valta informaationvälityksessä on kasvavan kansainvälisen huomion kohteena. Etenkin keskustelu Facebookin valtaroolista on aktiivista. Yrityksen perustajan Mark Zuckerbergin mukaan Facebook ei ole media, vaan ”sosiaalinen alusta”, mutta esimerkiksi Vietnamin sodan ikonisen lapsikuvan piilottaminen käyttäjien uutisvirrasta on herättänyt kysymyksiä koneen suorittaman sensuroinnin eettisyydestä (Oremus, 2016). Lisäksi vuoden 2016 Yhdysvaltain presidentinvaalien yhteydessä Facebookia kritisoitiin poliittisesti tietynlaisten uutisotsikoiden suosimisesta (Facebook Newsroom, 2016). Kritiikin valossa Facebook vastikään päättikin poistaa toimituksellisen ihmisryhmän aiheiden valinnasta, ja sisällön valinta on nyt siirretty täysin algoritmin harteille (Lichterman, 2016). Vaikuttaa siltä, että yhteiskunnallinen kiinnostus Facebookin ja muiden suosittujen informaatioalustojen toimintaperiaatteita kohtaan ainoastaan kasvaa tulevaisuudessa, joten teknologisten kysymysten lisäksi eri toimijat joutuvat ottamaan kantaa eettisiin, poliittisiin ja yhteiskunnallisiin kysymyksiin.

Lähteet

Facebook (2013) News Feed FYI: A Window Into News Feed. https://www.facebook.com/business/news/News-Feed-FYI-A-Window-Into-News-Feed

Facebook Newsroom (2016) Response to Chairman John Thune’s letter on Trending Topics. https://newsroom.fb.com/news/2016/05/response-to-chairman-john-thunes-letter-on-trending-topics/

Google (2016) Algorithms. https://www.google.ca/insidesearch/howsearchworks/algorithms.html

Lichterman, J. (2016) Algorithms are now controlling Facebook’s Trending topics. What does that mean for news? http://www.niemanlab.org/2016/08/algorithms-are-now-controlling-facebooks-trending-topics-what-does-that-mean-for-news/

Oremus, W. (2016) Facebook’s Censorship Problem Is What Happens When a Tech Company Controls the News. http://www.slate.com/blogs/future_tense/2016/09/09/facebook_censors_napalm_girl_photo_changes_mind_has_no_idea_what_it_s_doing.html