Tagged: valta

Algoritmipaniikki

Yhteiskuntakeskustelua algoritmeista on paikoin ahdistavaa seurata.

Ihmiset, jotka eivät ymmärrä algoritmeista, antavat niille supervoimia. Media tekee parhaansa lietsoakseen algoritmipelkoa.

Kyllä, on totta että algoritmien käytössä on riskejä. Mutta hyvin usein algoritmeja pidetään syntipukkeina ihmisten toimille.

Esimerkkikommentti eräästä Amazonin rekrytointialgoritmin havaittuja ja väitettyjä puutteita koskevasta LinkedIn-keskustelusta: ”Vaikka data jollain ihmeen kaupalla heijastelisikin 100% tasa-arvosta tilannetta (ei realistista), kyllä lopputuloksen saa vielä algoritmeilla pilattua!”

Kommentti sisältää väärää tietoa — koska algoritmi on yhtä hyvä kuin sinne syötetty data — mutta kuvastaa hyvin valloillaan olevasta ”paha algoritmi” -mentaliteetista.

Toinen esimerkki on Yhdysvaltain viimekertainen vaalitulos: on olemassa yleinen myytti siitä, että Cambridge Analytica -yhtiön ”algoritmit” saivat ihmiset maagisesti äänestämään tahtoaan vastaan. Kuvaavia tästä harha-ajattelusta ovat tämänkaltaiset väitteet: ”Facebook let Trump use AI to win the 2016 election”, joita poliittisesti puolueelliset toimittavat lietsovat.

Sami Kuusela jakoi oheisen pilakuvan Facebookissa. Mielestäni tämä tiivistää hyvin algoritmipaniikin luonteen.

algoritmipaniikki

Mistä algoritmipaniikki sitten johtuu?

Tunnistan algoritmipaniikkiin kolme syytä:

  • Pelko tuntemattomasta — kautta historian, ihmiset ovat pelänneet sitä mitä eivät ymmärrä. Suurin syy algoritmipaniikkiin on puutteellinen ymmärrys niiden toiminnasta. Kun ei tiedetä kuinka algoritmit toimivat, niille on helppo keksiä supervoimia. Mutta mitä enemmän tunnet algoritmeja, sitä enemmän ymmärrät niiden puutteet. Ne ovat erehtyväisiä ennustuksissaan, täysin riippuvaisia annetusta datasta, eivätkä järkeile, sovella tai millään lailla toimi itsenäisesti rajatun tehtävän ulkopuolella. Algoritmit eivät ole tekoälyä, ne ovat teknisiä reseptejä.
  • Pelko syrjäytymisestä — kuten luddiitit aikoinaan, nykyajan tietotyöläiset pelkäävät enenevissä määrin syrjäytymistä työmarkkinoilta algoritmien toimesta. Tämä on toinen myytti, jonka taloustieteilijät ja historia aikanaan, tulee osoittamaan vääräksi. Talous muuttuu ja uusia työtehtäviä syntyy korvaamaan vanhat, pääasiassa koska ihmisten tarpeet ja halut ovat rajattomia. Kuitenkin on fakta, että automaatio korvaa tiettyjä työtehtäviä ja väistämättä tämä johtaa tietynlaiseen antipatiaan koneita kohtaan: ”tyhmä kone vei mun työn”.
  • Antropomorfismi — jos termi ei ole tuttu, se tarkoittaa inhimillisten ominaisuuksien liittämistä eläimiin, elottomiin esineisiin tai kuvitteellisiin kohteisiin (lähde). Algoritmien tapauksessa niihin liitetään tahtotiloja ja motiiveja, kuten valta, päätöksenteko, tietoisuus… Algoritmeihin projisoidaan ihmispiirteitä ja niitä syytetään ikään kuin ne olisivat elollisia olentoja. Algoritmi ei kuitenkaan ole elävä olio, toimija tai päätöksentekijä. Se on vain kasa tekstiä, resepti joka toteuttaa mitä ihminen haluaa (usein vajavaisesti, koska sille annetut käskyt ovat vajavaisia).

Johtopäätös

Hyvässä ja pahassa, algoritmeille ei saa antaa liikaa valtaa. Niitä ei saa syyttää asioista, joissa ihminen on vastuussa. Niitä ei myöskään saa ylentää erehtymättömiksi jumalolennoiksi. Algoritmi on — yhä edelleen — resepti, ei itse lääke.

Miksi eurooppalaisten on ymmärrettävä koneellista päätöksentekoa?

Suomalaisen yhteiskunnan on pysyttävä ns. digitalisaation kärjessä, jotta voimme vastata kansainvälisen kilpailun haasteisiin. Paitsi kilpailullisia seikkoja, koneelliseen päätöksentekoon liittyy teknologian yhteiskunnallisten merkitysten ymmärtäminen.

Tarkastellaan koneellista päätöksentekoa eurooppalaisesta näkökulmasta. Käytännössä kaikki ns. superalustat (alusta, jolla on yli sata miljoonaa käyttäjää) ovat yhdysvaltalaisomistuksessa. Nämä kaupalliset toimijat, joiden algoritmien tarkka toiminta on ”musta laatikko” niin käyttäjille kuin lainsäätäjille, päättävät minkälaista tietoa eurooppalaisille kansalaisille päivittäin näytetään. Eurooppalaiset viettävät esimerkiksi yhteensä yli 60 miljoonaa tuntia päivässä Facebookissa ja tekevät yli 30 miljardia hakua Googlessa kuukausittain. Nuorempien sukupolvien mediakulutus on vielä enemmän verkkopainotteista, ja useille verkkomediat muodostavat tärkeimmän informaatiolähteen.

On siis poikkeuksellisen selvää, että amerikkalaisilla yrityksillä on superalustojen kautta suuri valta yleisen mielipiteen muodostumisessa niin Euroopassa kuin oikeastaan koko maailmassa. Tarkoituksenamme ei ole väittää, että tätä valtaa käytettäisiin tällä hetkellä väärin, mutta vallan luonteeseen kuuluu läheisesti väärinkäytön mahdollisuus. Sen vuoksi eurooppalaisten on kriittistä vähintäänkin ymmärtää, mistä algoritmien toiminnassa on kyse. Tämä ymmärrys voidaan kytkeä mm. lainsäädäntöön, jotta superalustojen toimintaa voidaan valvoa ja tarvittaessa kontrolloida.

Mistä algoritmien valtaan keskittyvässä tutkimuksessa on kyse?

Miksi algoritmit ovat tärkeitä?

Algoritmi on tietokoneohjelma, joka kykenee tekemään itsenäisiä päätöksiä. Tällä hetkellä päätökset koskevat esimerkiksi informaation leviämistä sosiaalisessa mediassa, hakukoneiden tulosten järjestelyä sekä mainosten kohdentamista verkossa. Algoritmien päätöksillä on tärkeä rooli kansalaisten ja kuluttajien arjessa, sillä käytännössä informaatioalgoritmit määrittävät mitä sisältöä meille näytetään milläkin hetkellä. Esimerkiksi Facebook voisi näyttää käyttäjälle jopa 1500 viestiä päivää kohti, mutta koska tämä on liikaa useimmille käyttäjille, se näyttää niistä noin 300 viestiä päivässä (Facebook, 2013). Samoin Google valitsee jokaista hakukyselyä kohti ensimmäiselle hakusivulle 10 tulosta miljoonien samankaltaisten sivujen joukosta (Google, 2016). Koneilla on siis valta valita, minkälaista informaatiota kullekin yksilölle näytetään, ja tätä kautta vaikuttaa mm. kansalaisten maailmankuvaan ja yleiseen mielipiteeseen.

Neutraalit algoritmit

Jos algoritmi on neutraali, eli toimii 1) läpinäkyvästi ja 2) yleisesti hyväksyttyjen toimintaperiaatteiden mukaisesti, sen valta-asemassa ei välttämättä ole mitään ongelmaa, sillä parhaimmillaan koneelliset päätökset ovat vapaita ihmisten asenteellisuudesta ja kognitiivisista rajoitteista. Jos algoritmi kuitenkin on puolueellinen, esimerkiksi maksimoimalla sen omistajan mainostuloja käyttäjien hyödyn sijaan, piilottamalla poliittisesti arkoja aiheita taikka järjestelmällisesti syrjimällä tiettyjä käyttäjiä, voidaan algoritmien suuri valta nähdä yhteiskunnallisena riskinä. Koska merkittävimpien algoritmien kehitystä johtavat suuret pörssiyritykset, joiden pääasiallinen tehtävä on tuottaa voittoa osakkeenomistajilleen, ja koska algoritmien toimintalogiikat ovat liikesalaisuuksia, on koneellisen päätöksenteon kriittinen tarkastelu perusteltua.

Algoritmien valta on avoin yhteiskunnallinen kysymys

Koneiden valta informaationvälityksessä on kasvavan kansainvälisen huomion kohteena. Etenkin keskustelu Facebookin valtaroolista on aktiivista. Yrityksen perustajan Mark Zuckerbergin mukaan Facebook ei ole media, vaan ”sosiaalinen alusta”, mutta esimerkiksi Vietnamin sodan ikonisen lapsikuvan piilottaminen käyttäjien uutisvirrasta on herättänyt kysymyksiä koneen suorittaman sensuroinnin eettisyydestä (Oremus, 2016). Lisäksi vuoden 2016 Yhdysvaltain presidentinvaalien yhteydessä Facebookia kritisoitiin poliittisesti tietynlaisten uutisotsikoiden suosimisesta (Facebook Newsroom, 2016). Kritiikin valossa Facebook vastikään päättikin poistaa toimituksellisen ihmisryhmän aiheiden valinnasta, ja sisällön valinta on nyt siirretty täysin algoritmin harteille (Lichterman, 2016). Vaikuttaa siltä, että yhteiskunnallinen kiinnostus Facebookin ja muiden suosittujen informaatioalustojen toimintaperiaatteita kohtaan ainoastaan kasvaa tulevaisuudessa, joten teknologisten kysymysten lisäksi eri toimijat joutuvat ottamaan kantaa eettisiin, poliittisiin ja yhteiskunnallisiin kysymyksiin.

Lähteet

Facebook (2013) News Feed FYI: A Window Into News Feed. https://www.facebook.com/business/news/News-Feed-FYI-A-Window-Into-News-Feed

Facebook Newsroom (2016) Response to Chairman John Thune’s letter on Trending Topics. https://newsroom.fb.com/news/2016/05/response-to-chairman-john-thunes-letter-on-trending-topics/

Google (2016) Algorithms. https://www.google.ca/insidesearch/howsearchworks/algorithms.html

Lichterman, J. (2016) Algorithms are now controlling Facebook’s Trending topics. What does that mean for news? http://www.niemanlab.org/2016/08/algorithms-are-now-controlling-facebooks-trending-topics-what-does-that-mean-for-news/

Oremus, W. (2016) Facebook’s Censorship Problem Is What Happens When a Tech Company Controls the News. http://www.slate.com/blogs/future_tense/2016/09/09/facebook_censors_napalm_girl_photo_changes_mind_has_no_idea_what_it_s_doing.html