Tutkimushanke

Algoritmeilla on valtaa

Algoritmi on tietokoneohjelma, joka kykenee tekemään itsenäisiä päätöksiä. Tällä hetkellä nuo päätökset koskevat esimerkiksi informaation leviämistä sosiaalisessa mediassa, hakukoneiden tulosten järjestelyä sekä mainosten kohdentamista verkossa. Jo nykyisellään näillä päätöksillä on merkittävä rooli kansalaisten ja kuluttajien arjessa, sillä käytännössä algoritmit määrittävät mitä sisältöä meille näytetään milläkin hetkellä. Esimerkiksi Facebook voisi näyttää keskivertokäyttäjälle 1500 sisältöpäivitystä päivää kohti, mutta koska tämä on liikaa useimmille käyttäjille, se valitsee niistä noin 300; tämä valinta on vallan käyttöä. Samoin Google valitsee jokaista hakukyselyä kohti ensimmäiselle hakusivulle 10 tulosta miljoonien sivujen joukosta.

Mutta ovatko ne puolueettomia?

Jos algoritmi on neutraali, eli toimii läpinäkyvästi yleisesti hyväksyttyjen (”reilujen”) toimintaperiaatteiden mukaan, algoritmien suuressa valta-asemassa ei välttämättä ole mitään ongelmaa, sillä parhaimmillaan niiden tekemät päätökset ovat vapaita ihmisten asenteellisuudesta ja kognitiivisista rajoitteista. Jos algoritmi kuitenkin on puolueellinen, esimerkiksi maksimoi sen omistajan mainostuloja yleisen hyödyn sijaan taikka järjestelmällisesti syrjii tiettyjä käyttäjiä, on tämä puolueellisuus ongelma koko yhteiskunnan kannalta juuri algoritmien suuren vallan sekä automaattisen, läpinäkymättömän päätöksenteon takia. Koska lähes poikkeuksetta merkittävimpien algoritmien omistajat ovat kansainvälisiä pörssiyrityksiä ja koska niiden algoritmien tarkat toimintalogiikat ovat liikesalaisuuksia, voidaan perustellusti esittää epäilyksiä algoritmien reilusta toiminnasta.

Tutkimushankkeen tarkoitus

Tutkimus pyrkii vastaamaan kolmeen pääkysymykseen:

  1. Mitä riskejä algoritmeille ulkoistettuun päätöksentekoon liittyy yhteiskunnan kannalta?
  2. Mitkä ovat potentiaaliset puolueellisuuksien ja vääristymien lähteet algoritmisessa päätöksenteossa?
  3. Miten algoritmien neutraaliutta voidaan edistää?

Tutkimuskysymykset tähtäävät teknologisen ilmiön yhteiskunnallisten vaikutusten ymmärtämiseen, ja pyrkivät löytämään teoreettisesti ja käytännöllisesti mahdollisia ratkaisukeinoja haasteiden ratkaisuun.

Miksi aihe on tärkeä?

Algoritmit kontrolloivat tulevaisuudessa yhä useampia päätöksiä – voidaan nähdä tulevaisuus, melko piankin, jossa algoritmit vastaavat joko itsenäisesti tai yhdessä ihmisten kanssa esimerkiksi poliittisesta päätöksenteosta, lainsäädännön soveltamisesta, vakuutuspäätöksistä, lainapäätöksistä, ja erilaisten hyödykkeiden hinnoittelusta. Niin sanottu ’asioiden Internet’ (IoT) yhdistää algoritmit myös verkosta tosielämään – on muun muassa pohdittu eettisiä valintoja automaattisesti ohjautuvien autojen tapauksessa, kun niiden on päätettävä kumpi valita kahdesta huonosta vaihtoehdosta. Mikäli näitä päätöksiä ei arvioida muusta kuin teknisestä tehokkuuden näkökulmasta, voi tuloksena olla yhteiskunnallisesti epätoivottuja päätöksiä, jopa järjestelmällistä syrjintää. Kone voi esimerkiksi oppia yhdistämään tietyt ammatit naisiin ja toiset ammatit miehiin tai rikollisuuden maahanmuuttajiin. Lopputuloksena päätöksenteko voi olla epätoivottua, syrjivää tai jopa laitonta. On kuitenkin keinoja ehkäistä algoritmien vääristymistä, ja näiden keinojen tarkastelu onki yksi tutkimushankkeen tavoitteista.

Lisätiedot:

KTT Joni Salminen
Turun kauppakorkeakoulu
joolsa@utu.fi