Algoritmien valta - Neutraalius ja puolueellisuus koneellisessa päätöksenteossaKone oppii kuin ihminen: empiirisen havaintoaineiston (=datan) perusteella. Tästä syytä samoin kuin ihmisen on hankala oppia pois huonoista tavoista ja asenteista (ennakkoluulot, stereotypiat), on koneen vaikea oppia nopeasti pois virheellisestä tulkinnasta. Kysymys ei ole poisoppimisesta, mikä lienee monessa tapauksessa mahdotonta, vaan uuden oppimisesta, niin että vanhat muistirakenteet (=mallin ominaisuudet) korvataan tehokkaasti uusilla. Tehokkaasti, koska mitä […]
Marc Andreessenin kuuluisan software eats the world –lausahduksen (so. ohjelmat syövät maailman) mukaisesti ihmisresursseja korvataan jatkuvasti ohjelmallisilla ratkaisuilla. Tämä ilmiö näyttäytyy kaikilla yhteiskunnan alueilla, mutta yksi merkittävimmistä alueista on päätöksenteon koneellistuminen ja automatisointi. Tässä artikkelissa kartoitan lyhyesti koneelliseen päätöksentekoon liittyviä mahdollisuuksia ja riskejä. Mahdollisuudet Riskit puolueeton tunteeton nopea arvaamaton skaalautuva manipulaatioaltis Taulukko 1 Koneellisen päätöksenteon […]
Suomalaisen yhteiskunnan on pysyttävä ns. digitalisaation kärjessä, jotta voimme vastata kansainvälisen kilpailun haasteisiin. Paitsi kilpailullisia seikkoja, koneelliseen päätöksentekoon liittyy teknologian yhteiskunnallisten merkitysten ymmärtäminen. Tarkastellaan koneellista päätöksentekoa eurooppalaisesta näkökulmasta. Käytännössä kaikki ns. superalustat (alusta, jolla on yli sata miljoonaa käyttäjää) ovat yhdysvaltalaisomistuksessa. Nämä kaupalliset toimijat, joiden algoritmien tarkka toiminta on ”musta laatikko” niin käyttäjille kuin lainsäätäjille, […]
Päätöksentekoalgoritmin neutraalius voidaan ymmärtää eri tavoin, esimerkiksi erottamalla toisistaan päätöksentekoprosessin ja tuloksen neutraalius (Stray, 2016). Mikäli algoritmin toimintaperiaate on läpinäkyvä ja yleisesti hyväksytty, voidaan sen katsoa olevan prosessin puolesta neutraali. Se voi kuitenkin yhä tuottaa puolueellisia tuloksia, erityisesti koneoppimisen kautta. Monet ongelmat liittyvätkin koneiden tapaan oppia, joka tapahtuu tilastollisen tulkinnan kautta (mm. Dwork, 2014). Esimerkiksi […]
Introduction Media bias is under heavy discussion at the moment, especially relating to the past presidential election in the US. However, the quality of discussion is not the way it should be; I mean, there should be objective analysis on the role of the media. Instead, most comments are politically motivated accusations or denials. This […]
Introduction. Here’s an argument: Most online disputes can be traced back to differences of premises. I’m observing this time and time again: two people disagree, but fail to see why that is, although for an outside it seems evident. Each party believes they are right, and so they keep on debating; it’s like a never-ending […]
1. Introduction Earlier, I had a brief exchange of tweets with @jonathanstray about algorithms. It started from his tweet: Perhaps the biggest technical problem in making fair algorithms is this: if they are designed to learn what humans do, they will. To which I replied: Yes, and that’s why learning is not the way to […]
Human-machine interaction on social platforms relies on human input. That input is driven by human bias. One form of bias is based on what I call ”belief systems”. Understanding different belief systems, e.g. by more advanced linguistic analysis, can yield solutions to various social problems on the Internet, such as online disputes and forming of […]
So, I read this article: Facebook is prioritizing my family and friends – but am I? The point of the article — that you should focus on your friends & family in real life instead of Facebook — is poignant and topical. So much of our lives is spent on social media, without the ”social” part, and […]
Ajatuksia algoritmeista.
Algoritmien valta - Neutraalius ja puolueellisuus koneellisessa päätöksenteossa 