’Accountability’. There’s a lot of discussion about it, but it seems elusive in many real world situations. In fact, there is an alarming trend of people using automation in systems as an excuse to justify unfair treatment of others. Example: ”Oh, we can’t do anything, it’s in the system”. Or, ”I don’t have the authority […]
Kategoriat
Algorithmic Scapegoating
Algorithm scapegoating = blaming an ”algorithm” for a social problem instead of attributing the blame appropriately to humans. This is often done with some vague and incorrect notion of ”algorithm”, not specifying what algorithm and how exactly the algorithm was at fault at carrying out its task. This misattribution is often associated with not properly […]
Just spent 1.5hrs talking to a journalist about algorithms. Sharing my notes, containing many ”unpopular opinions” that I nonetheless believe should be part of the public discussion about these topics. TL;DR: It’s easy to blame algorithms, hard to take individual responsibility. Here’s what’s wrong with the debate on algorithms: (1) algorithms are used as scapegoats […]
Short argument: when talking about automation, it’s important to define what level we mean. There are at least three levels: automation within a professional task = this level deals with understanding how automation impacts people’s work, e.g., replacing them or boosting their productivity (both the good and the bad) automation within an organization = this […]
Kategoriat
Random notes from automation workshop
Notes from a CHI2018 workshop: creativity is not an excuse for ignorance software doing part of your work might be more work errors from the developers are cascading in the system never trust the marketing aspect of automation frictions in the promise of automation automation surprises automation was expected to have better consistent behavior automation […]
Kategoriat
Kelan viisi haastetta koneoppimisessa
Katsoin YouTube-videon Machine Learning for Kela, jossa Kelan Ari Vähä-Erkkilä kertoo Alexander Jungin opettaman koneoppimiskurssin opiskelijoille Kelan koneoppimisprojekteista. Tiivistän tässä blogiartikkelissa keskeiset haasteet algoritmisessa päätöksenteossa Kelan kannalta. Kelan viisi koneoppimishaastetta HAASTE 1: Tarkkuuden vaatimus on suuri: jokaisen numeron takana on ihminen, siksi varaa virheisiin ei ole (ja on annettava valitusmahdollisuus, jonka käsittelee ihminen). Tyypillisesti mikään algoritmi […]
Googlen toimitusjohtaja Sundar Pichai kirjoitti kesäkuussa 2018 blogipostauksen Googlen eettisistä algoritmiperiaatteista. Tiivistän tässä sen ydinkohdat suomeksi. Googlen tavoitteet tekoälysovelluksille Kehittäessään tekoälysovelluksia Google pyrkii ottamaan huomioon seuraavat tavoitteet. 1. Ole sosiaalisesti hyödyllinen. Uusi teknologia koskettaa yhä enemmän yhteiskuntaa kokonaisuutena. Tekoälyteknologian vaikutust tuntuu monilla eri aloilla, esimerkkeinä terveydenhuolto, turvallisuus, energia, kuljetus, teollisuus ja viihde. Googlen näkemys on, […]
Kategoriat
Algoritmipaniikki
Yhteiskuntakeskustelua algoritmeista on paikoin ahdistavaa seurata. Ihmiset, jotka eivät ymmärrä algoritmeista, antavat niille supervoimia. Media tekee parhaansa lietsoakseen algoritmipelkoa. Kyllä, on totta että algoritmien käytössä on riskejä. Mutta hyvin usein algoritmeja pidetään syntipukkeina ihmisten toimille. Esimerkkikommentti eräästä Amazonin rekrytointialgoritmin havaittuja ja väitettyjä puutteita koskevasta LinkedIn-keskustelusta: ”Vaikka data jollain ihmeen kaupalla heijastelisikin 100% tasa-arvosta tilannetta (ei […]
Heinäkuussa 2018 pidettiin Tukholmassa viides FATML-työpaja kansainvälisen koneoppimiskonferenssin yhteydessä (International Conference on Machine Learning, ICML2018). FATML tulee sanoista Fair (reilu), Accountable (vastuullinen), Transparent (läpinäkyvä), Machine Learning (koneoppiminen), eli kyseessä on Reilu, Vastuullinen ja Läpinäkyvä Koneoppiminen (RVLK näin suomeksi). Tiivistän tässä artikkelissa työpajan keskeiset kysymykset [1] suomen kielellä. REILUUS Kuinka määritellä, mitata ja käsitteellistä koulutusdataa koneoppimismalleille? Keskeisenä […]
Kategoriat
Mikä on klikkiotsikko?
Mikä on klikkiotsikko? Lyhykäisyydessään klikkiotsikko tai klikkiansa (eng. clickbait) viittaa otsikkoon sekä siihen liittyvään verkkosisältöön, joka on harhaanjohtava ja houkuttelee klikkaamaan. Klikkiotsikon tarkoituksena on usein kerryttää klikkausten avulla mainostuloja. Periaatteena on, että mitä enemmän klikkejä, sitä enemmän mainostuloja. Miksi klikkiotsikot toimivat? Klikkiotsikko herättää tyypillisesti mielenkiinnon vetoamalla tunteisiin. Tavallisesti ihmiset klikkaavat negatiivisesti sävyttyneisiin otsikoihin enemmän kuin positiivisiin. […]
Algoritmien valta - Neutraalius ja puolueellisuus koneellisessa päätöksenteossa 