Algorithmic bias can originate from three sources (at least): In the first case, data can be skewed or imbalanced due to several reasons: algorithms #bias #socialcomputing
Kategoriat
Tekijä: jonisalminen777
Researcher of marketing, human-computer interaction, startups, and personas.
People make decisions that are far from optimal. Concerning their personal health, economics, and the wellbeing of others, whether people or planet. Algorithms nudge people toward making better or worse decisions. Currently, many algorithms nudge people toward worse decisions, including social media addiction, impulsive shopping behaviors, overspending, and unsustainable consumption. It is a great collective […]
’Accountability’. There’s a lot of discussion about it, but it seems elusive in many real world situations. In fact, there is an alarming trend of people using automation in systems as an excuse to justify unfair treatment of others. Example: ”Oh, we can’t do anything, it’s in the system”. Or, ”I don’t have the authority […]
Kategoriat
Algorithmic Scapegoating
Algorithm scapegoating = blaming an ”algorithm” for a social problem instead of attributing the blame appropriately to humans. This is often done with some vague and incorrect notion of ”algorithm”, not specifying what algorithm and how exactly the algorithm was at fault at carrying out its task. This misattribution is often associated with not properly […]
Just spent 1.5hrs talking to a journalist about algorithms. Sharing my notes, containing many ”unpopular opinions” that I nonetheless believe should be part of the public discussion about these topics. TL;DR: It’s easy to blame algorithms, hard to take individual responsibility. Here’s what’s wrong with the debate on algorithms: (1) algorithms are used as scapegoats […]
Short argument: when talking about automation, it’s important to define what level we mean. There are at least three levels: automation within a professional task = this level deals with understanding how automation impacts people’s work, e.g., replacing them or boosting their productivity (both the good and the bad) automation within an organization = this […]
Kategoriat
Random notes from automation workshop
Notes from a CHI2018 workshop: creativity is not an excuse for ignorance software doing part of your work might be more work errors from the developers are cascading in the system never trust the marketing aspect of automation frictions in the promise of automation automation surprises automation was expected to have better consistent behavior automation […]
Kategoriat
Kelan viisi haastetta koneoppimisessa
Katsoin YouTube-videon Machine Learning for Kela, jossa Kelan Ari Vähä-Erkkilä kertoo Alexander Jungin opettaman koneoppimiskurssin opiskelijoille Kelan koneoppimisprojekteista. Tiivistän tässä blogiartikkelissa keskeiset haasteet algoritmisessa päätöksenteossa Kelan kannalta. Kelan viisi koneoppimishaastetta HAASTE 1: Tarkkuuden vaatimus on suuri: jokaisen numeron takana on ihminen, siksi varaa virheisiin ei ole (ja on annettava valitusmahdollisuus, jonka käsittelee ihminen). Tyypillisesti mikään algoritmi […]
Googlen toimitusjohtaja Sundar Pichai kirjoitti kesäkuussa 2018 blogipostauksen Googlen eettisistä algoritmiperiaatteista. Tiivistän tässä sen ydinkohdat suomeksi. Googlen tavoitteet tekoälysovelluksille Kehittäessään tekoälysovelluksia Google pyrkii ottamaan huomioon seuraavat tavoitteet. 1. Ole sosiaalisesti hyödyllinen. Uusi teknologia koskettaa yhä enemmän yhteiskuntaa kokonaisuutena. Tekoälyteknologian vaikutust tuntuu monilla eri aloilla, esimerkkeinä terveydenhuolto, turvallisuus, energia, kuljetus, teollisuus ja viihde. Googlen näkemys on, […]
Kategoriat
Algoritmipaniikki
Yhteiskuntakeskustelua algoritmeista on paikoin ahdistavaa seurata. Ihmiset, jotka eivät ymmärrä algoritmeista, antavat niille supervoimia. Media tekee parhaansa lietsoakseen algoritmipelkoa. Kyllä, on totta että algoritmien käytössä on riskejä. Mutta hyvin usein algoritmeja pidetään syntipukkeina ihmisten toimille. Esimerkkikommentti eräästä Amazonin rekrytointialgoritmin havaittuja ja väitettyjä puutteita koskevasta LinkedIn-keskustelusta: ”Vaikka data jollain ihmeen kaupalla heijastelisikin 100% tasa-arvosta tilannetta (ei […]
Algoritmien valta - Neutraalius ja puolueellisuus koneellisessa päätöksenteossa 