TECH+FUTURE

RE: onze algoritmes zijn seksistisch en racistisch

easytigercompany

In RE: reageren Vileine vrouwen op een actuele publicatie. Vandaag reageert Petra Kramer op ‘Hoe word ik een cyborg?.

Riva Godfried schreef een lofzang op het surveillancekapitalisme (of hoe je favoriete app je begluurt, manipuleert en vermarkt) zonder het zelf door te hebben. Dat deed ze door een handleiding te schrijven hoe je een betere cyborg wordt. Daarbij stelde ze dat het bevrijdend is om een cyborg te zijn. Volgens haar is het hoopvol dat we onze data, een verlengstuk van onszelf, uitleveren aan Silicon Valley, daarmee zouden we nota bene de hiërarchie doorbreken. Godfried stelt dat we als cyborgs in staat zijn om heilige huisjes omver te trappen.

Helaas heeft Godfried de (corporate) academische consensus aan haar zijde. Consumenten zouden zelfs niet kunnen wachten totdat dat al hun data inzichtelijk wordt gemaakt voor bedrijven. De consensus is dat het een zegen is om menselijk gedrag navolgbaar te maken door middel van Big Data. Waar de consensus met Godfried breekt is dat die data de mens niet bevrijdt maar dat het juist sturend werkt. Om het met Cory Doctorow te zeggen: “we are being Huxleyed into the Full Orwell“.

Volkskrant citeert bijvoorbeeld dit in een artikel over de ratingeconomie: “Een van zijn adviezen: voedt het internet met zoveel positieve input over jouw persoon dat eventuele negatieve informatie overschaduwd wordt. Overspoel dus sociale media als Instagram en Facebook met leuke berichten, en dat rottige nieuwsitem van twee jaar geleden zakt vanzelf op de resultatenlijst van Google.” Kortom: je moet verplicht doen alsof alles totaal geweldig is teneinde te voorkomen dat je reputatie door het putje gaat omdat je toevallig tegen het panopticum bent dat rondom ons wordt opgetuigd.

Tomas Chamorro-Premuzic, hoogleraar bedrijfspsychologie aan de oudste universiteit van Londen, doet daar in hetzelfde artikel nog een schepje bovenop. “Misschien wel het aantrekkelijkste aan dit systeem is dat het druk zet op mensen om een wenselijke reputatie te verkrijgen en behouden, iets waartoe zij zich anders misschien niet gedwongen zouden voelen.” Wat Godfried als bevrijdend duidt is in werkelijkheid een vorm van verstikkende sociale controle waar ze in Staphorst niet van durven dromen.

Algoritmes zijn seksistisch en racistisch omdat wij dat zijn

De bedoeling van dit stuk is niet om Riva Godfried te dissen, de bedoeling is om aandacht te vragen voor hoe we ons uitleveren aan de pure willekeur van algoritmes die veelal geschreven worden door witte mannen. Door miljardairs in Silicon Valley. Eerder op Vileine werd al uit de doeken gedaan dat Big Data bepaald niet objectief is. Algoritmes zijn seksistisch en racistisch omdat wij dat zijn. In Amerika, waar algoritmes gebruikt worden om het recidiverisico te bepalen, is gebleken dat mensen met een kleurtje daardoor benadeeld worden.

In Soviet Russia TV watches you is geen meme meer, als je een slimme televisie hebt dan staat er zelfs in de handleiding dat je geen gevoelige dingen moet bespreken in de buurt van die tv omdat het kreng altijd meeluistert.

We leven in een wereld waarin de Amerikaanse politiek in de broekzak van Silicon Valley zit en waarin de EU denkt dat je de boel kunt bijsturen zonder zelf noemenswaardige alternatieven te ontwikkelen. We zijn cyborgs, dat klopt, alleen zijn cyborgs de nieuwe horigen. We hebben geen technologieprobleem, we hebben een neokoloniaal probleem. Als we echt betere cyborgs willen zijn dan moeten we de controle houden over onze data. Eigen data eerst!

Zo niet, dan accepteren we een wereld waarin we geen mens meer zijn maar een merk. Een merk dat constant bezig moet zijn met imagomanagement. Dan is de Netflix-serie Black Mirror geen fictie meer, maar realiteit. In die dystopische realiteit is geen enkele ruimte voor activisme, noch voor politieke ideologie. Het is Margaret Thatcher on steroids: “There is no alternative!” Het is een datadictatuur.

Het internet (of things) is waar Orwell voor waarschuwde. Voorheen gold dat als een dienst gratis is dat betekent dat jij het product bent. Dat breidt zich nu uit tot tot telescreens pardon, slimme televisies die duizenden euro’s kosten. Alle apparaten die slim heten, bespioneren je. En niet alleen dat, alle slimme apparaten zijn kwetsbaar. Niet alleen de fabrikant bespioneert je, mogelijk doen ook criminelen dat.

Click to comment

Leave a Reply

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

VERS

We do not believe in the world empowering women.

We believe in women empowering the world!

Journalist, activist, game-changing artist, mind-body scientist, international solidarist?

Join the tribe

Copyright © 2017 Vileine

To Top