TODAY+TOMORROW

Bollocks Buster: zielloze algoritmes in een menselijke wereld

Zelfverklaard transliban Petra Kramer prikt graag met vileine pen door globale onzin heen. Deze week fileert ze hoe algoritmes zowel bedoeld als onbedoeld zielloze instrumenten zijn in een racistische en seksistische mensenwereld. 

‘Rechters zijn net mensen’, was de titel van een column van Annemarie van Gaal die in mijn Twitter-timeline werd aangeprezen als interessant voorstel. De stropop die in de column afgefakkeld wordt is dat een rechter die ooit een winkeldiefstal heeft gepleegd, nooit meer eerlijk over diefstal kan oordelen. Een pover argument van iemand die van zo hoge huize komt. Annemarie van Gaal is namelijk niet zomaar de eerste de beste, ze is een mediamagnaat en een “toezichthouder” van de banken waardoor ze zich laat fêteren. Ze doet alsof wetten eeuwigheidswaarde hebben, dat is bepaald niet zo. Wetten kunnen veranderen en doen dat ook voortdurend. Zoals vaker gezegd op deze plek heeft het tot 1985 geduurd voordat de politie stopte met het handhaven van Genesis 22 vers 5. Transseksuelen en travestieten werden opgejaagd, in elkaar geslagen en opgesloten.

Tegenwoordig mag je dat niet meer zeggen. Homofobie, transfobie en bovenal antisemitisme is de schuld van de ander, de moslim. Ben je het daar niet mee eens? Prima. Dan krijg je het hele trollenleger over je heen omdat geenstijl de Roze Khmer je aan de schandpaal nagelt. Kom niet aan de gevestigde orde, dan krijg je domrechts tegen je in het harnas. Het maakt geen flikker uit dat Geert Wilders samen met Roosh V. te gast was op een feestje ter meerdere eer en glorie van Donald Trump en met name de van Twitter verbannen maar op Facebook nog steeds de geverifieerde Milo Yiannopoulos. Hij is een troll die het recht opeist om vrouwen en transen en minderheden op internet lastig te mogen vallen. Nul van de mainstream media die over Wilders’ bezoek bericht hebben vonden het vermeldenswaardig dat Wilders zich laat ontvangen op een feestje met iemand die zo’n beetje te boek staat als verkrachtings-activist.

Hoe witte vrouwen in algoritmes en het strafrecht (heel soms) worden voorgetrokken

Enfin, om te voorkomen dat ik hopeloos off-topic raak, terug naar Annemarie van Gaal. Zij verkeert in de gevaarlijk naïeve veronderstelling dat algoritmes objectief en dus neutraal zijn. Dat is niet het geval. Chelsea Manning was één van de eersten om ons te waarschuwen over de vooroordelen die ingebakken zitten in algoritmes . Algoritmes zijn geen wondermiddel, ze zijn net zo bevooroordeeld als hun auteurs. Gepatenteerde algoritmes zijn het ergst, die vormen een black box. Het is illegaal om te controleren hoe ze werken omdat de broncode geheim is. In Amerika, waar het voorstel van Annemarie van Gaal al in de praktijk gebracht is, blijkt dat algoritmes die de strafmaat en het risico op een redicive (herhaling van een misdrijf) bepalen seksistisch en racistisch als de neten zijn. In het strafrecht hebben witte vrouwen daar voordeel van terwijl alle mannen benadeeld worden. In de advertentie-industrie is het andersom. Goedbetaalde banen worden vele malen vaker onder de aandacht van mannen gebracht dan van vrouwen. Arme mensen worden al helemaal benadeeld. Zij krijgen geen advertenties voor lucratieve banen en hun risico op recidive wordt vele malen hoger ingeschat dan bij witteboordencriminelen. The New York Times schreef in 2015 al dat algoritmes de vooroordelen van hun auteurs bestendigen. Software staat niet op zichzelf, het wordt geschreven door mensen die vooroordelen hebben en dat is waarom algoritmes discrimineren.

Ook ons hilarisch hypocriete drugsbeleid wordt bestendigd door algoritmes. Het recidiverisico van een junk wordt vele malen hoger geschat dan dat van een alcoholist. Met de realiteit heeft het niks te maken. Het is een vaststaand feit dat alcoholisten eerder agressief worden dan drugsverslaafden. Algoritmes negeren dat omdat alcoholgebruik toegestaan is terwijl drugsgebruik gecriminaliseerd wordt.

Algoritmes zijn seksistisch omdat wij dat zijn

Hoewel het toe te juichen valt dat machine learning het verborgen seksisme in ons taalgebruik blootlegt, is het geen halleluja-verhaal omdat het al te laat is. We hebben algoritmes losgelaten op de wereld die inherent racistisch en seksistisch is. In de woorden van de Vrije Universiteit: computers zijn niet goed of slecht, <ze zijn een afspiegeling van ons en onze vooroordelen. Ze zijn racistisch en seksistisch omdat wij dat zijn. Algoritmes als neutrale arbiters zien is de grootste fout die je kunt maken.

P.S. de Amerikaanse overheid is erop gebrand om Chelsea Manning de komende 30 jaar te martelen door haar in een isoleercel te proppen. Teken alsjeblieft de petitie op freechelsea.com om dat te verhinderen. Chelsea Manning is één van de belangrijkste criticasters van de geautomatiseerde politiestaat en het is van cruciaal belang dat we haar stem blijven horen. Als Obama zijn Nobelprijs voor de vrede waard was, dan zou hij haar vandaag nog gratie verlenen.

2 Comments

2 Comments

  1. Plokje

    6 augustus 2016 at 00:53

    Genesis 22:5 heeft hier weinig mee te maken…

  2. Pingback: RE: onze algoritmes zijn seksistisch en racistisch – Vileine.com

Leave a Reply

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

VERS

We do not believe in the world empowering women.

We believe in women empowering the world!

Journalist, activist, game-changing artist, mind-body scientist, international solidarist?

Join the tribe

Copyright © 2017 Vileine

To Top