ik wil…    ai begrijpen     journalistieke voorbeelden      lesmateriaal  

Antwoordmodel: Kun jij het algoritme kraken?

Antwoorden op de vragen van de discussie:

Wat heb je van het spel geleerd?

Controle op algoritmes is een complexe taak. Er is een gebrek aan transparantie over zowel de technologie als de besluitvorming. Als gevolg hiervan hebben journalisten vaak moeite om te begrijpen hoe algoritmen werken, wat het ook lastig maakt om hun impact onder de loep te nemen. Bovendien zijn sommige bronnen, zoals ontwikkelaars en bedrijven die algoritmen maken, vaak niet onpartijdig. Ze zijn immers geïnteresseerd in het positief promoten van hun producten. Dit maakt de controle van algoritmes nog uitdagender.

Welke verschillende bronnen kun je benaderen in journalistiek onderzoek naar algoritmes en wat levert dit op?

Een holistische benadering van onderzoek naar de werking van algoritmen is cruciaal. Algoritmes zijn tenslotte complexe systemen met technische, sociale en ethische dimensies. Door een holistische benadering te hanteren, kunnen journalisten inzicht krijgen in de manier waarop algoritmen werken, en daarbij zowel de technische aspecten als de bredere maatschappelijke implicaties in acht nemen.

Het betrekken van ontwikkelaars bij het onderzoeksproces kan journalisten bijvoorbeeld helpen toegang te krijgen tot nauwkeurigere technische informatie. Denk daarbij aan inzicht in de gegevensverwerkingsmethoden en besluitvormingsprocessen. Zoals je echter in het spel hebt gezien, schetsen ontwikkelaars vaak een te positief beeld van hun creatie. Ze kunnen belangrijke informatie verbergen, gegevens manipuleren of eenvoudigweg het verzoek om interviews weigeren. Daarom kunnen ontwikkelaars niet je enige bron zijn. Anders zouden journalisten het risico kunnen lopen persberichten te schrijven ten gunste van dergelijke bedrijven, in plaats van kritische journalistieke berichtgeving.

Daarom is het raadzaam om ook onderzoekers te betrekken. Zij kunnen helpen de ethische en maatschappelijke implicaties van algoritmische systemen te begrijpen. Denk bijvoorbeeld aan vooringenomenheid, discriminatie, privacy en transparantie. Ook kan het slim zijn om eindgebruikers te spreken, om te begrijpen wat de impact van algoritmen is op de echte wereld. De ervaringen, zorgen en percepties van gebruikers bieden waardevolle inzichten in de manier waarop algoritmen het leven van mensen beïnvloeden.

Daarnaast kun je denken aan interviews met bijvoorbeeld beleidsmakers, ethici of vertegenwoordigers van de Rekenkamer of de Autoriteit Persoonsgegevens. Ook AlgorithmWatch, de partij die het spel heeft gemaakt, is mogelijk een nuttige bron voor wie algoritmes wil onderzoeken. Deze organisatie ontwikkelt tools om algoritmische besluitvormingsprocessen en de effecten op mensen en samenlevingen te analyseren.

Een holistische benadering bevordert een meer genuanceerde rapportage, die nauwkeuriger en betrouwbaarder is.

Kunnen jullie voorbeelden bedenken van algoritmes die je zou willen onderzoeken?

Er zijn verscheidene algoritmen die je zou kunnen onderzoeken vanwege hun potentiële impact op de samenleving. Interessante voorbeelden om met studenten te bespreken:

  1. The Intercept ontdekte dat de Chinese app TikTok berichten onderdrukt van gebruikers die moderaten beschouwden als te onaantrekkelijk of arm (volledig rapport).
  1. Meta wordt al jaren verdacht van het schaduwverboden voor Palestina-gerelateerde inhoud. Bovendien laat een uitgelekt document zien dat van Meta’s overzicht  van “gevaarlijke individuen en organisaties” zich disproportioneel richt op moslimgemeenschappen uit het Midden-Oosten en Zuid-Azië.
  2. Ook Nederlandse overheden gebruiken allerlei algoritmes, bijvoorbeeld om in te schatten hoe groot de kans is dat iemand fraude pleegt of in de criminaliteit beland.  Ook na het toeslagenschandaal zetten gemeenten dit soort algoritmes nog op grote schaal in. Hoe deze algoritmes tot hun antwoorden komen en in hoeverre hier vooroordelen in zitten, is tot op heden lang niet altijd duidelijk.

Je kunt eens een kijkje nemen in het Algoritmeregister, waar je een (onvolledig) overzicht vindt van de algoritmes die Nederlandse overheidsinstanties inzetten.