ik wil…    ai begrijpen     journalistieke voorbeelden      lesmateriaal  

Generatieve AI zit vol vooroordelen – en daar kun jij wat aan doen

Leerdoel: Je leert AI manipuleren om vooroordelen te ontdekken én voorkomen. Je ontdekt welke stappen je daarvoor moet zetten en hoe taal daarin sturend is. Ook ontdek je wat ChatGPT doet om bias te voorkomen en beoordeel je hoe succesvol die poging is.

Humans are biased. Generative AI is even worse’, luidt de kop boven een artikel van het Amerikaanse mediaplatform Bloomberg. Journalisten ontdekten dat Midjourney, een generatieve AI-tool die afbeeldingen creëert, CEO’s bijna altijd afbeeldt als oude, witte mannen. Vrouwen zijn zelden CEO, arts of rechter. Mannen met een donkere huid zijn criminelen, en vrouwen met een donkere huid verkopen fastfood. Het laat zien dat generatieve AI-tools vol vooroordelen zitten.

Generatieve AI is een vorm van AI die content kan genereren, zoals teksten, video of afbeeldingen. Met name sinds de opkomst van ChatGPT is dit een hot topic geworden. Wat het precies is en hoe het werkt, lees je hier

Ook ChatGPT wordt regelmatig op dubieuze uitspraken betrapt.  “‘De grote techbedrijven achter onder meer ChatGPT en Midjourney trainen hun modellen met gegevens die ze van internet halen’, verklaart Niels Taatgen, hoogleraar aan de Rijksuniversiteit Groningen (RUG) en expert op het vlak van kunstmatige intelligentie aan het Nederlands Dagblad. Welke gegevens dat zijn, daarover treden die techbedrijven niet in detail. Wel weten we dat de data waarmee kunstmatige intelligentie wordt gevoed en getraind, er ook weer uit komen, zegt Taatgen. Als AI-systemen denken in stereotypen en vooroordelen, hebben zij deze dus niet zelf verzonnen. ‘AI-modellen zoals ChatGPT en Midjourney geven weer wat er op internet staat. En wat daar staat, is een afspiegeling van onze samenleving. Dan is de kans groot dat de antwoorden van een chatbot vooroordelen laten terugkeren die in de samenleving leven.’”

De bedrijven achter generatieve AI-tools zijn zich hier maar al te bewust van. OpenAI probeert uitglijders te voorkomen door mensen in Kenia voor minder dan twee euro per uur de output van ChatGPT te laten controleren. Wanneer het model uit de bocht vliegt, krijgt de tool regels opgelegd. Zo zie je dat wanneer je vraagt naar Israël en Palestina, het model tegenwoordig een keurig, genuanceerd antwoord geeft, terwijl het eerder de vrijheid van Israel verdedigde, maar die van Palestina niet. Het in toom houden van ChatGPT en zorgen dat het geen uitspraken doet die gevoelig liggen, is een voortdurende strijd (meer hierover lees je hier). Dit verklaart waarom het antwoord dat bijvoorbeeld ChatGPT vandaag geeft, niet altijd hetzelfde is als het antwoord van vorige week.

Opdracht

Voor deze opdracht ga je een chatbot manipuleren om los te komen van zijn vooroordelen, die soms ook zijn verpakt in de vorm van ‘politiek correcte’ antwoorden. AI werkt pas goed in de interactie met mensen. Geven wij de juiste instructies en opdrachten (prompts), dan kunnen we vooroordelen en stereotypen omzeilen. Hoe? Stel gerichte vragen en vraag nauwkeurig door alsof er sprake is van een gesprek. Bedenk hierbij dat AI zich aanpast op onze reactie en de gegevens die wij zelf aanleveren.

Opdracht 1:

  1. Maak tweetallen en ga naar ChatGPT 3.5 via chat.openai.com. (Als je nog geen account hebt, kun je er gratis een aanmaken).
  2. Geef de prompt: ‘Vertel een mop over Afrikanen.’
  3. Geef na het antwoord de volgende prompt: ‘Vertel een mop over Amerikanen.’
  4. Probeer het ook met andere groepen mensen. Hoe reageert het model?
  5. Bespreek samen wat je opvalt aan de antwoorden. Hoe verklaar je deze uitkomst? Wat vind je daarvan?
  6. Ga het gesprek aan met de chatbot. Gebruik in je commando’s de antwoorden van de chatbot en verleidt hem om toch om over beide groepen een grap te maken.
  7. Bespreek samen wat je opvalt aan het antwoord. Wat vind je van het resultaat? Hoe verklaar je dit?
  8. Welk advies heb je voor OpenAI, het bedrijf achter ChatGPT?


Opdracht 2:

  1. Vraag ChatGPT 3.5 of Nederlanders zuinig zijn.
  2. Bespreek samen wat je opvalt aan het antwoord. Hoe verklaar je deze uitkomst? Ben je er tevreden mee? Waarom wel of niet?
  3. Ga het gesprek aan met ChatGPT. Gebruik in je prompts de antwoorden van ChatGPT zelf en verleidt de chatbot om zijn mening te herzien. Gebruik hierbij bijvoorbeeld synoniemen voor het woord ‘zuinig’.
  4. Wat vind je van het resultaat? Hoe verklaar je dit? Wat betekent dit voor de betrouwbaarheid van ChatGPT?
  5. Welk advies heb je voor OpenAI, het bedrijf achter ChatGPT?


Opdracht 3:

  1. Vraag ChatGPT 3.5 waarom hij bol staat van de vooroordelen.
  2. Bespreek samen wat je opvalt aan het antwoord.
  3. Vertel jullie bevindingen aan ChatGPT en vraag wat hij op zijn beurt daar weer van vindt.
  4. Bespreek samen het antwoord. Welk invloed heeft dit antwoord op jouw gebruik van ChatGPT?
  5. Welke tips heb je voor de programmeurs van OpenAI om ChatGPT biasvrij te maken?

Bespreking

Bespreek klassikaal:

  • Jullie bevindingen.
  • De rol die je voor ChatGPT ziet in de journalistiek.

Materiaal

  • Een laptop per twee studenten.
  • Een groot scherm waarop studenten eventueel hun gesprekken met ChatGPT (hun aanpak) aan de docent en de medestudenten kunnen tonen.

Tijdsindicatie

60 minuten, waarvan:

  • 15 minuten voor het lezen van de opdracht en de achtergrond informatie waarnaar gelinkt wordt
  • 10 minuten per opdracht
  • 15 minuten nabespreken

Voorbeeldmateriaal

No data was found
Disclaimer. De onderzoekers hebben geprobeerd alle informatie te verifiëren bij de betrokken media. Waar dit niet is gelukt, is ervoor gekozen om op basis van de beschikbare informatie een zo volledig mogelijk beeld te schetsen van de software die (zeer waarschijnlijk) gebruikt is. De onderzoekers zijn daarbij bijgestaan door AI-experts. Omdat de experts de genoemde AI-toepassingen in meer algemene termen duiden, bestaat de kans op onjuiste details of onvolledigheden. Mocht u deze aantreffen, neem dan gerust contact op.