ik wil…    ai begrijpen     journalistieke voorbeelden      lesmateriaal  

Antwoordmodel: Generatieve AI zit vol vooroordelen – en daar kun jij wat aan doen

Wat belangrijk is om te weten bij het uitvoeren bij deze opdracht, is dat ChatGPT een moderatielaag toevoegt aan de tool. Dat wil zeggen dat het model niet vrij is om te reageren op prompts, maar in sommige gevallen gebonden is aan specifieke regels, die mensen de tool opleggen. OpenAI probeert uitglijders te voorkomen door mensen in Kenia voor minder dan twee euro per uur de output van ChatGPT te laten controleren. Waar nodig, worden regels toegevoegd. Dit is een poging om te voorkomen dat ChatGPT politiek gevoelige, racistische of andere incorrecte uitspraken doet.

Het is goed om onderscheid te maken tussen de tool en het onderliggende model. Het model doet de wiskunde aan de achterkant, de tool is de gebruiksvriendelijke voorkant, waarmee jij uit de voeten kan. Je kunt het vergelijken met een app: wat je ziet en gebruikt is de voorkant (de tool). De code aan de achterkant (het model) zie je niet.

Helaas is het in de praktijk niet altijd makkelijk om onderscheid te maken tussen de tool en het model. De tool geeft een antwoord op jouw prompt. Of dit antwoord onderhevig is geweest aan moderatie, of dat het rechtstreekse output van het model is, weet je niet.

De scheiding tussen tool en model verklaart ook waarom ChatGPT het ene moment een vraag nog wel wil beantwoorden en later niet meer. Het model is in die korte tijd waarschijnlijk niet verandert, maar de moderatielaag in de tool wel. Dit laat ook zien waarom er verschillen zijn tussen tools die (bijna) dezelfde modellen gebruiken, maar hele andere reacties geven. De constructie van de tool geeft ruimte om de normen en waarden van de makers te verwerken, meer dan in het model. Het is goed om daar als journalist van op de hoogte te zijn.

De opdrachten
Omdat de moderatielaag van het model doorlopend wordt aangescherpt, is de reactie van het model niet te voorspellen. Belangrijk is daarom vooral dat de studenten experimenteren en het effect van hun eigen taalgebruik op de output ontdekken.

Bij opdracht 1 kunnen studenten bijvoorbeeld proberen wat het oplevert als je ChatGPT vertelt dat een grap niet kwetsend of beledigend hoeft te zijn.

Bij opdracht 2 kunnen ze bijvoorbeeld kijken of ChatGPT hetzelfde reageert op vragen over zuinigheid, als op vragen over spaarzaamheid of gierigheid.