Wiens schuld is dit?

Leerdoel: Je leert zelf data labelen en wordt je bewust van de subjectiviteit van labeling

Opdracht

Wanneer automatisch teksten worden gegenereerd, bestaat, net als bij handgeschreven artikelen, de kans op fouten. De kans dat die fouten tijdig ontdekt worden, is echter kleiner. Met automatische tekstgeneratie kan het aantal berichten dat je produceert tenslotte flink omhoog. Is er nog tijd om al die berichten te dubbelchecken? En wie is er verantwoordelijk als het fout gaat?

In deze opdracht werken we met een fictieve casus.

Een grote Amerikaanse krant gebruikt automatische tekstgeneratie om dagelijks verslag te doen van financieel nieuws. Op een dag gaat dit mis. Eén van de grote beursgenoteerde bedrijven in de VS, met een grote impact op de wereldmarkt, lijkt ineens diep in het rood te staan bij de presentatie van de jaarcijfers. Een fout, zo blijkt later. Er stond een komma verkeerd. Maar de gevolgen zijn niet meer te stoppen. In paniek blijkt een grote groep aandeelhouders haar aandelen verkocht te hebben. Het gevolg: de beurswaarde van het bedrijf keldert verder. De redactie van de krant herstelt de fout, maar kan de gevolgen voor het bedrijf, de aandeelhouders en de economie niet ongedaan maken.

Wie is hier verantwoordelijk?

Bij het opstellen van geautomatiseerde berichten, zijn verschillende partijen betrokken:

  • de journalist
  • de eindredacteur
  • de hoofdredacteur die besloten heeft de redactie met geautomatiseerde berichtgeving te laten werken
  • het bedrijf dat de software ontwikkeld heeft
  • de developer die de redactie geholpen heeft om de software te gebruiken voor op de redactie

Maak groepjes van vier. De docent deelt papiertjes waar bovenstaande rollen op staan. Leg de papiertjes met je groepje op volgorde van verantwoordelijkheid. Je bepaalt dus wie je het meest verantwoordelijk vindt voor de fout, wie daarna komt, etc., en uiteindelijk wie de minste verantwoordelijkheid draagt. Zorg dat je je keuze kunt beargumenteren.

Bespreking

Bespreek de volgordes van de groepjes klassikaal. Wat valt op? Verschillen de meningen of zijn jullie het eens? En wat betekent dit voor een redactie dit robotjournalistiek in wil zetten? Stel dat jij de hoofdredacteur was en mocht beslissen of en hoe jullie robotjournalistiek zouden inzetten, wat zou je doen?

Materiaal

Tijdsindicatie

35 minuten, waarvan:

  • 10 minuten om het verhaal te lezen
  • 10 minuten om de volgorde van verantwoordelijkheid te bepalen met je groepje
  • 15 minuten om na te spreken
Disclaimer. De onderzoekers hebben geprobeerd alle informatie te verifiëren bij de betrokken media. Waar dit niet is gelukt, is ervoor gekozen om op basis van de beschikbare informatie een zo volledig mogelijk beeld te schetsen van de software die (zeer waarschijnlijk) gebruikt is. De onderzoekers zijn daarbij bijgestaan door AI-experts. Omdat de experts de genoemde AI-toepassingen in meer algemene termen duiden, bestaat de kans op onjuiste details of onvolledigheden. Mocht u deze aantreffen, neem dan gerust contact op.