1. Kunst en AI — Telemagic
2. 1. Kennismaken
3. » Verdieping

AI leert van plaatjes

Roos van Telemagic vertelt dat grote bedrijven veel plaatjes en foto’s hebben. Die plaatjes gebruiken ze om AI te trainen. Veel van die plaatjes zijn van mooie, jonge en krachtige witte mensen.

De computer (AI) leert dan alleen die dingen. Het denkt dan dat er alleen mooie, jonge en krachtige witte mensen bestaan. We zeggen dan dat de computer bevooroordeeld is. Dat betekent dat hij partijdig is. Hij heeft niet genoeg verschillende dingen geleerd. Het is dus belangrijk dat AI leert van veel verschillende plaatjes om zo eerlijk te zijn.

In deze Youtube Shorts video worden animaties getoond die zijn gemaakt met een bevooroordeelde,  oneerlijke AI. De AI heeft in opdracht Barbies gegeneerd voor verschillende landen op basis van informatie die discriminerend is of niet klopt. De Barbies uit Latijns Amerika hebben bijvoorbeeld een veel lichtere huidskleur gekregen dan de vrouwen in het echt hebben, de Barbie uit Zuid Soedan draagt een geweer!

Er gaat nog meer mis. Beantwoord de volgende vragen:

1.10 Wat gaat er mis met de Barbie uit Duitsland?

1.11Welke informatie zou er in de database zitten over Duitsland en welke niet?

Wel:

Niet:

1.12 Noem een manier hoe het probleem van een oneerlijke AI kan worden opgelost?