Nieuwe AI-wetgeving zorgt voor meer transparantie en minder discriminatie

Door een computer gemaakte kunstwerken en schoolverslagen of muziek met de stem van een overleden artiest. Met name in de afgelopen jaren wordt AI voor veel verschillende doeleinden ingezet. De kunstmatige intelligentie wordt getraind op basis van bestaande data. Een computer analyseert patronen in deze data en gebruikt die info om vervolgens naar jouw wens weer nieuwe data te genereren. Dat kan heel nuttig zijn, maar de laatste tijd zijn er ook steeds meer zorgen over de risico's van AI. Daarom praatte de Europese Commissie deze week over strengere AI-regels.

De kern van die nieuwe regels is dat algoritmes niet meer mogen discrimineren en geen emoties meer mogen herkennen. Daarnaast moeten deze algoritmes ook transparant zijn. Een algoritme is eigenlijk niets anders dan een klein onderdeeltje van AI waarmee je één specifieke taak kan uitvoeren.

Discriminerend algoritme

Zo'n discriminerend algoritme kwam bijvoorbeeld naar voren bij de toeslagenaffaire. Door patronen in fraudedata te analyseren, leerde het algoritme zichzelf aan welke groepen een hoger risico op fraude hadden. Maar dat zorgde ervoor dat het algoritme binnen deze groepen ook onschuldige mensen aanwees als fraudeur. Volgens Hermans is AI dus ook niet echt slim of intelligent. Het is een machine die steeds meer gaat lijken op de aangeleverde data. En als een algoritme de verkeerde conclusies uit die data trekt, kan dat ongewenste resultaten opleveren.

Transparantie

De wetgeving rondom transparantie is onder meer van belang bij deepfakes. Dat zijn video's waarbij je bijvoorbeeld het gezicht van een bekend persoon op het lichaam van iemand anders plakt. Daar kan je creatieve dingen mee doen, maar het biedt ook de mogelijkheid om iemand alles te laten doen of zeggen. Een van de gevaren daarvan is dat je politieke leiders alles zou kunnen laten zeggen, waarbij het voor veel mensen niet duidelijk is dat de beelden nep zijn. De verplichte transparantie van algoritmes moet dat voorkomen.

Het is nog niet volledig duidelijk of de nieuwe wetgeving echt ingevoerd wordt. Volgende maand volgt een stemming in het Europees Parlement. Als zij de wet ook goedkeuren, is de verwachting dat de wet begin 2024 af is. Daarna duurt het dan nog een ruime tijd voor de wet geïmplementeerd kan worden.

Het volledige gesprek met Felienne Hermans beluister je hieronder:

Jan-Willem Start Op

Je hoort Jan-Willem Start Op iedere werkdag van 06:00 tot 09:00 uur op NPO Radio 2. Volg het programma op Instagram, Twitter of Facebook voor een exclusief kijkje achter de schermen.