De EU komt in actie! Artificial intelligence (AI) moet beperkt worden met nieuwe regels. En hoe ingrijpender de AI, hoe strenger die regels zijn. De EU richt zijn regelgevende pijlen vooral op ‘hoog risico-AI’, denk aan toepassingen die kredietwaardigheid beoordelen of geautomatiseerd sollicitaties verwerken. Maar ook biometrische identificatie zoals gezichtsherkenning en misschien ook wel het vaststellen van fraude met toeslagen. Goed nieuws, zou je zeggen. Want het is kristalhelder geworden dat er verwerpelijke kanten kunnen zitten aan AI.
Direct na het bekend worden van deze EU-plannen zagen we twee voor de hand liggende reacties. AI-experts en -ontwikkelaars zijn bang dat EU-regelgeving de AI-industrie in Europa zal verstikken, juist nu er ook allerlei fondsen komen om die industrie te stimuleren. Aan de andere kant van het spectrum vinden we kritische Europarlementariërs en burgerrechtenorganisaties die vinden dat het niet ver genoeg gaat of die bang zijn dat de industrie onder de regels uit zal weten te komen.
Wie bepaalt of het systeem echt zo werkt?
Beide scenario’s zijn zeker denkbaar: een software-industrie die van oudsher zeer beducht is voor regelgeving van welke aard dan ook. Zeker als het om de werking van hun producten gaat (bijvoorbeeld de veiligheid). De maker moet dan de juiste werking kunnen garanderen, iets wat als het om software gaat zelden gebeurt. Terwijl het nu juist dat is wat de EU verplicht wil stellen: de exacte werking van een AI-systeem moet duidelijk zijn én de data moeten kwalitatief goed zijn, zodat vooroordelen en andere kwalijke missers niet kunnen voorkomen. Wie gaat dat voor elkaar krijgen? Zelfs als er een heldere beschrijving komt van hoe het AI-systeem geacht wordt te werken, wil dat niet zeggen dat het systeem ook echt zo werkt. Wie gaat dat controleren en op grond waarvan?
Reële bezwaren
Dan de tegenwerpingen van kritische Europarlementariërs en burgerrechtenorganisaties. Ik denk dat er geen goede wetgeving is te maken die onmogelijk te omzeilen valt, geen mazen bevat of voor verschillende uitleg vatbaar is. De bezwaren tegen ongebreidelde AI-toepassingen zijn bovendien zeker reëel. Niemand zit te wachten op systemen met vooroordelen die discriminatie in de hand werken of die ten onrechte mensen betichten van fraude met toeslagen.
Nadenken is winst
EU-regels – of welke regels dan ook – zullen niet voorkomen dat er verkeerd functionerende AI-systemen op de markt komen. Het betekent natuurlijk niet dat de EU-regels zinloos zijn. Ze dwingen de ontwikkelaars om goed na te denken over de AI in de systemen die ze ontwikkelen en de data die ze gebruiken om die systemen te trainen. Dat is winst. Nádenken zal de verdere ontwikkeling van AI zeker niet frustreren.
De verleiding is te groot
Het is een illusie dat regels technologie kunnen beteugelen. Dat kunnen alleen wijzelf door beter na te denken over technologie die we inzetten. AI betekent niet dat we onze eigen intelligentie niet meer nodig hebben. Als we een sollicitatiesysteem willen inzetten dat niet discrimineert én we vragen dat de sollicitant in het team moet passen, wat is dan het resultaat? En als kamerbreed geëist wordt dat fraude met toeslagen hard wordt aangepakt? Wie realiseert zich dan dat als het AI-systeem een grote kans op fraude aangeeft het niet wil zeggen dat fraude daadwerkelijk heeft plaatsgevonden? De verleiding om onze intelligentie uit te besteden aan een (AI-)systeem is veel te groot. Daar staat de EU machteloos tegenover. Technologie beteugelen zal uit onszelf moeten komen.
Hans van Raaij, senior consultant bij MCS PR
