AI heeft vooral een doel nodig, niet alleen een checklist

Wat voegt het toe om als (overheids)organisatie met ethiek aan de slag te gaan?

“Als we het hebben over AI en algoritmes, dan is het belangrijk dat niet de toepassing zelf het doel is, maar juist een middel om tot een resultaat voor de inwoner te komen. Een ethisch gesprek helpt om dit doel centraal te blijven stellen. Ik heb ervaren dat doelbinding vaak ontbreekt of onderbelicht is wanneer we aan de slag gaan met nieuwe technologie. Door je eerst af te vragen welk probleem je wil oplossen, kun je ook gerichter met algoritmes aan de slag gaan. In plaats van mede overheden te volgen in de AI of algoritme-trend, moet een organisatie zich afvragen of een dergelijke toepassing van algoritme een meerwaarde heeft voor het maatschappelijke doel dat je wil dienen.”

Hoe merk je dat aandacht voor ethiek nodig is bij overheden?

“We kennen allemaal het voorbeeld van de toeslagenaffaire. Hoewel dit initiatief waarschijnlijk met de beste bedoelingen is gestart, was het voornamelijk gericht op efficiëntie en fraudebestrijding. Hierdoor is er te weinig aandacht besteed aan de morele gevolgen van het algoritme. Dit soort voorbeelden hebben ervoor gezorgd dat het onderwerp ethiek nu meer aandacht krijgt. We zien dat Nederland vooroploopt als het gaat over het inzetten van AI en algoritmen. Steeds meer overheden zijn zich ook bewust van de impact die algoritmische toepassingen kunnen hebben op de inwoner.”

Om ethiek concrete handvatten te geven hebben jullie het IAMA ontwikkeld. Hoe gaat deze methode in zijn werk?

“Met het IAMA, oftewel Impact Assessment Mensenrechten en Algoritmes, kan een afgewogen discussie gevoerd worden om wel of niet een algoritmische toepassing te ontwikkelen of in gebruik te nemen. Het IAMA helpt om de gekozen ontwikkeling en implementatie vervolgens op een verantwoorde manier te doen. In het IAMA worden verbanden gelegd met relevante regels, instrumenten en toetsingskaders op het gebied van algoritmen.Bij verschillende overheidsorganisaties geeft de Data School sessies over een casus die de organisatie inbrengt. Hier gaan we met de methode als leidraad in gesprek over de gevolgen van een algoritmische toepassing. Het liefst sluiten we dan aan voordat een toepassing in gebruik wordt genomen, zodat het duidelijk is wat een algoritme doet en waarvoor dit dient. Dit helpt de organisaties ook om de omschrijving van het algoritme in het algoritmeregister helder te krijgen.”

We kennen de DPIA, maar wat is het verschil met een IAMA?

“Waar een DPIA voornamelijk ingaat op de privacy binnen een toepassing, behandelt een IAMA meerdere grondrechten. Bijvoorbeeld het gelijkheidsbeginsel en het recht op behoorlijk bestuur. Een IAMA heeft op die manier een veel inclusievere benadering dan een DPIA.We zien wel dat overheden een IAMA vaak een hoop werk vinden.  Daarom heeft het Ministerie van Binnenlandse Zaken ons gevraagd om een pre-IAMA te ontwikkelen. Hiermee kun je beoordelen in wat voor een soort risicogroep jouw algoritme valt en of het doorlopen van een IAMA wel noodzakelijk is. Het resultaat is een advies hierover. Het is de bedoeling dat de pre-IAMA laagdrempeliger is en minder tijdsintensief, zodat je een IAMA inzet waar het nodig is.”

Vanaf begin 2026 verplicht de AI-act ook om de impact op grondrechten te toetsen in het geval van een ‘hoog risico toepassing’. Hoe verhoudt dit zicht tot een IAMA?

“Leuk om te vermelden is dat deze eis van de AI-act geïnspireerd is door het IAMA. De act vraagt namelijk om een grondrechtentoets voor hoog risico toepassingen, maar ik zou adviseren om de complexiteit van een toepassing niet leidend te laten zijn voor de keuze of je een algoritme of AI ethisch beoordeeld. Een IAMA helpt namelijk om het doel – resultaat opleveren voor de inwoner – leidend te laten zijn wanneer je nieuwe technologie inzet. Dit kan ook bij minder complexe toepassingen veel toegevoegde waarde hebben.”

Stel je wil bij jouw organisatie aan de slag met ethiek; waar begin je dan?

“Wat mij betreft begint ethiek bij bewustwording: organiseer kennissessies en ga laagdrempelig met elkaar in gesprek over het belang van ethiek. Begin met praktische voorbeelden. Het is belangrijk dat ethiek breed gedragen is in de organisatie en je het onderwerp niet van één iemand afhankelijk maakt, bijvoorbeeld in de rol van een ethisch officer. Deze functie kun je wel inzetten om meer aandacht te genereren, maar er moet breder bewustzijn aanwezig zijn in de organisatie. Een valkuil kan zijn om naar ethiek te kijken vanuit de wettelijke

verplichting die de AI-act straks voorschrijft, maar ethiek is geen checklist om bepaalde waarden af te vinken. Het gaat erom dat je het gesprek met elkaar voert en vooraf goed nadenkt over; met welk doel zetten we deze toepassing in en wat zijn de (onbedoelde) neveneffecten? Dat ‘waarom’ kan dan in lijn zijn met de organisatiewaarden zijn die je wil nastreven. Eigenlijk is het in de basis heel basaal, maar des te moeilijker in de praktijk.”   Welke tip zou je overheden meegeven wanneer ze aan de slag gaan met AI en Algoritme? “Verbeter het proces en het systeem waarin je werkt eerst voordat je aan de slag gaat met algoritmisering en robotisering. Weet de inwoner wat hij moet doen wanneer hij moet doen bij een digitale aanvraag en kan die persoonlijk bezwaar maken als er iets niet goed gaat? Of wordt je dan in een soort doolhof van automatisering geleid en krijg je nooit een medewerker te pakken? Ook belangrijk is dat je transparant naar de maatschappij bent in hoe en waarom je bepaalde toepassingen gebruikt. Zo is het voor de burger duidelijk waar diegene aan toe is als je contact hebt met de overheid. Het start eenvoudig: ga met elkaar in gesprek over het doel dat een nieuwe digitale toepassing moet dienen en hoe deze de dienstverlening versterkt. Dan kom je tot de kern van het werk; de maatschappij een stukje beter maken.”   Meer weten? Wil je meer weten over de IAMA-methode? Neem dan contact op met Julia via j.straatman@uu.nl, of met de Data School van de Universiteit Utrecht via dataschool@uu.nl Onze adviseurs van Native Consulting kunnen je helpen met het borgen van ethiek in jouw organisatie. Bekijk ook ons stappenplan digitale ethiek. Voor meer vragen, neem contact op met Tessa Koelewijn of Ollie Peijnenburg.

Tessa Koelewijn t.koelewijn@nativeconsulting.nl 06-51725797 Ollie Peijnenburg o.peijnenburg@nativeconsulting.nl 06-16170613