In 2021 is het Impact Assessment Mensenrechten en Algoritmes (IAMA) ontwikkeld. Met het IAMA kunnen organisaties afgewogen discussies voeren over de impact van een algoritme of AI-toepassing op mensenrechten en gepaste maatregelen treffen nemen om risico’s te mitigeren.

Onze opdracht & aanpak

Judith Zoë Blijden, Lieve Smeets en Taetske van der Reijt deden onderzoek naar de interne kwaliteit van IAMA’s die door verschillende overheidsorganisaties zijn uitgevoerd. Wij analyseerden tien IAMA’s en zes privacy-instrumenten van vijf verschillende organisaties. Daarnaast namen wij kwalitatieve interviews af om meer te weten te komen over het IAMA-proces, de beschikbare capaciteit en verbeterpunten voor de toekomst.

Belangrijke bevindingen

Uit het onderzoek blijkt dat de kwaliteit van IAMA’s uiteenloopt. De antwoorden op de vragen uit het assessment varieerden sterk: van kort en onvolledig tot zeer uitgebreid en beargumenteerd. Een aantal vragen werden in alle IAMA’s op een andere manier geïnterpreteerd, of uit het antwoord bleek dat bepaalde terminologie onvoldoende werd begrepen.

Uit de interviews blijkt dat de interne kwaliteit niet altijd iets zegt over de impact van het IAMA-proces op een organisatie. Zo hielp het uitvoeren van IAMA’s bij het voeren van ethische gesprekken en het vergroten van het bewustzijn rondom mensenrechten, algoritmes en AI – ook wanneer de interne kwaliteit minder goed was. Standaardprocedures en voldoende capaciteit om IAMA’s uit te voeren moeten (nog) beter worden gerealiseerd om in de toekomst te kunnen voldoen aan de verplichtingen uit de AI-verordening.

De AI-verordening bevat een toekomstige verplichting voor het uitvoeren van een Fundamental Rights Impact Assessment (FRIA). Organisaties moeten dan bij de inzet van AI-systemen met een hoog risico de impact op mensenrechten in kaart brengen. Het is daarom van belang dat organisaties ervaring opdoen met IAMA’s, hun kennis vergroten en processen inrichten om aan deze verplichting te kunnen voldoen.

Aanknopingspunten voor verbetering

Op basis van de ingevulde IAMA’s en de gesprekken met organisaties komen wij tot drie aanbevelingen. Deze kunnen in de praktijk leiden tot kwalitatief hogere mensenrechtenassessments.

1. Vergroot de mensenrechtenkennis binnen organisaties, bijvoorbeeld door de ontwikkeling van kennisdocumenten, methoden en richtlijnen.
2. Ontwikkel een pre-IAMA om te bepalen of en wanneer een IAMA moet worden uitgevoerd.
3. Verbeter het IAMA: verkort het instrument, verduidelijk aantal inhoudelijke punten en verleg de focus op de mensenrechtentoets.

Lees hier het volledige rapport.

Meer weten?

Vragen over IAMA’s, FRIA’s of impact assessments? Neem contract met de onderzoekers (Judith Zoë Blijden, Lieve Smeets of Taetske van der Reijt) of via info@hooghiemstra-en-partners.nl

Noot: Voor de afronding van dit onderzoek is het IAMA vernieuwd. Daardoor kunnen sommige bevindingen ten tijde van publicatie (mei 2026) achterhaald zijn.

Photo credit: Hanna Barakat  & Archival Images of AI + AIxDESIGN / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/