Category Archives: Geen categorie

De LegitiMaat

De overheid heeft veel verschillende taken. Deze taken worden bij wet toegekend aan een bestuursorgaan. Een deel van deze wettelijke taken wordt geautomatiseerd uitgevoerd met algoritmen. Denk aan het opleggen van boetes voor te hard rijden, het terugvorderen van toeslagen of het verlenen van AOW of kinderbijslag. Net als bij een meer zichtbare uitvoering van taken zoals het ophogen van dijken, is het belangrijk om te weten hoe deze processen verlopen en welke keuzen daarbij gemaakt zijn. Want ook de geautomatiseerde uitvoering van wetten is publiek handelen en moet legitiem zijn. Met de LegitiMaat kan de overheid verantwoording afleggen en kunnen deskundigen zich er een mening over vormen

Experimenteel onderzoek met en door de overheid

De LegitiMaat is het resultaat van een experiment dat Marlies van Eck heeft geleid. Samen met diverse bekende namen op het gebied van IT en overheid werkte zij de afgelopen maanden aan een interdisciplinaire werkmethode om algoritmen te beoordelen die gebruikt worden bij het nemen van geautomatiseerde besluiten. De onderzoeksgroep bestaat uit Steven Gort (ICTU), Maike Klip (DUO), Abram Klop (i-Interim Rijk), Mariette Lokin (Ministerie van Financiën), Robert van Doesburg (TNO) Gulia Bössenecker (stagiair BZK en student AI aan de Vu) en Carlijn Oldeman (stagiair Hooghiemstra & Partners en student rechten HAN). Het onderzoek is uitgevoerd in opdracht van het ministerie van BZK.

Er is een klankbordgroep ingesteld met vertegenwoordigers van toezichthouders (AP, ARK en AT) en van Stichting Advisering bestuursrechtspraak. Ook maakte Arjan Widlak en Joris Krijger hiervan deel uit. Bovendien is een wetenschappelijke begeleidingscommissie ingesteld. Hierin zaten professor Bovens (UU), Zouridis (Tilburg University) en Sneller (Universiteit Nyenrode).

Dankzij de openheid en bereidwilligheid van DUO en SVB kon uitgeprobeerd worden hoe de overheid verantwoording kan afleggen over de geautomatiseerde uitvoering van wetten die leidt tot besluiten in de zin van artikel 1:3 Awb. Op 30 juni wordt De LegitiMaat opgeleverd zodat het op GitHub geplaatst kan worden.

Voor wie is De LegitiMaat bedoeld?

De LegitiMaat is een werkmethode om de geautomatiseerde uitvoering van wetten door de overheid op een gestandaardiseerde manier inzichtelijk te maken en te (laten) beoordelen. Het gaat uit van drie perspectieven. Dat van een jurist, auditor en een peer (collega ontwikkelaar).

Het is bedoeld voor publieke organisaties die wetten geautomatiseerd uitvoeren en besluiten nemen in individuele gevallen. Zij kunnen aan de hand van De LegitiMaat documentatie verzamelen om inzicht te geven over bestaande processen. Bij nieuw te ontwikkelen van ITsystemen kunnen zij direct zien wat zij moeten vastleggen om inzicht te geven. De LegitiMaat gaat uit van het vakmanschap van de medewerkers bij de bestuursorganen en van de toenemende vraag in de samenleving dat de overheid rekenschap aflegt over onzichtbare processen.

De LegitiMaat is ook bedoeld voor beoordelaars. De juristen, auditors en collega-ontwikkelaars die inzicht nodig hebben en een oordeel moeten geven over de manier waarop het bestuursorgaan wetten geautomatiseerd uitvoert. Het idee is dat er een community kan ontstaan van deskundigen die met elkaar op een gestandaardiseerde wijze gesprekken voeren. Denk aan Gateway Reviews.

Van wet tot individueel besluit

In de LegitiMaat gaat het om het gehele proces van wet tot aan individueel besluit. Het is gemaakt voor de geautomatiseerde uitvoering van wet- en regelgeving (inclusief uitwerking of interpretatie in beleidsregels) door de overheid met behulp van kennisgebaseerde algoritmen. Kennisgebaseerde algoritmen maken gebruik van regels voor het maken berekeningen, het oplossen van een probleem, het beantwoorden van een vraag of het nemen van een beslissing.

In de hype van machinelearning en datagedreven werken, worden deze processen gauw over het hoofd gezien. Dit terwijl de impact van deze systemen en het belang voor de dagelijkse uitvoering veel groter is.

Lerend vermogen

Met de LegitiMaat kan ook onderzocht worden wat het lerend vermogen is van het bestuursorgaan dat wetten geautomatiseerd uitvoert: leiden bezwaren/klachten/interne signalen tot wijzigingen in de systemen?

Meer weten?

Het onderzoek heeft zoveel mogelijk open plaatsgevonden. Dit betekent dat we tijdens het onderzoek inzicht hebben gegeven in onze stappen. Dit gebeurt in ieder geval in het Engels via A cool experiment in NL: The LegitiMate. Working method to judge the use of algorithms in ADM from 3 perspectives. – Automated administrative decisions and the law (wordpress.com) Na oplevering komt hier een verwijzing naar de methode en de onderzoeksdocumenten. Bel of mail met Marlies als je meer wilt weten (marlies@hooghiemstra-en-partners.nl)

Report: Legal analysis European legislative proposal draft AI act and MDR/IVDR

In April 2021 the European Commission proposed a regulation aimed at the safe and efficient development, implementation and use of artificial intelligence (AI) in all market sectors, the so-called AI Act. Hooghiemstra & Partners and Axon Lawyers have made a legal analysis on request of the Dutch Ministry of Health, Welfare and Sport to compare the draft AI Act proposed by the European Commission with the Medical Device Regulation (MDR) that has already entered into force and soon also the In-vitro Diagnostic Medical Device Regulation (IVDR).
The report contains an analysis of the overlap and possible contradictions between the draft AI Act and the above mentioned legislation, identifies the problems that this may cause and suggests possible solutions. The report concludes that AI in healthcare must be properly regulated but doubts that the draft AI Act, as first proposed, can provide good guidance for the field. The findings of the report focus on the need for further clarification of the definitions and scope mentioned in the draft AI Act, in order to avoid ambiguities and double burdening of the field.
Read the report here.

Hooghiemstra & Partners wordt versterkt door Ingrid Morrema!

Wij zijn heel blij dat mr. Ingrid Morrema vanaf 1 juni werkt bij Hooghiemstra & Partners! Met haar komst versterken we ons team op het gebied van data, ethiek en recht. Ingrid is advocaat en gespecialiseerd in het gebruik van data voor medisch-wetenschappelijk onderzoek en ontwikkeling in de life sciences en gezondheidszorg. Binnen het recht is Ingrid gespecialiseerd in gezondheids- en gegevensbeschermingsrecht met ruime ervaring op het gebied van ondernemingsrecht, governance en bestuursrecht. Zij heeft veel ervaring in het adviseren van zowel ziekenhuizen en onderzoeksinstellingen als biotech-bedrijven, onder meer op het gebied van omgaan met data en lichaamsmateriaal, klinisch onderzoek, intellectueel eigendom, licenties en contracteren in het algemeen. Ook heeft zij ruime expertise op het gebied van mediation en integriteitszaken. Daarnaast is Ingrid lid-jurist en plaatsvervangend lid-jurist in twee medisch-ethische toetsingscommissies.

Met haar brede kennis en ervaring en praktische aanpak kan Ingrid onder andere ziekenhuizen, onderzoeksinstellingen en biotech-bedrijven helpen bij het tackelen van juridisch kwesties bij het uitwisselen van gegevens, lichaamsmateriaal en andere onderzoeksgerelateerde onderwerpen. Het zorgt er ook voor dat Hooghiemstra & Partners nu integraal advies kan leveren bij gegevensdeling in samenwerkingsverbanden tussen publieke en private organisaties. Wij kijken uit naar mooie nieuwe terreinen die we met haar gaan betreden!

Marlies van Eck over de Hermesdorf-prijs voor onderzoek naar algoritmes

Onze collega Marlies van Eck is Mr. van de week. Ze kreeg de Hermesdorf-talentprijs voor haar juridisch onderzoek naar het gebruik van technologie door de overheid. Van harte gefeliciteerd! De prijs is vernoemd naar de man die in de Tweede Wereldoorlog rector magnificus in Nijmegen was. Hij weigerde de studenten een loyaliteitsverklaring aan de Duitse bezetter voor te leggen, wat leidde tot sluiting van de universiteit.

https://www.mr-online.nl/marlies-van-eck-over-de-hermesdorf-prijs-voor-onderzoek-naar-algoritmes/