Category Archives: Publications

Handreiking online onderzoek aangeboden aan Tweede Kamer

Onrustige uitgaansweekenden, jaarwisselingen die uitdraaien op rellen, drillrappers die elkaar uitdagen door ophitsende filmpjes online te zetten: het zijn voorbeelden van (dreigende) openbare ordeverstoringen waar je als gemeente mee te maken kunt krijgen. Een goede informatiepositie is nodig om hier adequaat tegen op te kunnen treden. Veel gemeenten doen daarbij onderzoek in publiek toegankelijke bronnen, maar beseffen vaak onvoldoende dat ze daarbij gebonden zijn aan privacywetgeving.    

In opdracht van het Ministerie van Binnenlandse Zaken heeft Hooghiemstra & Partners samen met onderzoeksbureau Pro Facto een handreiking opgesteld waarin de mogelijkheden en begrenzingen van online onderzoek in publiek toegankelijke bronnen bij het handhaven van de openbare orde worden uitgelegd. Op 26 oktober jl. is de handreiking met bijbehorende documentatie aangeboden aan de Tweede Kamer. 

Gemeenten (specifiek: burgemeesters) hebben de taak om de openbare orde te handhaven, maar staan bij de uitoefening van die taak steeds vaker gesteld voor een lastige opgave. De verwevenheid tussen de digitale en fysieke wereld wordt steeds groter. Dreigende onrust kan zich aankondigen in de digitale wereld en leiden tot onrust in de fysieke wereld. Voor gemeenten ontbreken duidelijke kaders over hoe in dat soort gevallen online onderzoek kan worden gedaan in publiek toegankelijke bronnen.  

De handreiking bevat een stappenplan waarmee gemeenten kunnen beoordelen of zij online onderzoek mogen doen om bepaalde openbare orde bevoegdheden in te kunnen zetten of om een algemeen beeld te kunnen vormen van een (dreigende) openbare orde verstoring. Is het online onderzoek toegestaan, dan kunnen gemeenten in de handreiking zien op welke wijze en onder welke omstandigheden dat online onderzoek mogelijk is, ook wanneer dit betekent dat daarbij persoonsgegevens worden verwerkt. De mogelijkheden tot het uitvoeren van online onderzoek zijn niet onbegrensd, daarom wordt in de handreiking ook duidelijk aangegeven wat de buitengrenzen zijn en in welke vormen en onder welke omstandigheden online onderzoek in publiek toegankelijke bronnen voor het bewaren of herstellen van de openbare orde niet mogelijk is. 

De handreiking is hier te downloaden. Op die plek vind je ook een uitgebreide juridische toelichting op de handreiking en een Q&A-document waarin vooraf gestelde specifieke vragen van gemeenten worden beantwoord. 

Foto: Brett Jordan via Unsplash

Amsterdam Data Collective, Hooghiemstra & Partners en Publyon lanceren Het Innovatiecollectief!

Multidisciplinaire samenwerking

Het Innovatiecollectief is een samenwerking tussen adviesbureaus Hooghiemstra & Partners (H+P), Amsterdam Data Collective (ADC) en Publyon. Wij bieden end-to-end ondersteuning aan organisaties die met data willen innoveren om maatschappelijke impact te creëren. Met deze samenwerking draagt Hooghiemstra & Partners op strategisch en juridisch vlak bij aan datagedreven, ethisch verantwoorde oplossingen. Door onze expertises te bundelen beantwoorden wij aan de groeiende behoefte om deze uitdagingen integraal te benaderen.

Waarom?

Organisaties die datagedreven willen innoveren hebben te maken met steeds complexere uitdagingen. Zo biedt het gebruik van (big) data en kunstmatige intelligentie organisaties veel kansen, maar creëert het ook risico’s met betrekking tot privacy, governance en welzijn van mensen. Vaak spelen er dan ook vragen op het snijvlak van wat technologisch en juridisch mogelijk is en wat politiek-maatschappelijk haalbaar is. Bovendien speelt ethische verantwoording een steeds grotere rol.

Wij zijn Het Innovatiecollectief.

In Het Innovatiecollectief zijn de expertises van de drie adviesbureaus op het gebied van data science, privacy en public affairs verenigd.

Wij bieden end-to-end ondersteuning die zich kenmerkt door een integrale analyse en schaalbare oplossingen. Door te werken in multidisciplinaire teams garanderen wij dat elke datagedreven innovatie responsible by design is en zo positieve maatschappelijke impact heeft.

Hoe we gaan we te werk?

  • Ontwerp
    Door middel van interactieve sessies concretiseren we gezamenlijk de doelstellingen en strategie van het innovatieproject. We helpen om hoofd- en bijzaken te onderscheiden en gieten dit in een heldere routekaart als basis voor de vervolgstappen.
  • Validatie
    Vanuit onze verschillende expertises wegen en beoordelen we de (organisatie)doelstellingen en vertalen we deze naar concrete acties en processen die nodig zijn om datagedreven innovatie te borgen binnen de organisatie. Denk aan haalbaarheidsscans, investeringsplannen en/of technische blueprints.
  • Toepassing
    We ondersteunen met het ontwikkelen en implementeren van datagedreven innovatie. Zowel op technisch gebied in de vorm van tools en modellen, als met het borgen van juridische compliance, het politiek en maatschappelijk draagvlak, en de uitvoering van een Public Affairs-strategie.

Marco Hanegraaff, Multi Intelligence Center: “Ik heb het voorrecht gehad om met Het Innovatiecollectief samen te werken. Door hun integrale aanpak is onze public affairs roadmap niet alleen maatschappelijk verantwoord, maar ook juridisch en technologisch gevalideerd. Dat geeft veel vertrouwen voor partners die zich eventueel aan ons programma willen verbinden. Ik ben bijzonder tevreden over onze samenwerking. Het team is zeer professioneel en plezierig om mee samen te werken. De communicatie verliep soepel en ik zou deze partij dan ook zonder twijfel aanbevelen.”

Meer weten?
Zeker weten dat jouw datagedreven innovatie goed geborgd is op juridisch, technologisch en politiek-maatschappelijk vlak? Neem dan contact op met Lisanne of Thijs.

BNR Eyeopeners: dit is de oplossing voor het delen van gevoelige data

BNR Eyeopeners besteedt elke week aandacht aan een onderwerp dat te maken heeft met technologie en innovatie. In de aflevering van deze week staat multi party computation, kortweg MPC centraal. Deze technologie maakt het mogelijk om gegevens in de bron met een hoogwaardige, state of the art versleuteling te verwerken. Dat maakt het mogelijk om ook gevoelige persoonsgegevens volgens de principes van privacy by design te verwerken.

In deze aflevering gaat onze collega Mariette Lokin  in op de juridische aspecten van toepassing van deze technologie. Thomas Attema van TNO en Roderick Rodenburg van Roseman Labs gaan in op de technische merites van MPC.

Je kan de podcast beluisteren via: https://www.bnr.nl/podcast/eyeopeners/10493216/dit-is-de-oplossing-voor-het-delen-van-gevoelige-data.

 

Mariette Lokin maakt overstap naar Hooghiemstra & Partners

Met trots laten wij weten dat mr.dr. Mariette Lokin op 1 juli is gestart als principal consultant bij Hooghiemstra & Partners! Mariette is een erkend expert met jarenlange ervaring op het gebied van IT en wetgeving. Met haar proefschrift ‘Wendbaar wetgeven, de wetgever als systeembeheerder’ (2018) loopt zij voorop als het gaat om het verenigen van het vakmanschap van de wetgevingsjurist met dat van een IT-professional. In haar proefschrift onderzoekt zij een aanpak om de vertaling van wetgeving naar ICT te ondersteunen. Dit bestaat uit een taalmodel, een wetgevingsvocabulaire en toepassing van de techniek van linked data om de betekenis van wetgeving te duiden. Naast haar werk voor Hooghiemstra & Partners is Mariette verbonden aan de Vrije Universiteit van Amsterdam.

Mariette heeft jarenlange ervaring bij de Rijksoverheid en is nu werkzaam als juridisch adviseur bij de Belastingdienst. Vanuit de Belastingdienst werkte ze al mee aan het project De LegitiMaat.

Hierbij is een werkmethode gemaakt voor het beoordelen van algoritmen voor geautomatiseerde uitvoering van wetten. Mariette gaat zich bij Hooghiemstra & Partners bezighouden met vraagstukken op het gebied van de AVG, informatiehuishouding, multi party computing en authenticatie en autorisatie. De verbinding tussen wetgeving en digitalisering blijft daarin een rode draad.

De LegitiMaat

Onder leiding van Marlies van Eck ontwikkelde een groep experts De LegitiMaat. Dit is een werkmethode om de geautomatiseerde uitvoering van wetten te beoordelen. De LegitiMaat is op 1 juli 2022 aangeboden aan de opdrachtgever, het ministerie van BZK. Het instrument kan door iedereen uitgeprobeerd worden en staat op GitHub. De LegitiMaat hanteert een driedubbele blik: een juridisch perspectief, dat van een auditor en van een IT-ontwikkelaar. In de onderzoeksgroep zaten Mariette Lokin, Steven Gort, Maike Klip, Abram Klop, Giulia Bossenecker, Carlijn Oldeman en Robert van Doesburg.

Waarom is het nodig om geautomatiseerde uitvoering van wetten door de overheid te (laten) beoordelen?

De overheid heeft veel verschillende taken. Deze taken worden bij wet toegekend aan een bestuursorgaan. Een deel van deze wettelijke taken wordt geautomatiseerd uitgevoerd met algoritmen. Denk aan het opleggen van boetes voor te hard rijden, het terugvorderen van toeslagen of het verlenen van AOW of kinderbijslag. Net als bij een meer zichtbare uitvoering van taken zoals het ophogen van dijken, is het belangrijk om te weten hoe deze processen verlopen en welke keuzen daarbij gemaakt zijn. Want ook de geautomatiseerde uitvoering van wetten is publiek handelen en moet legitiem zijn.

Waarover gaat De LegitiMaat nog niet?

De LegitiMaat gaat nog niet over het gebruik van ML door de overheid. Tegen de hype van ‘zelflerende algoritmen’ in, wilde deze groep onderzoekers juist weten hoe mensen wetten vertalen in instructies aan de computer zodat de computer besluiten neemt. Vaak wordt dit gebied vergeten.

Maatschappelijk en wetenschappelijk verantwoord

Vanwege de toenemende roep op toezicht op algoritmen is gezocht naar deskundigen uit de praktijk om mee te sparren. In de klankbordgroep zaten vertegenwoordigers van de Algemene rekenkamer, de Autoriteit Persoonsgegevens en het Agentschap Telecom. Ook Stichting advisering bestuursrechtspraak was vertegenwoordigd alsmede Arjan Widlak van Stichting Kafkabrigade en promovendus Joris Krijger.

De Wetenschappelijke Begeleidingscommissie met professoren Sneller (Universiteit Nyenrode), Bovens (UU) en Zouridis (Tilburg University zorgde ervoor dat we het wiel niet opnieuw gingen uitvinden. Ook hielpen zij ons het grotere plaatje te blijven zien.

Getest in het echt

Wij voegen geen extra toezichtskader toe. Wij wilden eerst weten wat er gebeurt bij de uitvoeringsinstellingen en hoe er op een gestandaardiseerde wijze naar kan worden gekeken. Dankzij de hulp van DUO en SVB konden we onze ideeën uittesten. Nadat we de vakmanschap zagen in combinatie met de zeer ingewikkelde en wisselende uitvoeringspraktijken, kozen we voor het visitatie-onderzoek als werkmethode. Zo kan  de organisatie zich eerst zelf een beeld vormen om vervolgens aan collega experts een oordeel te vragen.

GitHub

Wij kozen voor publicatie van De LegitiMaat op GitHub. Dit maakt het product toegankelijk, ook voor mensen die niet gewend zijn beleidsnota’s te lezen. Inleidende teksten zijn naar Frans voorbeeld geschreven.

Deuren geopend voor studenten

Om de verbinding met het huidig onderwijs te vergroten is er bij dit project aansluiting gezocht met studenten. Er werkten twee studenten mee aan het project en in totaal schreven drie studenten een scriptie door gebruik te maken van de geopende deuren. Dit zijn scripties geworden voor drie universiteiten in drie verschillende afstudeerrichtingen, respectievelijk Universiteit Leiden, bestuursrecht, Vrije Universiteit, AI en Radboud Universiteit, Computer Science & Society.

Niet makkelijk

Voor het beoordelen van algoritmen geldt dat als het makkelijk was, het al lang was gedaan. Het is haast niet mogelijk om taken die al zo’n twintig jaar door bestuursorganen geautomatiseerd worden verricht, van kop tot staart in te zien, te begrijpen of te beoordelen. En daar waar een wet soms een overzichtelijk aantal bepalingen kent, zijn de bijbehorende beslisregels vaak een veelvoud. De LegitiMaat is een eerste poging om de uitvoering vertrouwd te maken met het feit dat ook bij gebruik van technologie de regels gelden van de Awb, algemene beginselen van behoorlijk bestuur en het verbod van discriminatie. En dat de overheid ook hiervoor verantwoording moet afleggen.

Pas op voor de reflex

Het is verleidelijk om ons heil te zoeken in meer regels voor het aanleggen van documentatie, impact assessments en afvinklijsten. Dat gebeurt ook het voorstel van de EC voor de AI Wet. Maar dan gaat er veel tijd en energie zitten in het creëren (en onderzoeken) van een papieren werkelijkheid. Het toch al abstracte onderwerp raakt dan te veel verwijderd van het achterliggende belang. Dit is namelijk dat een overheid zich aantoonbaar aan regels houdt. Die regels zijn er ter bescherming van burgers. Ook bij het gebruik van algoritmen.

Meer Weten?

Over onze zoektocht is meer te vinden in dit overzicht. De Legitimaat (noti.st). We hebben veel documenten verzameld en op een plaats ondergebracht zodat iedereen het kan gebruiken: De LegitiMaat · Regelbeheersing (pleio.nl). Tot slot wordt alle relevante Engelstalige informatie hier bijgehouden: A cool experiment in NL: The LegitiMate. Working method to judge the use of algorithms in ADM from 3 perspectives. – Automated administrative decisions and the law (wordpress.com)

Vragen?
Meer weten over De LegitiMaat? Bel of mail Marlies.

Artikel: Wat betekent het voorstel voor de Europese AI wet voor het Nederlandse bestuursrecht?

De Europese Commissie heeft een voorstel voor een AI verordening opgesteld. Voor het juridische faculteitsblad Actioma van Radboud Universiteit, zet Marlies van Eck op een rij wat het voorstel betekent voor het Nederlandse bestuursrecht.

Klik hier om het artikel te lezen.

De jurist: hufterproof en futureproof?

Op 8 oktober 2021 werd het 150 jarige bestaan gevierd van de Nederlandse Juristen Vereniging, de NJV. Op die dag werden de preadviezen besproken. Onze collega Marlies van Eck was gevraagd te reflecteren op het preadvies van professor Berlee Digitalisering en disruptie in het recht en de gevolgen voor de juridische professies (link).

In deze blog een korte weergave van de reactie van Marlies (ook verbonden aan de Radboud Universiteit).

Dank voor de uitnodiging en de geweldige eer te mogen reageren op het prachtige preadvies van professor Berlee. Zij beschrijft met veel historisch besef de automatisering van juridische taken. Uiteindelijk komt ze tot de conclusie dat juristen ook over 150 jaar nog nodig zullen zijn. Hun werk zal dan misschien meer te vergelijken zijn met dat van een piloot: het creatieve en inhoudelijk moeilijke werk wordt vervuld door de piloot. Het computersysteem is ondersteunend en doet als een automatische piloot het overige werk. Ik vind dat reageren eindeloos veel makkelijker dan zelf iets creëren zoals Berlee deed, en ben dus terughoudend. Mijn 2 cents bestaat uit 3 onderdelen.

  1. Ons werk is al veel meer beïnvloed door IT dan wij denken.
  2. Disruptie komt meestal niet van de beroepsgroep zelf.
  3. Veiligheid.

1.Ons werk is al veel meer beïnvloed door IT dan wij denken.

Wij juristen zijn kenniswerkers. Zonder informatie kunnen we niets. We moeten wetten raadplegen, jurisprudentie bijhouden, snappen welke nieuwe vragen de samenleving heeft en leveren wat van ons gevraagd wordt. Dat laatste vindt dan vaak weer zijn neerslag in wat ook weer een ‘informatieproduct’ kan worden genoemd. Een advies, een akte, wet of een uitspraak. Dit werk is door IT al op tal van aspecten veranderd. Kijkt u mee op de afdeling bezwaar en beroep van de IND dan ziet u een informatiesysteem en geen dossier. Via verschillende tabbladen probeert men een beeld te krijgen van de feiten en de juridische beoordeling. Mijn collega aan de Radboud Universiteit Marielle Rog verricht voor haar proefschrift jurisprudentie-onderzoek. Typisch het werk van een juridisch onderzoeker. Maar zij heeft de uitspraken van rechtspraak.nl gedownload en gebruikt Atlas T.I. om de uitspraken te analyseren.

Onlangs deed ik zelf onderzoek naar het gebruik van algoritmes bij gemeenten. Opvallend was dat bepaalde handelingen zoals het beslissen op aanvragen om een uitkering inmiddels worden gezien als administratieve handelingen met veel handelingsvrijheid van de niet-juridische geschoolde medewerker. Dat is vreemd want a. zonder de software kan de uitkering helemaal niet berekend of toegekend worden en de handelingsvrijheid wordt begrensd door wat het systeem ons gunt. En b. dit was arbeid die vroeger door juristen werd verricht.

Het ís dus al verdwenen. Mijn punt is dan ook dat ons werk al in hoge mate veranderd is maar dat we ons daar niet altijd van bewust zijn.

Er zijn nogal wat juristen die dat helaas dagelijks aantonen. Zij beginnen vol goede moed te schrijven over IT/AI in het recht. Ik hoef maar een blik op het notenapparaat te werpen om te bepalen of het zinvol is hun werk te lezen. Acht van de tien keer zie ik wel de allernieuwste Engelstalige artikelen terug. Maar de traditie die in dit vak -zeker ook in Nederland- is opgebouwd sinds eind jaren ’70 wordt door hen vakkundig genegeerd. Ze bouwen dus niet voort op de schouders van de reuzen. De reden? IT! Ze googelen! Maar de kennis uit dit vakgebied, is vaak niet gedigitaliseerd. Duiken de stukken over IT of computers en recht niet op bij een zoektocht via internet, dan bestaat het kennelijk niet. Hoe ironisch kan het zijn?

2.Disruptie komt niet vanuit de gevestigde orde

Technologie is niet goed of slecht maar ook niet neutraal. Ik herhaal Kranzberg’s eerste wet nog maar eens want onder juristen is dit nog geen gemeengoed. Disruptie komt doorgaans niet van de vakmensen zelf. Hoteliers blijven hoteliers, taxichauffeurs rijden mensen rond, muzikanten schreven hun muziek en eigenlijk deelde niemand zomaar zijn logeerkamer met vreemden. Disruptie komt vaak van buitenaf; booking.com, spotify, uber, of airBnB hebben disruptieve gevolgen. IT is daarbij essentieel in combinatie met het totaal andere verdienmodel. Het is niet te verwachten dat advocaten of rechters zelf disruptief te werk gaan. Het zijn juist de juristen en anderen die geen geprivilegieerde positie hebben die met een totaal ander alternatief de markt op zullen gaan. En dan is het maar de vraag hoeveel de samenleving nog over heeft voor dure, trage en ouderwetse institutionele rechtspraak / rechtshulp en wetten. Denk aan data coöperaties die hun eigen regels maken voor het delen van data, energie-coöperaties en het eigen rechtspraak model van Wikipedia. Zij hebben een eigen Hoge Raad en verkeerden onlangs in een ‘constitutionele crisis’ (link).

Maar ook rechtspraak zelf hoeft niet van rechtbanken te komen. Denk aan Justice as a Service, zoals Kleros, Aragon en Jur. (Zie het onderzoek van Aouidef, Ast en Deffaias.) Mensen kunnen zich als lid van de jury of rechter aanmelden, beslechten een geschil en krijgen daarvoor betaald. Mondialisering en vernetwerking zijn twee kenmerken van IT die we makkelijk vergeten, maar waar we wel veel meer rekening mee moeten houden als we denken aan disruptie.

3.Welke rol biedt IT als het werk onveilig is?

Voor sommigen van ons is het dagelijkse werk gevaarlijk. Hoezeer er ook wordt gesproken over menselijke maat en over ‘heling’ voor de burgers uit de toeslagenaffaire, niet iedere burger is even gezeglijk. Dit betekent dat het leveren van een rechtvaardige samenleving veel persoonlijke offers vraagt die menselijkerwijs misschien niet meer gevraagd kunnen worden.

Steeds meer gemeenten voeren scanauto’s in. Met deze auto’s worden foto’s gemaakt die in een control room door een BOA worden bekeken. Vervolgens wordt bepaald of de kentekenhouder een boete krijgt. Een veel genoemde reden voor de invoering hiervan is het beschermen van de BOA’s. Zij kampen met zware bedreigingen en geweld als zij een boete uitschrijven. Door het werk te verplaatsen naar de scanauto en de control room, loopt de BOA geen risico voor lijf en leden. Mijn Nijmeegse collega professor Van Hout vroeg zich in haar oratie Algemene beginselen van behoorlijk binair bestuur al af hoe we het zouden vinden als de belastingdienst eng kijkende robots zou gaan inzetten om grote belastingschulden te innen bij bepaalde groepen burgers? U vindt het vast niets, maar als ik u vraag nu beslag te gaan leggen op de glimmende speedboten of op grote trekkers, kijkt u persoonlijk ook vast liever naar het plafond. Als we deze bedreigingen, die ons allemaal aangaan als beroepsgroep, niet weten te keren, zullen we misschien genoodzaakt worden tot de inzet van technologie ter bescherming van juristen. Dat we vervangen worden door een informatiezuil die hufterproof is. Ik vond voor u alvast een Outdoor infozuil KLO-Serie. Een vooruitzicht dat om meerdere redenen niet lonkt.

Dus?

De juristen van nu moeten veranderen om hun meerwaarde, namelijk het menselijke, te tonen. Diegene die zich als een productiemedewerker laat aansturen, gericht is op ‘output’ en makkelijk meetbare resultaten, wordt onvermijdelijk vervangen door IT. Maar daarmee is niet gezegd dat de samenleving er rechtvaardiger op is geworden.

Foto: Tingey Injury Law Firm via Unsplash