Author Archives: MvE

Onderzoek naar bescherming van burgers die in de Integrale persoonsgerichte Aanpak Radicalisering zijn opgenomen

De Stuurgroep Veiligheid en Zorg van Amsterdam heeft een Integrale persoonsgerichte Aanpak-Radicalisering (iPGA-R). De aanpak is onderdeel van de inzet die de overheid op verschillende terreinen doet om het risico op extremistisch geweld te reduceren. Binnen de aanpak streven de samenwerkende partijen naar het creëren van een gemeenschappelijk beeld en de inzet van gezamenlijk bepaalde interventies, die de kans verminderen dat (in de iPGA-R opgenomen personen) tot extremistisch geweld overgaan. In 2021 is een tijdelijke Commissie van Toezicht in het leven geroepen. De Stuurgroep Veiligheid en Zorg vroeg de commissie een oordeel te geven over de mate van bescherming van individuen in de aanpak tegen disproportioneel of onzorgvuldig optreden door de overheid. Marlies van Eck en Lisanne Kramer van Hooghiemstra & Partners werkten hiervoor samen met wetenschapper Jelle van Buuren van Universiteit Leiden en Aris Veldhuisen en Floor Hoogenboom van AEF.  Extra bijzonder was dat het onderzoek plaatsvond tijdens de coronapandemie zodat alle vergaderingen, dossieronderzoek en interviews online waren. Van het onderzoek is verslag gedaan in een rapport. Dat staat hier: https://amsterdam.raadsinformatie.nl/document/11333184/1/6a__Rapportage_CvT_-_De_belangen_van_burgers_in_de_iPGA-R_%28december_2021%29

Over de opvolging van het rapport stuurde de burgemeester van Amsterdam deze brief aan de gemeenteraad: https://amsterdam.raadsinformatie.nl/document/11333182/1/20220314+Raadsbrief+rapport+CvT

Foto credit: Cale Weaver via Unsplash

Marlies van Eck over de Hermesdorf-prijs voor onderzoek naar algoritmes

Onze collega Marlies van Eck is Mr. van de week. Ze kreeg de Hermesdorf-talentprijs voor haar juridisch onderzoek naar het gebruik van technologie door de overheid. Van harte gefeliciteerd! De prijs is vernoemd naar de man die in de Tweede Wereldoorlog rector magnificus in Nijmegen was. Hij weigerde de studenten een loyaliteitsverklaring aan de Duitse bezetter voor te leggen, wat leidde tot sluiting van de universiteit.

Lees hier het interview.

De jurist: hufterproof en futureproof?

Op 8 oktober 2021 werd het 150 jarige bestaan gevierd van de Nederlandse Juristen Vereniging, de NJV. Op die dag werden de preadviezen besproken. Onze collega Marlies van Eck was gevraagd te reflecteren op het preadvies van professor Berlee Digitalisering en disruptie in het recht en de gevolgen voor de juridische professies (link).

In deze blog een korte weergave van de reactie van Marlies (ook verbonden aan de Radboud Universiteit).

Dank voor de uitnodiging en de geweldige eer te mogen reageren op het prachtige preadvies van professor Berlee. Zij beschrijft met veel historisch besef de automatisering van juridische taken. Uiteindelijk komt ze tot de conclusie dat juristen ook over 150 jaar nog nodig zullen zijn. Hun werk zal dan misschien meer te vergelijken zijn met dat van een piloot: het creatieve en inhoudelijk moeilijke werk wordt vervuld door de piloot. Het computersysteem is ondersteunend en doet als een automatische piloot het overige werk. Ik vind dat reageren eindeloos veel makkelijker dan zelf iets creëren zoals Berlee deed, en ben dus terughoudend. Mijn 2 cents bestaat uit 3 onderdelen.

  1. Ons werk is al veel meer beïnvloed door IT dan wij denken.
  2. Disruptie komt meestal niet van de beroepsgroep zelf.
  3. Veiligheid.

1.Ons werk is al veel meer beïnvloed door IT dan wij denken.

Wij juristen zijn kenniswerkers. Zonder informatie kunnen we niets. We moeten wetten raadplegen, jurisprudentie bijhouden, snappen welke nieuwe vragen de samenleving heeft en leveren wat van ons gevraagd wordt. Dat laatste vindt dan vaak weer zijn neerslag in wat ook weer een ‘informatieproduct’ kan worden genoemd. Een advies, een akte, wet of een uitspraak. Dit werk is door IT al op tal van aspecten veranderd. Kijkt u mee op de afdeling bezwaar en beroep van de IND dan ziet u een informatiesysteem en geen dossier. Via verschillende tabbladen probeert men een beeld te krijgen van de feiten en de juridische beoordeling. Mijn collega aan de Radboud Universiteit Marielle Rog verricht voor haar proefschrift jurisprudentie-onderzoek. Typisch het werk van een juridisch onderzoeker. Maar zij heeft de uitspraken van rechtspraak.nl gedownload en gebruikt Atlas T.I. om de uitspraken te analyseren.

Onlangs deed ik zelf onderzoek naar het gebruik van algoritmes bij gemeenten. Opvallend was dat bepaalde handelingen zoals het beslissen op aanvragen om een uitkering inmiddels worden gezien als administratieve handelingen met veel handelingsvrijheid van de niet-juridische geschoolde medewerker. Dat is vreemd want a. zonder de software kan de uitkering helemaal niet berekend of toegekend worden en de handelingsvrijheid wordt begrensd door wat het systeem ons gunt. En b. dit was arbeid die vroeger door juristen werd verricht.

Het ís dus al verdwenen. Mijn punt is dan ook dat ons werk al in hoge mate veranderd is maar dat we ons daar niet altijd van bewust zijn.

Er zijn nogal wat juristen die dat helaas dagelijks aantonen. Zij beginnen vol goede moed te schrijven over IT/AI in het recht. Ik hoef maar een blik op het notenapparaat te werpen om te bepalen of het zinvol is hun werk te lezen. Acht van de tien keer zie ik wel de allernieuwste Engelstalige artikelen terug. Maar de traditie die in dit vak -zeker ook in Nederland- is opgebouwd sinds eind jaren ’70 wordt door hen vakkundig genegeerd. Ze bouwen dus niet voort op de schouders van de reuzen. De reden? IT! Ze googelen! Maar de kennis uit dit vakgebied, is vaak niet gedigitaliseerd. Duiken de stukken over IT of computers en recht niet op bij een zoektocht via internet, dan bestaat het kennelijk niet. Hoe ironisch kan het zijn?

2.Disruptie komt niet vanuit de gevestigde orde

Technologie is niet goed of slecht maar ook niet neutraal. Ik herhaal Kranzberg’s eerste wet nog maar eens want onder juristen is dit nog geen gemeengoed. Disruptie komt doorgaans niet van de vakmensen zelf. Hoteliers blijven hoteliers, taxichauffeurs rijden mensen rond, muzikanten schreven hun muziek en eigenlijk deelde niemand zomaar zijn logeerkamer met vreemden. Disruptie komt vaak van buitenaf; booking.com, spotify, uber, of airBnB hebben disruptieve gevolgen. IT is daarbij essentieel in combinatie met het totaal andere verdienmodel. Het is niet te verwachten dat advocaten of rechters zelf disruptief te werk gaan. Het zijn juist de juristen en anderen die geen geprivilegieerde positie hebben die met een totaal ander alternatief de markt op zullen gaan. En dan is het maar de vraag hoeveel de samenleving nog over heeft voor dure, trage en ouderwetse institutionele rechtspraak / rechtshulp en wetten. Denk aan data coöperaties die hun eigen regels maken voor het delen van data, energie-coöperaties en het eigen rechtspraak model van Wikipedia. Zij hebben een eigen Hoge Raad en verkeerden onlangs in een ‘constitutionele crisis’ (link).

Maar ook rechtspraak zelf hoeft niet van rechtbanken te komen. Denk aan Justice as a Service, zoals Kleros, Aragon en Jur. (Zie het onderzoek van Aouidef, Ast en Deffaias.) Mensen kunnen zich als lid van de jury of rechter aanmelden, beslechten een geschil en krijgen daarvoor betaald. Mondialisering en vernetwerking zijn twee kenmerken van IT die we makkelijk vergeten, maar waar we wel veel meer rekening mee moeten houden als we denken aan disruptie.

3.Welke rol biedt IT als het werk onveilig is?

Voor sommigen van ons is het dagelijkse werk gevaarlijk. Hoezeer er ook wordt gesproken over menselijke maat en over ‘heling’ voor de burgers uit de toeslagenaffaire, niet iedere burger is even gezeglijk. Dit betekent dat het leveren van een rechtvaardige samenleving veel persoonlijke offers vraagt die menselijkerwijs misschien niet meer gevraagd kunnen worden.

Steeds meer gemeenten voeren scanauto’s in. Met deze auto’s worden foto’s gemaakt die in een control room door een BOA worden bekeken. Vervolgens wordt bepaald of de kentekenhouder een boete krijgt. Een veel genoemde reden voor de invoering hiervan is het beschermen van de BOA’s. Zij kampen met zware bedreigingen en geweld als zij een boete uitschrijven. Door het werk te verplaatsen naar de scanauto en de control room, loopt de BOA geen risico voor lijf en leden. Mijn Nijmeegse collega professor Van Hout vroeg zich in haar oratie Algemene beginselen van behoorlijk binair bestuur al af hoe we het zouden vinden als de belastingdienst eng kijkende robots zou gaan inzetten om grote belastingschulden te innen bij bepaalde groepen burgers? U vindt het vast niets, maar als ik u vraag nu beslag te gaan leggen op de glimmende speedboten of op grote trekkers, kijkt u persoonlijk ook vast liever naar het plafond. Als we deze bedreigingen, die ons allemaal aangaan als beroepsgroep, niet weten te keren, zullen we misschien genoodzaakt worden tot de inzet van technologie ter bescherming van juristen. Dat we vervangen worden door een informatiezuil die hufterproof is. Ik vond voor u alvast een Outdoor infozuil KLO-Serie. Een vooruitzicht dat om meerdere redenen niet lonkt.

Dus?

De juristen van nu moeten veranderen om hun meerwaarde, namelijk het menselijke, te tonen. Diegene die zich als een productiemedewerker laat aansturen, gericht is op ‘output’ en makkelijk meetbare resultaten, wordt onvermijdelijk vervangen door IT. Maar daarmee is niet gezegd dat de samenleving er rechtvaardiger op is geworden.

Foto: Tingey Injury Law Firm via Unsplash

Artikel ICT&Health: wetsvoorstel Elektronische Gegevensuitwisseling in de Zorg: een revolutie?

Theo Hooghiemstra, Thijs Drouen en Mark de Hek hebben een mooi artikel geschreven voor ICT&Health over het wetsvoorstel Gegevensuitwisseling in de Zorg (Wegiz). De Wegiz verplicht zorgaanbieders om per gegevensuitwisseling erop toe te zien dat zorgverleners gegevens onderling tenminste elektronisch uitwisselen. Het is een revolutie, omdat de overheid de regie neemt. Ons parlement buigt zich dit jaar over de Wegiz. Klik hier om het artikel te lezen.

Rapport: Strategische visie Plan van Aanpak geïntegreerd eID-stelsel

Theo Hooghiemstra van Hooghiemstra & Partners stelde in opdracht van het Ministerie van Binnenlandse Zaken en Koninkrijkrelaties een strategische visie in de vorm van een plan van aanpak op voor een eID-stelsel. Dit behelst een geïntegreerd stelsel van elektronische identificatie en authenticatie voor burgers en bedrijven. De visie is opgesteld vanuit strategisch-juridisch perspectief. Het gehele rapport is hier terug te lezen: Strategische visie Plan van Aanpak geïntegreerd eID-stelsel.

Foto credit: Georgi Dyulgerov via Unsplash.

Blog: Maar wat vindt u nou van Robocop?

Minister Grapperhaus zal raar hebben opgekeken toen hem werd gevraagd wat hij van Robocop vond. De ouderen onder u zullen bij Robocop denken aan een film uit de vorige eeuw, misschien zelfs even aan Paul Verhoeven en Jan de Bont. Ook later zijn er Robocop films uitgebracht, sci-fi films met de ondertitel: ‘Part man, part machine, all cop. The future of law enforcement.’ Het idee is duidelijk; wetshandhaving door een robot is de toekomst en de bestrijding van criminaliteit wordt uitbesteed aan de markt.

De Robocopvraag
De aanleiding van de Robocopvraag was een brief aan de Tweede Kamer over het gebruik van Artificiële Intelligentie (AI) door de politie. In deze brief legde de minister uit welke initiatieven er zijn en wat de richtlijnen zijn. De leden van de Tweede Kamer stelden veel vragen maar absolute uitsmijter was toch wel de vraag wat -in de ogen van de minister- de positieve en negatieve kanten waren van Robocop. Het antwoord was teleurstellend; de minister vond dat het niet aan hem was om in te gaan op de kwaliteiten, positieve en negatieve kanten van fictieve karakters uit Hollywoodfilms.

Digidogs
Eerst moest ik vooral heel hard lachen. Was er dan zo weinig kennis en creativiteit voorhanden dat we alleen kritische vragen kunnen stellen als we denken aan thrillers? Was dit het niveau van bestuurlijk Nederland? Tot ik aan minister Blok dacht: onze eerste Designated Survivor, onmiskenbaar geïnspireerd op de gelijknamige serie. In 2020 hadden we er ook een, maar dat was een ‘niet nader te noemen minister’. TV-series en films zijn dus hartstikke belangrijk. En de vraag naar Robocop leverde wel degelijk een boeiend antwoord op, namelijk dat de politie op kleine schaal met robotisering experimenteert. En dat is weer interessant als u weet dat in New York de politie laatst de Digidog inzette, de robot van Boston Dynamics, uitgerust met camera’s. Dit leidde tot waarschuwingen van juristen voor opkomende militarisering van de politie en de oproep om het gebruik van gewapende robots door de politie te verbieden.

Kennis, kennis, kennis
Kortom, wat eerst sci-fi van bedenkelijke kwaliteit leek te zijn, is ineens een actueel juridisch onderwerp geworden. En dat maakt dat iedereen een inhaalslag nodig heeft om te begrijpen welke technologieën er zijn, hoe deze werken en tot welke juridische en maatschappelijke vragen dit kan leiden. Dat dit mogelijk is bewijst de Nationale AI cursus. Deze gratis online cursus heeft de doelstelling inmiddels gehaald; 1% van alle inwoners heeft deze cursus afgerond! De ambitie is daarom verhoogd naar 5% van alle inwoners. De opleiding is iets aangepast en wordt steeds aangevuld met actuele clips. Er komen ook cursussen voor doelgroepen, binnenkort verschijnt de eerste: een AI-cursus voor de Zorg.

Leergang AI voor juristen
Maar wilt u dieper de materie in? Dan hebben we heel goed nieuws. Bij JPAO Leiden is een fantastische leergang opgezet: AI voor juristen. Door topwetenschappers en ervaringsdeskundigen wordt u geïnformeerd over AI, het gebruik van AI en de juridisch en ethische vragen die daarbij spelen. We laten u zien hoe AI werkt en u krijgt een literatuuroverzicht van de laatste wetenschappelijke inzichten. Bij Hooghiemstra & Partners zijn we ontzettend trots dat we hier aan meewerken. We hopen dan ook u dit najaar te treffen. Ondertussen kunt u natuurlijk gewoon gaan Netflixen (of de serie NeXT kijken), want zoals gezegd; dat is toch relevanter dan het lijkt.

Door: Marlies van Eck, 31-03-2021.

Foto: ThisisEngineering via Unsplash

Artikel AD: Hagaziekenhuis zal écht aan privacywet moeten voldoen

Vorige week werd bekend dat het HagaZiekenhuis opnieuw niet goed is omgegaan met gegevens van patiënten. Privacyexperts waarschuwen dat slordig omgaan met gevoelige data écht niet kan. ‘Het medisch beroepsgeheim is belangrijk, zodat niemand bang hoeft te zijn om naar een zorgverlener te stappen.’ Theo Hooghiemstra werd hierover geïnterviewd door het AD.

Klik hier om het AD-artikel verder te lezen.

Foto: Zhen Hu via Unsplash