Auteur archieven: Helen Hukshorn

Dokter Big Tech

In de documentaire ‘Praxis Dr. Zuckerberg – Gesund mit Algorithmen’ zien we hoe graag Big Tech bedrijven als Google en Apple patiëntgegevens willen hebben. Theo Hooghiemstra van Hooghiemstra en Partners vertelt in de dinsdagetalage van de VPRO dat het niet wenselijk is om een almachtige partij in de zorgwereld te hebben. Een situatie waarin bijvoorbeeld Amazon zowel verzekeraar als farmaceut is, moeten we in Europa niet willen.

Theo promoveerde op het gebied informationele zelfbeschikking in de zorg. Hij deed twee aanbevelingen: verbied de handel in medische data en veranker het patiëntgeheim in de zorg. Hij hoopt dat de Nederlandse overheid iets doet met zijn advies. De Tweede Kamer is ermee bezig: zo staat bijvoorbeeld wetgeving over medische data (Wegiz) op de agenda. Een begin, maar dit wetsvoorstel geeft de patiënt nog geen tegenmacht tegen Big Tech.

Lees het hele artikel hier. Geïnteresseerd in het proefschrift van Theo? Ook deze is online terug te lezen. Klik hier voor het proefschrift.

Foto credit via Unsplash.

 

Gezamenlijke opinie privacy experts: ministers verschuilen zich onterecht achter de AVG

Eind maart verklaarden zowel de minister van Buitenlandse Zaken als de minister voor Rechtsbescherming dat zij iets belangrijks niet konden vanwege ‘de AVG’ of ‘de privacywet’. Reden voor Marlies van Eck om samen met Jeroen Terstegge, Friederike van der Jagt, Anna Berlee, Simone Huting en Simone van der Hof in de pen te klimmen. In Trouw betogen zij dat het uitblijven van actie eerder lijkt te worden veroorzaakt doordat de overheid te verkokerd is. Integraal zicht op problemen en dus ook op oplossingen is noodzakelijk. Lees de opinie van privacy experts hier: artikel Trouw.

Artikel: Wat betekent het voorstel voor de Europese AI wet voor het Nederlandse bestuursrecht?

De Europese Commissie heeft een voorstel voor een AI verordening opgesteld. Voor het juridische faculteitsblad Actioma van Radboud Universiteit, zet Marlies van Eck op een rij wat het voorstel betekent voor het Nederlandse bestuursrecht.

Klik hier om het artikel te lezen.

Onderzoek naar bescherming van burgers die in de Integrale persoonsgerichte Aanpak Radicalisering zijn opgenomen

De Stuurgroep Veiligheid en Zorg van Amsterdam heeft een Integrale persoonsgerichte Aanpak-Radicalisering (iPGA-R). De aanpak is onderdeel van de inzet die de overheid op verschillende terreinen doet om het risico op extremistisch geweld te reduceren. Binnen de aanpak streven de samenwerkende partijen naar het creëren van een gemeenschappelijk beeld en de inzet van gezamenlijk bepaalde interventies, die de kans verminderen dat (in de iPGA-R opgenomen personen) tot extremistisch geweld overgaan. In 2021 is een tijdelijke Commissie van Toezicht in het leven geroepen. De Stuurgroep Veiligheid en Zorg vroeg de commissie een oordeel te geven over de mate van bescherming van individuen in de aanpak tegen disproportioneel of onzorgvuldig optreden door de overheid. Marlies van Eck en Lisanne Kramer van Hooghiemstra & Partners werkten hiervoor samen met wetenschapper Jelle van Buuren van Universiteit Leiden en Aris Veldhuisen en Floor Hoogenboom van AEF.  Extra bijzonder was dat het onderzoek plaatsvond tijdens de coronapandemie zodat alle vergaderingen, dossieronderzoek en interviews online waren. Van het onderzoek is verslag gedaan in een rapport. Dat staat hier: https://amsterdam.raadsinformatie.nl/document/11333184/1/6a__Rapportage_CvT_-_De_belangen_van_burgers_in_de_iPGA-R_%28december_2021%29

Over de opvolging van het rapport stuurde de burgemeester van Amsterdam deze brief aan de gemeenteraad: https://amsterdam.raadsinformatie.nl/document/11333182/1/20220314+Raadsbrief+rapport+CvT

Foto credit: Cale Weaver via Unsplash

Marlies van Eck over de Hermesdorf-prijs voor onderzoek naar algoritmes

Onze collega Marlies van Eck is Mr. van de week. Ze kreeg de Hermesdorf-talentprijs voor haar juridisch onderzoek naar het gebruik van technologie door de overheid. Van harte gefeliciteerd! De prijs is vernoemd naar de man die in de Tweede Wereldoorlog rector magnificus in Nijmegen was. Hij weigerde de studenten een loyaliteitsverklaring aan de Duitse bezetter voor te leggen, wat leidde tot sluiting van de universiteit.

Lees hier het interview.

De jurist: hufterproof en futureproof?

Op 8 oktober 2021 werd het 150 jarige bestaan gevierd van de Nederlandse Juristen Vereniging, de NJV. Op die dag werden de preadviezen besproken. Onze collega Marlies van Eck was gevraagd te reflecteren op het preadvies van professor Berlee Digitalisering en disruptie in het recht en de gevolgen voor de juridische professies (link).

In deze blog een korte weergave van de reactie van Marlies (ook verbonden aan de Radboud Universiteit).

Dank voor de uitnodiging en de geweldige eer te mogen reageren op het prachtige preadvies van professor Berlee. Zij beschrijft met veel historisch besef de automatisering van juridische taken. Uiteindelijk komt ze tot de conclusie dat juristen ook over 150 jaar nog nodig zullen zijn. Hun werk zal dan misschien meer te vergelijken zijn met dat van een piloot: het creatieve en inhoudelijk moeilijke werk wordt vervuld door de piloot. Het computersysteem is ondersteunend en doet als een automatische piloot het overige werk. Ik vind dat reageren eindeloos veel makkelijker dan zelf iets creëren zoals Berlee deed, en ben dus terughoudend. Mijn 2 cents bestaat uit 3 onderdelen.

  1. Ons werk is al veel meer beïnvloed door IT dan wij denken.
  2. Disruptie komt meestal niet van de beroepsgroep zelf.
  3. Veiligheid.

1.Ons werk is al veel meer beïnvloed door IT dan wij denken.

Wij juristen zijn kenniswerkers. Zonder informatie kunnen we niets. We moeten wetten raadplegen, jurisprudentie bijhouden, snappen welke nieuwe vragen de samenleving heeft en leveren wat van ons gevraagd wordt. Dat laatste vindt dan vaak weer zijn neerslag in wat ook weer een ‘informatieproduct’ kan worden genoemd. Een advies, een akte, wet of een uitspraak. Dit werk is door IT al op tal van aspecten veranderd. Kijkt u mee op de afdeling bezwaar en beroep van de IND dan ziet u een informatiesysteem en geen dossier. Via verschillende tabbladen probeert men een beeld te krijgen van de feiten en de juridische beoordeling. Mijn collega aan de Radboud Universiteit Marielle Rog verricht voor haar proefschrift jurisprudentie-onderzoek. Typisch het werk van een juridisch onderzoeker. Maar zij heeft de uitspraken van rechtspraak.nl gedownload en gebruikt Atlas T.I. om de uitspraken te analyseren.

Onlangs deed ik zelf onderzoek naar het gebruik van algoritmes bij gemeenten. Opvallend was dat bepaalde handelingen zoals het beslissen op aanvragen om een uitkering inmiddels worden gezien als administratieve handelingen met veel handelingsvrijheid van de niet-juridische geschoolde medewerker. Dat is vreemd want a. zonder de software kan de uitkering helemaal niet berekend of toegekend worden en de handelingsvrijheid wordt begrensd door wat het systeem ons gunt. En b. dit was arbeid die vroeger door juristen werd verricht.

Het ís dus al verdwenen. Mijn punt is dan ook dat ons werk al in hoge mate veranderd is maar dat we ons daar niet altijd van bewust zijn.

Er zijn nogal wat juristen die dat helaas dagelijks aantonen. Zij beginnen vol goede moed te schrijven over IT/AI in het recht. Ik hoef maar een blik op het notenapparaat te werpen om te bepalen of het zinvol is hun werk te lezen. Acht van de tien keer zie ik wel de allernieuwste Engelstalige artikelen terug. Maar de traditie die in dit vak -zeker ook in Nederland- is opgebouwd sinds eind jaren ’70 wordt door hen vakkundig genegeerd. Ze bouwen dus niet voort op de schouders van de reuzen. De reden? IT! Ze googelen! Maar de kennis uit dit vakgebied, is vaak niet gedigitaliseerd. Duiken de stukken over IT of computers en recht niet op bij een zoektocht via internet, dan bestaat het kennelijk niet. Hoe ironisch kan het zijn?

2.Disruptie komt niet vanuit de gevestigde orde

Technologie is niet goed of slecht maar ook niet neutraal. Ik herhaal Kranzberg’s eerste wet nog maar eens want onder juristen is dit nog geen gemeengoed. Disruptie komt doorgaans niet van de vakmensen zelf. Hoteliers blijven hoteliers, taxichauffeurs rijden mensen rond, muzikanten schreven hun muziek en eigenlijk deelde niemand zomaar zijn logeerkamer met vreemden. Disruptie komt vaak van buitenaf; booking.com, spotify, uber, of airBnB hebben disruptieve gevolgen. IT is daarbij essentieel in combinatie met het totaal andere verdienmodel. Het is niet te verwachten dat advocaten of rechters zelf disruptief te werk gaan. Het zijn juist de juristen en anderen die geen geprivilegieerde positie hebben die met een totaal ander alternatief de markt op zullen gaan. En dan is het maar de vraag hoeveel de samenleving nog over heeft voor dure, trage en ouderwetse institutionele rechtspraak / rechtshulp en wetten. Denk aan data coöperaties die hun eigen regels maken voor het delen van data, energie-coöperaties en het eigen rechtspraak model van Wikipedia. Zij hebben een eigen Hoge Raad en verkeerden onlangs in een ‘constitutionele crisis’ (link).

Maar ook rechtspraak zelf hoeft niet van rechtbanken te komen. Denk aan Justice as a Service, zoals Kleros, Aragon en Jur. (Zie het onderzoek van Aouidef, Ast en Deffaias.) Mensen kunnen zich als lid van de jury of rechter aanmelden, beslechten een geschil en krijgen daarvoor betaald. Mondialisering en vernetwerking zijn twee kenmerken van IT die we makkelijk vergeten, maar waar we wel veel meer rekening mee moeten houden als we denken aan disruptie.

3.Welke rol biedt IT als het werk onveilig is?

Voor sommigen van ons is het dagelijkse werk gevaarlijk. Hoezeer er ook wordt gesproken over menselijke maat en over ‘heling’ voor de burgers uit de toeslagenaffaire, niet iedere burger is even gezeglijk. Dit betekent dat het leveren van een rechtvaardige samenleving veel persoonlijke offers vraagt die menselijkerwijs misschien niet meer gevraagd kunnen worden.

Steeds meer gemeenten voeren scanauto’s in. Met deze auto’s worden foto’s gemaakt die in een control room door een BOA worden bekeken. Vervolgens wordt bepaald of de kentekenhouder een boete krijgt. Een veel genoemde reden voor de invoering hiervan is het beschermen van de BOA’s. Zij kampen met zware bedreigingen en geweld als zij een boete uitschrijven. Door het werk te verplaatsen naar de scanauto en de control room, loopt de BOA geen risico voor lijf en leden. Mijn Nijmeegse collega professor Van Hout vroeg zich in haar oratie Algemene beginselen van behoorlijk binair bestuur al af hoe we het zouden vinden als de belastingdienst eng kijkende robots zou gaan inzetten om grote belastingschulden te innen bij bepaalde groepen burgers? U vindt het vast niets, maar als ik u vraag nu beslag te gaan leggen op de glimmende speedboten of op grote trekkers, kijkt u persoonlijk ook vast liever naar het plafond. Als we deze bedreigingen, die ons allemaal aangaan als beroepsgroep, niet weten te keren, zullen we misschien genoodzaakt worden tot de inzet van technologie ter bescherming van juristen. Dat we vervangen worden door een informatiezuil die hufterproof is. Ik vond voor u alvast een Outdoor infozuil KLO-Serie. Een vooruitzicht dat om meerdere redenen niet lonkt.

Dus?

De juristen van nu moeten veranderen om hun meerwaarde, namelijk het menselijke, te tonen. Diegene die zich als een productiemedewerker laat aansturen, gericht is op ‘output’ en makkelijk meetbare resultaten, wordt onvermijdelijk vervangen door IT. Maar daarmee is niet gezegd dat de samenleving er rechtvaardiger op is geworden.

Foto: Tingey Injury Law Firm via Unsplash

Artikel ICT&Health: wetsvoorstel Elektronische Gegevensuitwisseling in de Zorg: een revolutie?

Theo Hooghiemstra, Thijs Drouen en Mark de Hek hebben een mooi artikel geschreven voor ICT&Health over het wetsvoorstel Gegevensuitwisseling in de Zorg (Wegiz). De Wegiz verplicht zorgaanbieders om per gegevensuitwisseling erop toe te zien dat zorgverleners gegevens onderling tenminste elektronisch uitwisselen. Het is een revolutie, omdat de overheid de regie neemt. Ons parlement buigt zich dit jaar over de Wegiz. Klik hier om het artikel te lezen.

Rapport: Strategische visie Plan van Aanpak geïntegreerd eID-stelsel

Theo Hooghiemstra van Hooghiemstra & Partners stelde in opdracht van het Ministerie van Binnenlandse Zaken en Koninkrijkrelaties een strategische visie in de vorm van een plan van aanpak op voor een eID-stelsel. Dit behelst een geïntegreerd stelsel van elektronische identificatie en authenticatie voor burgers en bedrijven. De visie is opgesteld vanuit strategisch-juridisch perspectief. Het gehele rapport is hier terug te lezen: Strategische visie Plan van Aanpak geïntegreerd eID-stelsel.

Foto credit: Georgi Dyulgerov via Unsplash.