Dat kunnen ze gewoon aan ChatGPT vragen.
1. Zorg voor transparantie en uitlegbaarheid
2. Voorkom bias en discriminatie
3. Stel ethische kaders
4. Houd de mens centraal
5. Waarborg privacy en beveiliging
6. Bied opleiding en bewustwording
7. Verantwoordelijkheid en aansprakelijkheid
8. Start met proefprojecten
9. Internationale samenwerking

eventueel wil chatGPT best wel deze punten uitdiepen.

Dit is zo vaag geformuleerd dat er nu nog weinig over te zeggen valt. Enkele vragen die bij me opkomen:

"Effect op het rechtspreken"? Gaat AI er volgens de staatssecretaris toe leiden dat er nieuwe geldige juridische redeneringen ontstaan, bijvoorbeeld dat er met AI nieuwe "belangen" gecreëerd kunnen worden die "meewegen" in rechterlijke oordelen? Kunnen personen en rechtspersonen straks, door AI in gebruik te nemen, hun rechtspositie versterken, bijvoorbeeld doordat ze dan voor bepaalde zaken minder (of minder "direct") verantwoordelijk zijn dan voorheen?

"Impact op de bewijsvoering"? Wordt er straks in enige vorm "bewijs" geaccepteerd dat deels tot stand gekomen is op grond van niet-gekende en niet-kenbare methodieken, waarbij gebruik is gemaakt van "lerende" algoritmes waarvan het niet duidelijk is welke informatie die wel en niet hebben meegenomen in hun calculaties, of op welke wijze? We weten allemaal nog hoe makkelijk rechters zonder de complicatie van AI al dwalen (zaak Lucia de Berk, waar rechters afgingen op een tunnelvisie die zij meenden te kunnen rechtvaardigen op grond van "statistiek"). Het idee dat rechters die niet deskundig zijn op het gebied van het gebruik van gewone statistiek, wel deskundig zouden zijn op het gebied van het gebruik van AI, is lachwekkend. Gaan de rechters dan blindvaren op de uitspraken van "AI-experts"? Bijvoorbeeld dat als een "AI-expert" zegt dat de uitkomst van een bepaalde bot in een bepaalde situatie betrouwbaar mag worden geacht, rechters dat overnemen zonder het zelf te kunnen begrijpen?

"Slimmer en innovatiever werken ten behoeve van de rechtzoekenden"? Wordt dat zoiets als de "slimme en innovatieve" elektronische autosleutels ten behoeve van automobilisten, die in Engeland de verzekeringspremies hoog hebben opgedreven omdat ze het makkelijker maken om auto's te stelen?

Het contact tussen rechters en de realiteit, en het verband tussen rechterlijke uitspraken en de realiteit, is nu vaak al zwak en twijfelachtig (tenuous). In een tijd waarin allerlei politici en commerciële partijen al "post-truth" gaan, zouden rechters zich op geen enkele manier op sleeptouw moeten laten nemen door een AI-hype die het risico van verwarring tussen fictie en werkelijkheid nog verder vergroot.

We herinneren ons nog de "alternative facts" die Kellyanne Conway (adviseur van Trump tijdens diens eerste ambtstermijn) dichtte. Gaan we nu "alternative justice" krijgen?

Het is een menselijke keuze om AI een rol te geven in de rechtspraktijk en de rechtsvorming. Mijns inziens zou dat een foute keuze zijn. Rechters zouden borg moeten staan voor de verankering van het recht in het menselijke bewustzijn. Het recht moet voor mensen kenbaar en controleerbaar blijven. Dat is zonder AI al een enorm probleem, omdat rechters zich zo vaak laten beïnvloeden door politieke en sociaal-"wenselijke" fantasieën. Met de acceptatie van AI als "kennisproducent" in rechte zou die beïnvloeding nog tien keer zo sterk worden en tegelijk tien keer zo moeilijk te ontmaskeren.

De eis zou steeds moeten zijn dat partijen (in het civielrecht, strafrecht en bestuursrecht) hun standpunten op basis van door mensen controleerbare feiten motiveren. Verwijzingen van advocaten naar "AI" zouden door rechters ofwel steeds genegeerd moeten worden, ofwel aanleiding moeten zijn om aan de betreffende procespartij te vragen om het nog eens uit te leggen, maar nu zonder verwijzing naar "AI". Ook de motivering van rechterlijke uitspraken zou gespeend moeten blijven van rechtvaardigingen die gebaseerd zijn op niet in gewone mensentaal uitlegbare, en daaroor niet kenbare "AI".

Immers, we willen toch rechtspraak, en geen orakeltaal?

Ook het prioriteren van vervolging van zaken en van rechtszittingen zou gebaseerd moeten blijven op menselijke overwegingen, die in rechte door mensen volledig transparant kunnen worden gemotiveerd.

Immers, we willen toch rechtspraak, en geen esoterische rituelen die voor niet-ingewijden (en trouwens ook voor wel-ingewijden) onbegrijpelijk zijn?

M.J.

Ondanks alle terechte zorgen (zie rectie M.J.) over risico's van AI in de rechtspraak zal het gebruik ervan onontkoombaar blijken. Menig advocaat verstiert de rechtspraktijk al door in procedures enorme hoeveelheden en omvangrijke "producties" (dat zijn documenten behorend bij beroepsgronden of grieven) in te brengen wat voor rechters schier onwerkbaar wordt. Voormalig advocate Wesky was daar een ster in, zij bombardeerde rechters met eindeloze nietszeggende en tekstueel rammelende en daardoor onvolgbare teksten. Een kortgeding rechter heeft een keer een procespartij daarom verzocht het een en ander tot een A4-tje terug te brengen daar hij anders de belachelijke grote hoeveelheid tekst terzijde zou schuiven; dapper en terecht, maar ligt toch ook ingewikkeld.

We moeten vrezen dat het gemak om met AI eindeloze hoeveelheden hoogdravende en gewichtige blabla te produceren onweerstaanbaar zal blijken wat rechters zal doen snakken naar gereedschap om zo geproduceerde teksten te kunnen verwerken.

Ondanks het hoge klikbeet gehalte, of is het ironie, zou gebruik van de LLMs van OpenAI uitgesloten moeten zijn zolang die niet een zeer grondige audit heeft doorstaan. Zover ik weet zijn noch hun algoritmes noch zijn de datasets waarmee hun LLMs zijn ingeleerd openbaar of na onafhankelijk onderzoek vrij van problemen verklaard.

Ik begrijp jouw zorg. Maar de "oplossingsrichting" waarin jij denkt, namelijk dat rechters teksten van procespartijen niet langer zelf gaan lezen, maar door AI laten "samenvatten" en dus interpreteren, is precies de verkeerde richting. Immers, AI is altijd gebaseerd op wat algoritmes hebben "geleerd" op basis van reeds bestaande, eerdere teksten. Dat leidt tot een ingebouwde bias (vooringenomenheid) ten nadele van frisse, innovatieve argumenten. Bepaalde, juridisch relevante verbanden die een procespartij legt, worden dan door AI waarschijnlijk niet eens waargenomen, omdat ze buiten het straatje van "gevestigd recht" vallen.

Een veel betere richting zou zijn om aan ALLE procespartijen de volgende verplichtingen op te leggen:
-- aanleveren van een samenvatting van hun betoog, maximaal vijf pagina's A4, marges twee cm., lettergrootte 12punts (het kan ook in termen van aantallen lettertekens/spaties worden geformuleerd).
-- aanleveren van een volledig betoog van maximaal 100 pagina's (zelfde voorwaarden m.b.t. marges en lettergrootte), inclusief aanhef, inhoudsopgave, paragraaftitels en verwijzingen naar bijlagen.
-- de rest in de vorm van bijlagen ("producties"), waarnaar in het volledige betoog duidelijk en specifiek wordt verwezen.
-- ter zitting voorgelezen pleitnota's: maximaal drie pagina's A4, alleen bedoeld om hoofdlijnen te schetsen en accenten te leggen.

Het Europese Hof voor de Rechten van de Mens (EHRM) doet al zoiets (formulier plus annex).

In de praktijk worden rechtszaken voorbereid door een griffier. Die pikt er gauw genoeg uit welke bijlagen relevant zijn en welke niets toevoegen. Uiteraard moet de relevantie daarvan al blijken uit het eigenlijke betoog. Als die relevantie niet uit het eigenlijke betoog blijkt, kan de bijlage buiten beschouwing blijven.

Als een advocaat bijvoorbeeld in het volledige betoog schrijft: "De onderbouwing voor het standpunt van eiser dat zijn beroep ontvankelijk moet worden verklaard, treft u in bijlage (/productie) X", dan is het jammer voor die advocaat, maar dan blijft die bijlage buiten beschouwing, omdat die onderbouwing in het eigenlijke betoog had moeten worden opgenomen.

Als de advocaat echter schrijft: "De rechtstreekse belanghebbendheid van eiser, en daarmee diens ontvankelijkheid in dit beroep, komt voort uit de structurele, dagelijkse en langdurige geluidsoverlast die hij ondervindt als gevolg van de activiteiten van gedaagde. In bijlage (/productie) X treft u een overzicht van de tijden waarop de door gedaagde in gebruik genomen apparaten overlast hebben veroorzaakt in de maanden januari t/m maart 2024" - dan wordt de bijlage wel in beschouwing genomen.

Natuurlijk zullen er altijd grensgevallen blijven, waarin de rechter een knoop zal moeten doorhakken. Dat is nu eenmaal inherent in rechtspraak.

Maar in honderd pagina's kunnen alle essentiële argumenten in een rechtszaak naar voren worden gebracht. Zonder dat er naar "AI" hoeft te worden verwezen.

Wat zou jij van deze benadering vinden?

M.J.

Mee eens: procesregels toegesneden op beperken van eindeloze woordenbrei zijn een belangrijke en noodzakelijke stap.
Maar ook: gebruik binnen de rechtspraak van LLMs waarvoor geen volledige goedgekeurde audit beschikbaar is diskwalificeren. Misschien een moeilijk te handhaven norm; dat is wel vaker het geval.

Dat is zeker niet waar ik aan denk, maar een risico dat ik onderken.

Gerechten moeten dus, net als de procesregels dienaangaande van het EHRM die je beschrijft., eisen gaan stellen die een rem zet op "misbruik" van tekstomvang in procedures.

Dank voor je reactie. Ik moet toegeven, ik heb in het verleden enkele malen (twee- of driemaal als ik me goed herinner) zelf een juridisch betoog geproduceerd van meer dan honderd pagina's, exclusief bijlagen. Maar die betogen waren wel zorgvuldig gestructureerd en voorzien van kruisverwijzingen etc., het was geen woordenbrij, en de lengte werd vooral veroorzaakt door alle "creatieve" drogredeneringen van de wederpartij die ik me genoodzaakt zag te weerleggen. Tegenwoordig probeer ik echter altijd onder de honderd pagina's te blijven.

Het is natuurlijk wel belangrijk dat de procesregels niet zo knellend worden dat bepaalde inhoud niet meer over het voetlicht kan worden gebracht. Beperking van de omvang van stukken mag nooit in dienst komen te staan van een streven naar "managerial efficiency" of budgettaire motieven, maar alleen in dienst van een streven om betogen voor de rechter (en diens griffier) kwalitatief leesbaar te houden.

In sommige zeer complexe zaken kan een beperking van het kernbetoog tot honderd pagina's schade toebrengen aan de mogelijkheid van een rechtzoekende om diens argumenten goed naar voren te brengen. Daarom zou je in de procesregels kunnen inbouwen dat een procespartij bij de rechter een gemotiveerd(!!!) verzoek kan indienen om een betoog in meer delen (elk beperkt tot honderd pagina's) te mogen splitsen en indienen. Daarbij zou die procespartij dan moeten aangeven over welke onderwerpen de verschillende delen van het betoog gaan, zodat de rechter kan beoordelen en motiveren of er aanleiding is om voor een bepaald onderwerp een apart betoog (van maximaal 100 pag.) toe te staan.

Dit lijkt me niet alleen een moeilijk te handhaven norm, maar ook een onwenselijke norm. Als het gaat om gebruik van LLM's door procespartijen, denk ik dat er onderscheid moet worden gemaakt tussen:

a) welke methoden een procespartij gebruikt om een juridisch betoog te concipiëren en te formuleren. Dit moet volledig vrij blijven. Dus als een advocaat een LLM wil gebruiken voor het opstellen van zo'n betoog, dan moet hij/zij dat gewoon maar doen. Alleen moet hij/zij dan niet klagen als er tijdens rechterlijke toetsing belangrijke gebreken in het betoog blijken te zitten. De advocaat moet dan dus niet gaan zeggen: "Edelachtbare, dat moet u zo niet opvatten, want dat is een eigenaardigheid van de LLM die ik heb gebruikt..."

b) welke argumenten in een juridisch betoog als juridisch valide worden beschouwd. Hiervan moeten verwijzingen naar LLM's of andere "AI" als juridisch relevante kennisbron worden uitgesloten. Dit is vergelijkbaar met het uitsluiten van "God" als juridisch relevante kennisbron, en met het uitsluiten van "een stem in mijn hoofd" als juridisch relevante kennisbron.

Wanneer rechters en griffiers juridische betogen aangeleverd krijgen, moeten die een vorm en omvang hebben die het hun mogelijk maakt deze betogen te begrijpen en te beoordelen zonder zelf over bovenmenselijke vermogens te beschikken, en ook zonder hun toevlucht te nemen tot enige LLM of andere vorm van "AI".

Een menselijke beoordeling van processtukken door rechters en griffiers kan "handhaafbaar" gemaakt worden door in wetgeving (en vooruitlopend daarop alvast in jurisprudentie) op te nemen dat de output van LLM's of andere vormen van "AI" rechtens NIET beschouwd mag worden als (informatie over) feiten. Dit zou betekenen dat als bijvoorbeeld een lagere rechtbank in een uitspraak zou verwijzen naar een LLM als kennisbron op grond waarvan de rechter mede tot zijn/haar oordeel is gekomen, een procespartij daartegen met succes in hoger beroep zou kunnen gaan.

Dit is vergelijkbaar met hoe verdachten in strafzaken vrijgesproken worden als het bewijs van hun misdaad op onwettige wijze is verkregen. Ditzelfde principe van onwettig (pseudo-)bewijs kan ook gebruikt worden in civiele zaken en bestuursrechtelijke zaken, zodra er sprake is van "AI" of "LLM's" als bewijsbron.

Dit vereist echter wel dat menselijke rechters zorgvuldig en expliciet onderscheid maken tussen het "aannemen" van zaken en het "aantonen" van zaken. Tegenwoordig nemen verrassend veel rechters zomaar dingen aan, wat ze dan vermommen achter voornaam klinkende uitspraken zoals: "Verweerder heeft redelijkerwijs aannemelijk mogen achten dat...", zonder veel nadere motivering. Daarmee geeft zo'n rechter dan een vrijbrief aan één van de procespartijen om gewoon maar iets subjectief te vinden, waarna die subjectieve mening om onduidelijke redenen rechtens als een feit wordt behandeld. Uiteindelijk is de intellectuele competentie en de intellectuele integriteit van rechters nodig om ons te beschermen tegen dergelijke dwalingen.

Daarom is onze bescherming tegen de eventuele "hallucinaties" van "AI" in de rechtspraak uiteindelijk afhankelijk van een rechterlijke cultuur waarin echt waarde wordt gehecht aan basale principes van waarheidsvinding zoals die zijn ontwikkeld sinds de Verlichting (rationalisme, empirisme, en de in de twintigste eeuw ontwikkelde inzichten uit de wetenschapsfilosofie). Als rechters die principes niet langer volgen, maar ze onverschillig en wegkijkend in de vuilnisbak laten glijden, dan valt onze rechtspraak ook zonder de door "AI" veroorzaakte risico's al niet te redden.

Ja, maar ik zou wel uiterst voorzichtig zijn met het stellen van zulke eisen, omdat het risico levensgroot is dat rechters in de verleiding komen om op dat punt onredelijke eisen te gaan stellen of de gestelde eisen te gaan misbruiken om zaken op een "makkelijke", maar materieel gezien onrechtmatige wijze te gaan beoordelen en afhandelen.

Ook geheel los van het voorhanden zijn van "AI" en "LLM's" is onze rechtspraak al heel kwetsbaar op dat laatste punt.

M.J.