Rechtspraak: Computer kan rechter niet vervangen
Big data, kunstmatige intelligentie en machine learning spelen een steeds grotere rol in de samenleving, maar computers kunnen de rechter niet vervangen, zo stelt de Rechtspraak tijdens de Dag van de Rechtspraak. Samen met het bedrijf LexIQ dook de Rechtspraak in de wereld van 'legal tech'.
Bij wijze van experiment zijn twee rechtszaken zowel aan de echte rechter als aan een computer voorgelegd. Het oordeel van de computer sluit nog niet aan bij dat van de echte rechter. Zo oordeelde de computer in de eerste zaak, waarbij een man een rotonde niet rechtsom maar linksom nam, dat de man schuldig was aan het overtreden van de verkeerswet. De rechter oordeelde het tegenovergestelde. Het ontbreken van een verkeersbord, die de juiste rijrichting aangeeft, was doorslaggevend om de man vrij te spreken.
Bij de tweede zaak, waarbij een man zijn ontslag aanvocht kwam de voorspelling van de computer dichter in de buurt van de werkelijkheid. Zowel de computer als de rechter oordeelden dat de man onterecht is ontslagen. De ontslagvergoeding die de rechter oplegde was echter tien keer hoger dan die van de computer. "Voor de computer zich kan meten met een rechter van vlees en bloed moet nog flink wat werk worden verzet", aldus de Rechtspraak. Wel erkent de instantie dat de snelle ontwikkelingen op het gebied van informatieverwerking gevolgen zullen hebben voor de Rechtspraak.
"Het experiment laat zien dat het ambacht van de rechter noodzakelijk is. Zaken zijn vaak juridisch zo complex dat een computer op het verkeerde spoor wordt gebracht. Daarnaast zorgt een rechter van vlees en bloed dat de mens en maatschappij centraal staan, en niet de regeltjes alleen", zo laat de Rechtspraak weten. LexIQ bestudeerde 400.000 uitspraken in het uitsprakenregister van de Rechtspraak, maar kreeg de uitspraken van de echte rechter in de twee zaken van het experiment niet. Het bedrijf denkt dat het uiteindelijk mogelijk is om rechters met data-analyse te ondersteunen, bijvoorbeeld door statistische gegevens van eerder gedane uitspraken aan de rechter voor te leggen.
Reacties (23)
In bijna alle "branches" waar de computer geintroduceerd is was de eerste reactie van de mensen in die branche
dat de computer hun werk nooit zou kunnen overnemen en dat hun werk veel te ingewikkeld was om door de computer
te worden overgenomen. Uiteindelijk gebeurde dat dan na voortgang van de ontwikkelingen alsnog.
Het heeft waarschijnlijk te maken met een angst voor afwaardering van het eigen werk, "als zelfs een computer mijn
werk kan doen dan ben ik niet veel waard (geweest)". Er ontstaat daardoor een negatief oordeel uit zelfbescherming.
"fouten die de computer maakt" worden breed uitgemeten, impliciet wordt gedacht dat de mens nooit fouten maakt
en we er dus op achteruit gaan. Vergelijk ook de discussie rond autonoom rijden van auto's: ieder ongeluk wordt
breed uitgemeten en er wordt de vraag neergelegd wie daar dan de schuld van heeft en wie er voor verantwoordelijk
moet worden gehouden, terwijl men stilzwijgend voorbij gaat aan de duizenden ongelukken door menselijk falen.
Het zou echter juist de Rechtspraak sieren dat ze zelf ook niet feilloos werken en ook beschamende foutem maken.
Dus of de computer het niet beter kan is niet zeker, en dit met 2 testen proberen aan te tonen is niet erg zinvol.
dat de computer hun werk nooit zou kunnen overnemen en dat hun werk veel te ingewikkeld was om door de computer
te worden overgenomen. Uiteindelijk gebeurde dat dan na voortgang van de ontwikkelingen alsnog.
Het heeft waarschijnlijk te maken met een angst voor afwaardering van het eigen werk, "als zelfs een computer mijn
werk kan doen dan ben ik niet veel waard (geweest)". Er ontstaat daardoor een negatief oordeel uit zelfbescherming.
"fouten die de computer maakt" worden breed uitgemeten, impliciet wordt gedacht dat de mens nooit fouten maakt
en we er dus op achteruit gaan. Vergelijk ook de discussie rond autonoom rijden van auto's: ieder ongeluk wordt
breed uitgemeten en er wordt de vraag neergelegd wie daar dan de schuld van heeft en wie er voor verantwoordelijk
moet worden gehouden, terwijl men stilzwijgend voorbij gaat aan de duizenden ongelukken door menselijk falen.
Het zou echter juist de Rechtspraak sieren dat ze zelf ook niet feilloos werken en ook beschamende foutem maken.
Dus of de computer het niet beter kan is niet zeker, en dit met 2 testen proberen aan te tonen is niet erg zinvol.
"Zo oordeelde de computer in de eerste zaak, waarbij een man een rotonde niet rechtsom maar linksom nam, dat de man schuldig was aan het overtreden van de verkeerswet. De rechter oordeelde het tegenovergestelde. Het ontbreken van een verkeersbord, die de juiste rijrichting aangeeft, was doorslaggevend om de man vrij te spreken."
Als nu de man dit gedaan had en dan een klein kind had doodgereden, had de rechter dan ook vrijspraak gegeven?
Als nu de man dit gedaan had en dan een klein kind had doodgereden, had de rechter dan ook vrijspraak gegeven?
Door Anoniem: "Zo oordeelde de computer in de eerste zaak, waarbij een man een rotonde niet rechtsom maar linksom nam, dat de man schuldig was aan het overtreden van de verkeerswet. De rechter oordeelde het tegenovergestelde. Het ontbreken van een verkeersbord, die de juiste rijrichting aangeeft, was doorslaggevend om de man vrij te spreken."
Als nu de man dit gedaan had en dan een klein kind had doodgereden, had de rechter dan ook vrijspraak gegeven?
Als nu de man dit gedaan had en dan een klein kind had doodgereden, had de rechter dan ook vrijspraak gegeven?
Blijkbaar. Want er stond geen bord dat de man rechtsom moest rijden. Ook al is dat een gewoonte in het Nederlandse verkeer op een rotonde.
Caveat: Er staat niet expliciet bij of de man afkomstig was uit een land waar links gereden wordt. :-)
Computers worden al in de rechtspraak gebruikt in sommige staten in de VS.
Wat ze daar bijvoorbeeld doen is een lijst van vergelijkbare zaken opzoeken en deze aan de rechter tonen met de bijbehorende opgelegde straffen. Dit kan helpen om de strafmaat uniformer te maken en zelfs ook iets minder racistisch. Als een beoogde strafmaat hoog of juist laag uitvalt, stimuleert dat om de rechter te laten nadenken m.b.t. waarom dat in dit specifieke geval rechtvaardig is (waarna hij/zij of een onderbouwing kan toevoegen, of de beoogde strafmaat kan aanpassen). De computer kan snel veel data analyseren en de mens kan een waarde geven aan 'de uitzondering'. In dit geval werken mensen en computers samen i.p.v. dat de computer de mens vervangt en wordt er 'een beter product' afgeleverd.
Ik zelf ben om deze reden vaak niet zo heel blij met mens versus computer discussies (in zowel dit artikel als in de commentaren). Er zijn namelijk vele situaties waar computers en mensen elkaar goed kunnen aanvullen, welke wordt genegeerd in mens versus computer discussies. Hiermee ontken ik overigens niet dat er vele situaties zijn waarin de computer zoveel taken kan overnemen dat bepaalde banen overbodig worden.
Ander voorbeeld; supercomputer wint van grootmeester met schaken. Maar een wat mindere computer met een net-niet grootmeester kan winnen van de supercomputer (mits integratie tussen beide goed is).
(Roelof)
Wat ze daar bijvoorbeeld doen is een lijst van vergelijkbare zaken opzoeken en deze aan de rechter tonen met de bijbehorende opgelegde straffen. Dit kan helpen om de strafmaat uniformer te maken en zelfs ook iets minder racistisch. Als een beoogde strafmaat hoog of juist laag uitvalt, stimuleert dat om de rechter te laten nadenken m.b.t. waarom dat in dit specifieke geval rechtvaardig is (waarna hij/zij of een onderbouwing kan toevoegen, of de beoogde strafmaat kan aanpassen). De computer kan snel veel data analyseren en de mens kan een waarde geven aan 'de uitzondering'. In dit geval werken mensen en computers samen i.p.v. dat de computer de mens vervangt en wordt er 'een beter product' afgeleverd.
Ik zelf ben om deze reden vaak niet zo heel blij met mens versus computer discussies (in zowel dit artikel als in de commentaren). Er zijn namelijk vele situaties waar computers en mensen elkaar goed kunnen aanvullen, welke wordt genegeerd in mens versus computer discussies. Hiermee ontken ik overigens niet dat er vele situaties zijn waarin de computer zoveel taken kan overnemen dat bepaalde banen overbodig worden.
Ander voorbeeld; supercomputer wint van grootmeester met schaken. Maar een wat mindere computer met een net-niet grootmeester kan winnen van de supercomputer (mits integratie tussen beide goed is).
(Roelof)
Door Anoniem: Computers worden al in de rechtspraak gebruikt in sommige staten in de VS.
Wat ze daar bijvoorbeeld doen is een lijst van vergelijkbare zaken opzoeken en deze aan de rechter tonen met de bijbehorende opgelegde straffen. Dit kan helpen om de strafmaat uniformer te maken en zelfs ook iets minder racistisch. Als een beoogde strafmaat hoog of juist laag uitvalt, stimuleert dat om de rechter te laten nadenken m.b.t. waarom dat in dit specifieke geval rechtvaardig is (waarna hij/zij of een onderbouwing kan toevoegen, of de beoogde strafmaat kan aanpassen). De computer kan snel veel data analyseren en de mens kan een waarde geven aan 'de uitzondering'. In dit geval werken mensen en computers samen i.p.v. dat de computer de mens vervangt en wordt er 'een beter product' afgeleverd.
Ik zelf ben om deze reden vaak niet zo heel blij met mens versus computer discussies (in zowel dit artikel als in de commentaren). Er zijn namelijk vele situaties waar computers en mensen elkaar goed kunnen aanvullen, welke wordt genegeerd in mens versus computer discussies. Hiermee ontken ik overigens niet dat er vele situaties zijn waarin de computer zoveel taken kan overnemen dat bepaalde banen overbodig worden.
Ander voorbeeld; supercomputer wint van grootmeester met schaken. Maar een wat mindere computer met een net-niet grootmeester kan winnen van de supercomputer (mits integratie tussen beide goed is).
(Roelof)
Wat ze daar bijvoorbeeld doen is een lijst van vergelijkbare zaken opzoeken en deze aan de rechter tonen met de bijbehorende opgelegde straffen. Dit kan helpen om de strafmaat uniformer te maken en zelfs ook iets minder racistisch. Als een beoogde strafmaat hoog of juist laag uitvalt, stimuleert dat om de rechter te laten nadenken m.b.t. waarom dat in dit specifieke geval rechtvaardig is (waarna hij/zij of een onderbouwing kan toevoegen, of de beoogde strafmaat kan aanpassen). De computer kan snel veel data analyseren en de mens kan een waarde geven aan 'de uitzondering'. In dit geval werken mensen en computers samen i.p.v. dat de computer de mens vervangt en wordt er 'een beter product' afgeleverd.
Ik zelf ben om deze reden vaak niet zo heel blij met mens versus computer discussies (in zowel dit artikel als in de commentaren). Er zijn namelijk vele situaties waar computers en mensen elkaar goed kunnen aanvullen, welke wordt genegeerd in mens versus computer discussies. Hiermee ontken ik overigens niet dat er vele situaties zijn waarin de computer zoveel taken kan overnemen dat bepaalde banen overbodig worden.
Ander voorbeeld; supercomputer wint van grootmeester met schaken. Maar een wat mindere computer met een net-niet grootmeester kan winnen van de supercomputer (mits integratie tussen beide goed is).
(Roelof)
Door Anoniem: Computers worden al in de rechtspraak gebruikt in sommige staten in de VS.
Wat ze daar bijvoorbeeld doen is een lijst van vergelijkbare zaken opzoeken en deze aan de rechter tonen met de bijbehorende opgelegde straffen. Dit kan helpen om de strafmaat uniformer te maken en zelfs ook iets minder racistisch. Als een beoogde strafmaat hoog of juist laag uitvalt, stimuleert dat om de rechter te laten nadenken m.b.t. waarom dat in dit specifieke geval rechtvaardig is (waarna hij/zij of een onderbouwing kan toevoegen, of de beoogde strafmaat kan aanpassen). De computer kan snel veel data analyseren en de mens kan een waarde geven aan 'de uitzondering'. In dit geval werken mensen en computers samen i.p.v. dat de computer de mens vervangt en wordt er 'een beter product' afgeleverd.
Ik zelf ben om deze reden vaak niet zo heel blij met mens versus computer discussies (in zowel dit artikel als in de commentaren). Er zijn namelijk vele situaties waar computers en mensen elkaar goed kunnen aanvullen, welke wordt genegeerd in mens versus computer discussies. Hiermee ontken ik overigens niet dat er vele situaties zijn waarin de computer zoveel taken kan overnemen dat bepaalde banen overbodig worden.
Ander voorbeeld; supercomputer wint van grootmeester met schaken. Maar een wat mindere computer met een net-niet grootmeester kan winnen van de supercomputer (mits integratie tussen beide goed is).
(Roelof)
Wat ze daar bijvoorbeeld doen is een lijst van vergelijkbare zaken opzoeken en deze aan de rechter tonen met de bijbehorende opgelegde straffen. Dit kan helpen om de strafmaat uniformer te maken en zelfs ook iets minder racistisch. Als een beoogde strafmaat hoog of juist laag uitvalt, stimuleert dat om de rechter te laten nadenken m.b.t. waarom dat in dit specifieke geval rechtvaardig is (waarna hij/zij of een onderbouwing kan toevoegen, of de beoogde strafmaat kan aanpassen). De computer kan snel veel data analyseren en de mens kan een waarde geven aan 'de uitzondering'. In dit geval werken mensen en computers samen i.p.v. dat de computer de mens vervangt en wordt er 'een beter product' afgeleverd.
Ik zelf ben om deze reden vaak niet zo heel blij met mens versus computer discussies (in zowel dit artikel als in de commentaren). Er zijn namelijk vele situaties waar computers en mensen elkaar goed kunnen aanvullen, welke wordt genegeerd in mens versus computer discussies. Hiermee ontken ik overigens niet dat er vele situaties zijn waarin de computer zoveel taken kan overnemen dat bepaalde banen overbodig worden.
Ander voorbeeld; supercomputer wint van grootmeester met schaken. Maar een wat mindere computer met een net-niet grootmeester kan winnen van de supercomputer (mits integratie tussen beide goed is).
(Roelof)
Helaas is AI helemaal niet neutraal, het neemt keurig de bestaande vooroordelen over. Dus dat rechtspraak minder gekleurd wordt als het geautomatiseerd wordt, is geen gegronde aanname. En zelfs een vrij gevaarlijke, omdat we met zijn allen wel blijven denken dat computers neutraal zijn en het dus lastiger is om dan een uitspraak aan te vechten.
De computer die wint van de grootmeester schaken vind ik altijd een erg slecht voorbeeld, omdat schaken een beperkte phase space heeft. Dat is dus geen analogie van het echte leven, waarin een rechter of arts moet dealen met een onbeperkt aantal mogelijkheden.
WC-eend heeft ook verklaard dat WC-gans een WC niet gans schoonkrijgt.... Daarom blijft WC-eend de WC-eend adviseren!
28-09-2017, 12:47 door
Whacko
Zo oordeelde de computer in de eerste zaak, waarbij een man een rotonde niet rechtsom maar linksom nam, dat de man schuldig was aan het overtreden van de verkeerswet. De rechter oordeelde het tegenovergestelde. Het ontbreken van een verkeersbord, die de juiste rijrichting aangeeft, was doorslaggevend om de man vrij te spreken.
"Het experiment laat zien dat het ambacht van de rechter noodzakelijk is. Zaken zijn vaak juridisch zo complex dat een computer op het verkeerde spoor wordt gebracht. Daarnaast zorgt een rechter van vlees en bloed dat de mens en maatschappij centraal staan, en niet de regeltjes alleen"
Dus eigenlijk staat hier: "haha lekker puh! de computer neemt de wet te letterlijk. Je hebt ons nog nodig hoor". Ik snap dat in complexe zaken een rechter waarschijnlijk meer van waarde is. Maar dat eerste voorbeeld vind ik belachelijk dat er vrijspraak is. OOK als de bestuurder uit een land komt waar je links rijdt. In Engeland krijg je ook gewoon een boete voor spookrijden, je behoort de verkeersregels gewoon te kennen als je in een vreemd land de weg op gaat."Het experiment laat zien dat het ambacht van de rechter noodzakelijk is. Zaken zijn vaak juridisch zo complex dat een computer op het verkeerde spoor wordt gebracht. Daarnaast zorgt een rechter van vlees en bloed dat de mens en maatschappij centraal staan, en niet de regeltjes alleen"
Enige COULANCE daarentegen vanwege een vergissing, OK, maar vrijspraak niet.
Door Whacko:Maar dat eerste voorbeeld vind ik belachelijk dat er vrijspraak is. OOK als de bestuurder uit een land komt waar je links rijdt. In Engeland krijg je ook gewoon een boete voor spookrijden, je behoort de verkeersregels gewoon te kennen als je in een vreemd land de weg op gaat.
Op een rotonde geldt een verplichte rijrichting die aangegeven is middels een officieel verkeersbord. Als een dergelijk bord er niet staat, bestaat er geen verplichte rijrichting.
Ik vind het wel vreemd dat ze dat feit niet aan de computer door hebben gegeven. Dat was dus geen fout van de computer, maar van degene die de computer bediende.
Peter
Door Anoniem:
Op een rotonde geldt een verplichte rijrichting die aangegeven is middels een officieel verkeersbord. Als een dergelijk bord er niet staat, bestaat er geen verplichte rijrichting.
Ik vind het wel vreemd dat ze dat feit niet aan de computer door hebben gegeven. Dat was dus geen fout van de computer, maar van degene die de computer bediende.
Peter
Door Whacko:Maar dat eerste voorbeeld vind ik belachelijk dat er vrijspraak is. OOK als de bestuurder uit een land komt waar je links rijdt. In Engeland krijg je ook gewoon een boete voor spookrijden, je behoort de verkeersregels gewoon te kennen als je in een vreemd land de weg op gaat.
Op een rotonde geldt een verplichte rijrichting die aangegeven is middels een officieel verkeersbord. Als een dergelijk bord er niet staat, bestaat er geen verplichte rijrichting.
Ik vind het wel vreemd dat ze dat feit niet aan de computer door hebben gegeven. Dat was dus geen fout van de computer, maar van degene die de computer bediende.
Peter
er bestaat ook nog zoiets als een fatsoenlijk en verstandig verkeersdelnemer zijn waarbij je acties gericht horen te zijn ongelukken te voorkomen, ook al had je toevallig eens een keertje voorang horen te krijgen. met dat in het achterhoofd vind ik in dit geval de rechter erg pedantic en de AI eerder bij de juiste kant zitten.
"fouten die de computer maakt" worden breed uitgemeten,
Zins wanneer kan een computer iets goeds of fout doen, is het niet de progammeur die dit bepaalt of hebben wenu computers die met hersenen worden geboren.
Door Anoniem:
nu computers die met hersenen worden geboren.
Ken je deze tekentjes: ""fouten die de computer maakt" worden breed uitgemeten,
Zins wanneer kan een computer iets goeds of fout doen, is het niet de progammeur die dit bepaalt of hebben wenu computers die met hersenen worden geboren.
DIe betekenen iets. Die staan er dus niet voor niets.
Dat de computer niet tot precies hetzelfde oordeel komt als de rechter is eigenlijk geen argument. Natuurlijk is het dat wel voor de rechters want die hebben daar belang bij. Maar wie zegt er dat de rechter het bij het rechte eind heeft? Er zijn zat onnavolgbare en zelfs tegenstrijdige, logisch onberedeneerbare, of anderszins onuitlegbare uitspraken te vinden. Lang niet allemaal worden in hoger beroep aanhangig gemaakt. Er zijn zat rechters die best een cursus logica zouden moeten volgen voor ze de hamer weer ter hand zouden mogen nemen, wellicht waren er hier toevallig twee van dat type actief. Daarnaast is twee zaken veel te weinig om serieus een vergelijking te maken. Probeer het eens met twintigduizend, als beginnetje.
Niet dat ik graag een computer zou laten oordelen, zeer zeker niet. Het gaat uiteindelijk om mensenwerk, niet om mechanisch volgen van stomme wetjes -- vaak genoeg opgesteld door lutsers die ook geen logische redenering zouden herkennen al hing hun leven ervan af. Dus wat dat betreft, laat het lekker mensenwerk. Ik denk alleen dat hun redenering hier en vaak in uitspraken, vrij waardeloos is, dus daar mag best wat aan verbeteren.
Niet dat ik graag een computer zou laten oordelen, zeer zeker niet. Het gaat uiteindelijk om mensenwerk, niet om mechanisch volgen van stomme wetjes -- vaak genoeg opgesteld door lutsers die ook geen logische redenering zouden herkennen al hing hun leven ervan af. Dus wat dat betreft, laat het lekker mensenwerk. Ik denk alleen dat hun redenering hier en vaak in uitspraken, vrij waardeloos is, dus daar mag best wat aan verbeteren.
Door Anoniem:
Helaas is AI helemaal niet neutraal, het neemt keurig de bestaande vooroordelen over. Dus dat rechtspraak minder gekleurd wordt als het geautomatiseerd wordt, is geen gegronde aanname. En zelfs een vrij gevaarlijke, omdat we met zijn allen wel blijven denken dat computers neutraal zijn en het dus lastiger is om dan een uitspraak aan te vechten.
Door Anoniem: Computers worden al in de rechtspraak gebruikt in sommige staten in de VS.....
(Roelof)
(Roelof)
Helaas is AI helemaal niet neutraal, het neemt keurig de bestaande vooroordelen over. Dus dat rechtspraak minder gekleurd wordt als het geautomatiseerd wordt, is geen gegronde aanname. En zelfs een vrij gevaarlijke, omdat we met zijn allen wel blijven denken dat computers neutraal zijn en het dus lastiger is om dan een uitspraak aan te vechten.
Ik begrijp jouw statement niet in deze context. Dat AI vooroordelen kan overnemen (afhankelijk van de implementatie) staat los van dit voorbeeld. In de VS helpt de computer daadwerkelijk om de strafmaat consequenter te krijgen (c.q. dat vrouwe Justitia weer een fatsoenlijke blinddoek heeft). Wat ik aangeef is een praktijkvoorbeeld waarbij dit effect ook is aangetoond. Het is geen aanname.
(note: ik heb het over de strafmaat, niet over wel/niet schuldig)
Watson zullen ze niet gevraagd hebben. Het is het commerciële big data cots oplossing van IBM.
Die rechters hebben wat mij betreft gelijk. Big data is niet "the computer says no". Hij geeft een advies waar iemand die beslist wat mee mag doen. Het kan lastig uitzoekerij besparen. Zoals niemand nog echt leert rekenen of met een slider Iers kan beginnen. Je hebt er immers een app voor. De uitkomst van een berekening kan net als vroeger meewegen in een beslissing. Draagbalk te zwak dan toch maar een sterkere.
Over die rotonde als voorbeeld. Nergens staat dat er ongeluk bij was enkel een overtreding van de verkeerswet. Recentelijk nog een paar keer verplicht linksom te gaan. Dat was echt geen overtreding.
Verzin zelf maar eens waarom dat zo was.
Die rechters hebben wat mij betreft gelijk. Big data is niet "the computer says no". Hij geeft een advies waar iemand die beslist wat mee mag doen. Het kan lastig uitzoekerij besparen. Zoals niemand nog echt leert rekenen of met een slider Iers kan beginnen. Je hebt er immers een app voor. De uitkomst van een berekening kan net als vroeger meewegen in een beslissing. Draagbalk te zwak dan toch maar een sterkere.
Over die rotonde als voorbeeld. Nergens staat dat er ongeluk bij was enkel een overtreding van de verkeerswet. Recentelijk nog een paar keer verplicht linksom te gaan. Dat was echt geen overtreding.
Verzin zelf maar eens waarom dat zo was.
Het bedrijf denkt dat het uiteindelijk mogelijk is om rechters met data-analyse te ondersteunen, bijvoorbeeld door statistische gegevens van eerder gedane uitspraken aan de rechter voor te leggen.
Gevaarlijke ontwikkeling, statistische gegevens zijn de oorzaak geweest van de (in eerste instantie) veroordeelde Lucia_de_B. Nu kun je wel zeggen: dat ligt aan de interpretatie ervan, maar in dat geval zal een computer hetzelfde oordelen als die toenmalige rechter. We kennen allemaal: lies, big lies and statistics, toch?Daarbij, een wet met regeltjes heeft ook een memorie van toelichting, waaruit een mens begrijpt, wat de bedoeling is van zo'n wet. Zijn die ook allemaal aan de computer gevoerd? En snapt zo'n apparaat dat ook?
Dat een rechter zich laat bijstaan door statistieken m.b.t. soortgelijke zaken als de onderhavige, kan wel ondersteunend werken, maar niet meer dan dat. Maar dat heeft een rechter toch tijdens zijn opleiding toch al geleerd?
Door Anoniem:
Niet dat ik graag een computer zou laten oordelen, zeer zeker niet. Het gaat uiteindelijk om mensenwerk, niet om mechanisch volgen van stomme wetjes
Maar het interessante is nou juist dat in dat eerste voorbeeld de computer met een "menselijk begrijpelijke" uitspraakNiet dat ik graag een computer zou laten oordelen, zeer zeker niet. Het gaat uiteindelijk om mensenwerk, niet om mechanisch volgen van stomme wetjes
kwam en dat de rechters deze fout vinden omdat ze alleen mechanisch stomme wetjes willen volgen.
("er stond geen bord, nou dan is het ook niet verboden verkeerd-om de rotonde te nemen", terwijl iedereen snapt dat
je een rotonde alleen in de bij de lokale rechts/links conventie passende richting moet nemen omdat er anders
gevaarlijke situaties ontstaan)
Leuk testje, maar de computer kan alleen maar ondersteunend zijn. En zou dat ook al moeten zijn, er zijn miljoenen ingepompt.
Als men de computer alleen laat beslissen, ben ik benieuwd welke rechtsfilosofie er achter zit.
De nieuwe europese privacywet verbiedt automatische rechtspraak expliciet, al laat het de lidstaat vrij om afwijkingen voor de rechtspraak in wetten te regelen. Dit zit in het verbod op profileren...
Meer specifiek:
De begeleidende tekst over statistische verwerking van persoongegevens van de AVG eindigt met de zin:
... Het statistische oogmerk betekent dat het resultaat van de verwerking voor statistische doeleinden niet uit persoonsgegevens, maar uit geaggregeerde gegevens bestaat, en dat dit resultaat en de persoonsgegevens niet worden gebruikt als ondersteunend materiaal voor maatregelen of beslissingen die een bepaalde natuurlijke persoon betreffen.
(Preambule 162 van de AVG)
En in artikel 22 lid 1 wordt dit verbod op profileren expliciet benoemd:
Artikel 22 Geautomatiseerde individuele besluitvorming, waaronder profilering
1. De betrokkene heeft het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking, waaronder profilering, gebaseerd besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft.
bron: (https://autoriteitpersoonsgegevens.nl/sites/default/files/atoms/files/verordening_2016_-_679_definitief.pdf)
(Henk - CIPP/E)
Als men de computer alleen laat beslissen, ben ik benieuwd welke rechtsfilosofie er achter zit.
De nieuwe europese privacywet verbiedt automatische rechtspraak expliciet, al laat het de lidstaat vrij om afwijkingen voor de rechtspraak in wetten te regelen. Dit zit in het verbod op profileren...
Meer specifiek:
De begeleidende tekst over statistische verwerking van persoongegevens van de AVG eindigt met de zin:
... Het statistische oogmerk betekent dat het resultaat van de verwerking voor statistische doeleinden niet uit persoonsgegevens, maar uit geaggregeerde gegevens bestaat, en dat dit resultaat en de persoonsgegevens niet worden gebruikt als ondersteunend materiaal voor maatregelen of beslissingen die een bepaalde natuurlijke persoon betreffen.
(Preambule 162 van de AVG)
En in artikel 22 lid 1 wordt dit verbod op profileren expliciet benoemd:
Artikel 22 Geautomatiseerde individuele besluitvorming, waaronder profilering
1. De betrokkene heeft het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking, waaronder profilering, gebaseerd besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft.
bron: (https://autoriteitpersoonsgegevens.nl/sites/default/files/atoms/files/verordening_2016_-_679_definitief.pdf)
(Henk - CIPP/E)
28-09-2017, 23:07 door
karma4
Door Anoniem:
Gevaarlijke ontwikkeling, statistische gegevens zijn de oorzaak geweest van de (in eerste instantie) veroordeelde Lucia_de_B. Nu kun je wel zeggen: dat ligt aan de interpretatie ervan, maar in dat geval zal een computer hetzelfde oordelen als die toenmalige rechter. We kennen allemaal: lies, big lies and statistics, toch?
Daarbij, een wet met regeltjes heeft ook een memorie van toelichting, waaruit een mens begrijpt, wat de bedoeling is van zo'n wet. Zijn die ook allemaal aan de computer gevoerd? En snapt zo'n apparaat dat ook?
Dat een rechter zich laat bijstaan door statistieken m.b.t. soortgelijke zaken als de onderhavige, kan wel ondersteunend werken, maar niet meer dan dat. Maar dat heeft een rechter toch tijdens zijn opleiding toch al geleerd?
Gevaarlijke ontwikkeling, statistische gegevens zijn de oorzaak geweest van de (in eerste instantie) veroordeelde Lucia_de_B. Nu kun je wel zeggen: dat ligt aan de interpretatie ervan, maar in dat geval zal een computer hetzelfde oordelen als die toenmalige rechter. We kennen allemaal: lies, big lies and statistics, toch?
Daarbij, een wet met regeltjes heeft ook een memorie van toelichting, waaruit een mens begrijpt, wat de bedoeling is van zo'n wet. Zijn die ook allemaal aan de computer gevoerd? En snapt zo'n apparaat dat ook?
Dat een rechter zich laat bijstaan door statistieken m.b.t. soortgelijke zaken als de onderhavige, kan wel ondersteunend werken, maar niet meer dan dat. Maar dat heeft een rechter toch tijdens zijn opleiding toch al geleerd?
Je moet wel begrijpen waar je het over hebt als je statistiek noemt. In de zaak Lucia b was het een men als statisticus een kans berekening voorstelde dat de betreffende gebeurtenissen zeer onwaarschijnlijk zijn voor een normale burger. Correlatie is nog geen causative en met een specifieke selectie heb je andere premie en met de onzekerheid van een gebeurtenis is er ook de zekerheid dat hij kan voorkomen. Dat is de fout bij onderzoekers die iets willen bewijzen aan de hand van statistiek. Anderzijds het simpel tellen 1,2,3 is ook statistiek wat je zo telt is absoluut. Tel je vingers eens.
Door Anoniem:
Niets blijkbaar. Je hebt in het verkeer ook nog rekening te houden met fouten die anderen kunnen maken. Het is heel goed mogelijk dat het doodrijden van een kind, afhankelijk van de precieze toedracht, als verwijtbaar zou worden bestempeld. Als nu de man dit gedaan had en dan een klein kind had doodgereden, had de rechter dan ook vrijspraak gegeven?
Blijkbaar. Want er stond geen bord dat de man rechtsom moest rijden. Ook al is dat een gewoonte in het Nederlandse verkeer op een rotonde.
Van de meeste rotondes is overduidelijk dat het rotondes zijn, maar er zijn uitzonderingen. Ik herinner me niet waar, maar ik ben enkele keren grote rotondes tegengekomen met zoveel groen in het midden dat erg makkelijk te missen was dat het om een rotonde ging en niet om een weg die uitkwam in de bocht van een andere weg. We weten niet over welke rotonde het bij deze zaak ging, dus kunnen we niet beoordelen of het wel zo duidelijk was voor iemand die plaatselijk niet bekend is.Door Anoniem:
Op een rotonde geldt een verplichte rijrichting die aangegeven is middels een officieel verkeersbord. Als een dergelijk bord er niet staat, bestaat er geen verplichte rijrichting.
Ik vind het wel vreemd dat ze dat feit niet aan de computer door hebben gegeven. Dat was dus geen fout van de computer, maar van degene die de computer bediende.
Peter
Door Whacko:Maar dat eerste voorbeeld vind ik belachelijk dat er vrijspraak is. OOK als de bestuurder uit een land komt waar je links rijdt. In Engeland krijg je ook gewoon een boete voor spookrijden, je behoort de verkeersregels gewoon te kennen als je in een vreemd land de weg op gaat.
Op een rotonde geldt een verplichte rijrichting die aangegeven is middels een officieel verkeersbord. Als een dergelijk bord er niet staat, bestaat er geen verplichte rijrichting.
Ik vind het wel vreemd dat ze dat feit niet aan de computer door hebben gegeven. Dat was dus geen fout van de computer, maar van degene die de computer bediende.
Peter
Maar de gedragsregels gelden wel, verkeersborden gaan boven gedragsregels maar laten deze bij afwezigheid niet vervallen.
In de Nederlandse wet staan deze beschreven, zelfs het voorsorteren indien geen richtingen zijn aangegeven of voor sorteer vakken aanwezig zijn. De uitspraak van de rechter is in deze dus fout. Zou een tweede rechter dezelfde uitspraak hebben gedaan? De test is veel te beperkt. Een computer precies op het gedrag van 1 persoon / 1 rechter afstemmen zou bij een test met een andere rechter weer falen.
Door Anoniem: "Zo oordeelde de computer in de eerste zaak, waarbij een man een rotonde niet rechtsom maar linksom nam, dat de man schuldig was aan het overtreden van de verkeerswet. De rechter oordeelde het tegenovergestelde. Het ontbreken van een verkeersbord, die de juiste rijrichting aangeeft, was doorslaggevend om de man vrij te spreken."
Als nu de man dit gedaan had en dan een klein kind had doodgereden, had de rechter dan ook vrijspraak gegeven?
Als nu de man dit gedaan had en dan een klein kind had doodgereden, had de rechter dan ook vrijspraak gegeven?
Ze hebben de computer niet de juiste informatie verschaft want het was dus geen rotonde gezien het niet het blijkbaar verplichte bord had. Als dat bord niet verplicht is dan heeft de rechter een uitglijder gemaakt want dan snapt ie zelf de verkeersregels niet.
29-09-2017, 21:32 door
karma4
De zaak blijkt echt te bestaan in hoger beroep bevestigd. https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:GHARL:2017:5087
Het verschil is dat de computer de invoer als vaststaande feiten aanneemt terwijl de rechter als mens open staat of de aangevoerde feiten kloppen. Hoe zou je de invoercontrole van wat als bewering of als feit gedaan is moeten doen?
Hier zit de valkuil van het geloof dat de uitkomst van een computer te vertrouwen is, dat is het niet.
Het verschil is dat de computer de invoer als vaststaande feiten aanneemt terwijl de rechter als mens open staat of de aangevoerde feiten kloppen. Hoe zou je de invoercontrole van wat als bewering of als feit gedaan is moeten doen?
Hier zit de valkuil van het geloof dat de uitkomst van een computer te vertrouwen is, dat is het niet.
Reageren
Deze posting is gelocked. Reageren is niet meer mogelijk.
Toezichthouder informatiebeveiliging Overheid
Rijksinspectie Digitale Infrastructuur (RDI)
Vind je het leuk om als toezichthouder bij te dragen aan de verdere groei in informatie-beveiliging van de overheid en in contact te staan met (belangen) organisaties binnen de overheid? Dan kun je komen bouwen aan toezicht op een veilige en betrouwbare Digitale Infrastructuur in Nederland.
Adviseur Informatiebeveiliging
Je bent een belangrijke speler om invulling te geven aan de gemeentelijke ambities op het gebied van informatiebeveiliging. Deze ambities neem jij op in het Informatie-beveiligingsbeleid Gemeente Zoetermeer. Wil je helpen bij het verbeteren van de informatiebeveiliging in Zoetermeer en het versterken van het cyberbewustzijn binnen onze organisatie? Wacht dan niet en kom ons team informatiebeveiliging versterken!
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.