image

Voorspellende software moet politie helpen bij vinden criminelen

dinsdag 16 juli 2019, 13:24 door Redactie, 28 reacties

TNO heeft een voorspellend computermodel ontwikkeld dat politie en justitie moet helpen bij het vinden van veroordeelde personen die hun straf nog moeten uitzitten. Het systeem heet Siringo en maakt gebruik van allerlei data zoals GBA-gegevens en informatie uit allerlei politiesystemen.

Siringo is gebaseerd op het door TNO ontwikkelde computermodel QUIN. "Mensen zijn gewoontedieren. Dus je kan ervan uitgaan dat iemand die nog een straf moet uitzitten, voor bepaalde opties kiest zoals onderduiken bij een familielid. QUIN kijkt welke opties de meest waarschijnlijk zijn en waar politie en justitie in de opsporing het beste op kunnen inzetten. Bijvoorbeeld op een telefoontap van diens moeder rondom haar verjaardag", zegt Selmar Smit, onderzoeker bij TNO op het gebied van artificial intelligence en de bedenker van QUIN.

Het computermodel is gevoed met allerlei oude, opgeloste zaken. Siringo vergelijkt informatie over nieuwe zaken met die oude zaken. De software prioriteert zaken onder andere op woonsituatie, vergelijkbare antecedenten en familieleden. Het systeem moet helpen bij het vinden van "onvindbaren". Nederland telt 11.000 mensen die nog een gevangenisstraf hebben uitstaan. Bij zo'n 800 mensen gaat het om een gevangenisstraf van meer dan 120 dagen.

De software kan niet alleen nieuwe en oude onderzoeken vergelijken, het is ook in staat om "real-life" te bepalen waar een voortvluchtige ongeveer zit. Ook hierbij maakt het systeem gebruik van oude zaken. Volgens Smit is het dan ook belangrijk dat alles goed wordt gelogd, zodat er veel informatie aan het systeem kan worden toegevoegd. Dit moet weer helpen bij toekomstige zoektochten. De software wordt voor opsporingsinstanties verder getest. Zo wordt het van meer oude zaken voorzien. Dat moet de voorspellingen nauwkeuriger maken, aldus InZicht, een magazine van het Openbaar Ministerie.

Reacties (28)
16-07-2019, 14:12 door Anoniem
Dat je schuldigen wilt vinden is nog tot daar aan toe, maar dat je hiervoor de privacy van onschuldige burgers met voeten treedt gaat me te ver.
16-07-2019, 14:16 door Anoniem
"Roverheid" rakker incoming in 1 2 3...

Goed initiatief het gaat hier om VEROORDEELDEN dit nog een straf moeten uitzitten.

Dus niet huilen over privacy ect

Deze software combineerd data die ook met ouderwets speurwerk te vinden is op een efficientere manier
16-07-2019, 14:34 door Anoniem
Ik voorspel dat er ineens veel meer mensen gevonden moeten worden, want de computer zegt het.

"Bijvoorbeeld op een telefoontap van diens moeder rondom haar verjaardag"
Heel slim, maar waar wordt die moeder van verdacht? Of is verdenking niet meer belangrijk tegenwoordig?

Persoonlijk denk ik dat dit allemaal mooi technogefap is, maar dat het probleem ontstaan is door mensen eerst rustig te laten gaan na hun veroordeling, en ze dan ineens niet meer kunnen vinden. Oftewel, ze perongeluk expres zoekgeraakt hebben laten worden. En aangezien politiespelen nog altijd om mensen draait...
16-07-2019, 14:40 door Reinder
Wat een geweldig idee. What could possibly go wrong.
16-07-2019, 14:44 door Anoniem
Wat een geweldig idee. What could possibly go wrong.

Bij het vinden van iemand die nog een straf uit moet zitten ? Wat mis kan gaan, is dat je deze bijvoorbeeld niet vindt. Het zegt niets over straf, bewijs en meer van dat soort zaken. Wat zijn de problemen, die jij hier ziet, bij dit hulpmiddel ?
16-07-2019, 14:52 door Anoniem
Nog een paar stappen en dan zijn we bij minority report
16-07-2019, 15:53 door Anoniem
quote: zoals GBA-gegevens

De overheid moet gewoon uit mijn GameBoy Advanced blijven, mijn highscores zijn prive.

Zonder dollen, wat mij zorgen baart is: Bijvoorbeeld op een telefoontap van diens moeder rondom haar verjaardag"

De vraag is waar houd het hier op, moeder, oma, andere familie leden die misschien helemaal niks hebben te maken met het criminele gedrag van anderen. etc etc.
16-07-2019, 15:55 door Anoniem
Door Anoniem: Nog een paar stappen en dan zijn we bij minority report
Eh... zijn we daar niet al?

Maar in de film vonden we het eng en een slecht idee...
16-07-2019, 16:08 door spatieman
NL mode: Hier is iedereen schuldig, ook al is die onschuldig, en ook onschuldig via het gerechtssysteem.
16-07-2019, 16:23 door Anoniem
"Mensen zijn gewoontedieren. Dus je kan ervan uitgaan dat iemand die nog een straf moet uitzitten, voor bepaalde opties kiest zoals onderduiken bij een familielid. QUIN kijkt welke opties de meest waarschijnlijk zijn en waar politie en justitie in de opsporing het beste op kunnen inzetten. Bijvoorbeeld op een telefoontap van diens moeder rondom haar verjaardag"

Ze gaan dus voor het laaghangende fruit. De domme criminelen die zich als gewoontedinren gedragen, ook al worden ze gezocht.
En dat ze die nu al niet kunnen vinden, zegt ook iets voor het opsporingsapparaat. (Dat het of overwerkt is of niet in staat is dit zelf te bedenken)
16-07-2019, 16:25 door Hyper - Bijgewerkt: 16-07-2019, 16:26
NOS: Overheid gebruikt op grote schaal voorspellende algoritmes, 'risico op discriminatie'
https://nos.nl/artikel/2286848-overheid-gebruikt-op-grote-schaal-voorspellende-algoritmes-risico-op-discriminatie.html
16-07-2019, 16:33 door Anoniem
Het grootste onmiddellijke risico dat ik zie is dat dit gebeuren false positives kan (en bij inzet op grote schaal zal) opleveren. Dit soort algorithmes werkt gewoonlijk perfect in kleinschalige laboratoriumcondities, de false positieve en andere fouten zijn schaalafhankelijke kansen, hoe groter de schaal, des te meer fouten met een kleine kans gaan optreden.

Is de foutkans groot, dan is er niet zo veel aan de hand. De fouten worden herkend, onderkend en opgelost.
Is de foutkans zeer klein (laten we zeggen luchtvaartnormen, 1 op 10 miljoen of minder), dan is er ook niet veel aan de hand (wel als dat de beweerde kans is, maar de werkelijke kans veel groter, wat vooral bij opsporingsdiensten een veel voorkomend fenomeen is). Kansen van 1 op 10 miljoen of minder lig ik niet bijzonder wakker van.

Ertussenin is wel een probleem, te klein om opgelost of onderkend te worden, te groot om je geen zorgen over te maken. Geen gehoor, geen mogelijk om verhaal te halen. In geval Ron Kowsolea o.i.d. een leven dat de moeite nauwelijks meer waard is.

De vooruitzichten om als onschuldige ook als betrokkene gezien te worden waar rekening mee gehouden moet worden zijn niet goed. @Anoniem 14:16 zet alvast de toon door mijn categorie betrokkenen finaal over het hoofd te zien...

Interessant vind ik hier ook mijn gevoelsmatige reactie in verband met de AVG. Hoe meer ik daar mee bezig ben, hoe meer ik de AVG ook zie als de remmen op een auto om harder te kunnen rijden. Een organisatie die met mijn gegevens uit de bocht vliegt zal me leren kennen, maar juist omdat dat kan, en ze er knap bang voor moeten zijn, ben ik sneller geneigd om mee te gaan in hun ideeën met inachtneming van de zorgvuldigheid en rechten die de AVG eist.

De politie is uitgezonderd van de AVG voor zover het opsporing betreft. Dat blijkt eerder een handicap dan een voordeel te zijn (zonder remmen):

- Geen betekenisvolle informatie over hoe het algorithme werkt (nodig om op de eventuele fouten te wijzen), artikel 13 lid 2f of artikl 14 lid 2g.
- Geen recht om niet uitsluitend door een automatische besluitvorming te worden beoordeeld (artikel 22), inclusief het recht op menselijke interventie om de resultaten na te kijken (idem, lid 3).
- Geen recht op rectificatie, en in het bijzonder op notificatie van die rectificatie aan ontvangende partijen (artikelen 16 en 19).
- Wel recht om een klacht in te dienen bij de Autoriteit Persoonsgegevens, maar praktisch kansloos (artikel 77).
- Geen expliciet recht om eventueel handhaving van deze wensen af te dwingen via de rechter (artikel 79).
- Geen recht op vergoeding van de materiële en immateriële schade (artikel 82).
- En geen stok achter de deur in de vorm van de kans op fikse boetes (artikel 83).

Zonder remmen moet je niet hard willen rijden. Zonder afdoende waarborgen om missers die me raken dubbel en dwars recht te zetten geen draagvlak van mijn kant. Sorry.
16-07-2019, 16:57 door MathFox
Door Anoniem:
Wat een geweldig idee. What could possibly go wrong.
Bij het vinden van iemand die nog een straf uit moet zitten ? Wat mis kan gaan, is dat je deze bijvoorbeeld niet vindt. Het zegt niets over straf, bewijs en meer van dat soort zaken. Wat zijn de problemen, die jij hier ziet, bij dit hulpmiddel ?
Mama zet (meerderjarige) zoon OC (onverbeterlijk crimineel) buiten de deur en verbiedt zoon om ooit nog thuis te komen. Broer BJ (brave jongen) heeft nog wel contact met OC en krijgt de oude smartfoon van OC. BJ neemt de telefoon mee naar de verjaardag van ook zijn moeder, waarna een arrestatieteam van de politie het feest komt "opvrolijken".
16-07-2019, 17:34 door karma4 - Bijgewerkt: 16-07-2019, 17:40
Door Anoniem: Dat je schuldigen wilt vinden is nog tot daar aan toe, maar dat je hiervoor de privacy van onschuldige burgers met voeten treedt gaat me te ver.
Jij gaat voor de privacy schending van de onschuldige burgers. Stel je voor dat je het criminelen lastig zou gaan maken, dat is voor de criminele hoek echt een probleem.

Door Anoniem: ....
Zonder remmen moet je niet hard willen rijden. Zonder afdoende waarborgen om missers die me raken dubbel en dwars recht te zetten geen draagvlak van mijn kant. Sorry.
Dus bij voorbaat alle criminelen de vrije hand geven waarbij de gevolgschade niet uitmaakt. Dat is het fiasco van type2 fout.

Waar staat trouwens dat het algoritme het besluit neemt?
Een betere kans zonder discrimerende effecten is waar je baar streeft. Als je niets mag doen heb je in ieder geval verloren.
16-07-2019, 18:17 door Anoniem
in 3. 2. 1.

software wordt niet gebruikt want te racistisch
16-07-2019, 19:35 door [Account Verwijderd]
Door Anoniem:

Zonder remmen moet je niet hard willen rijden. Zonder afdoende waarborgen om missers die me raken dubbel en dwars recht te zetten geen draagvlak van mijn kant. Sorry.

Waar is je kritiek nu op gespitst?
Tenuitvoerlegging/handhaving AVG? (Daar gaat het niet over)
Waarom zit je verlegen om waarborgen?
Heb je iets te verbergen qua veroordeling wegens 'een persoonljke kerfstok'?

Storm in een glas water dus. En ja de barometer op security. nl is daarvoor hypersensitief.

Wat is het nu eigenlijk; dat computermodel QUIN? Veroordeelde mensen zijn ook gewoontedieren (net als malware) dus wat is er nu handiger dan op hen heuristiek toepassen? Net als anti-malware software ook doet om efficienter malware- algoritmen op te sporen is heuristiek doeltreffend om menselijke gedragspatronen die van het rechte padje afwijken te voorspellen èn die je wil zien als opsporingsbevoegde(n).

Als je de pest hebt aan criminelen juig je QUIN toe.
Maar:
Als iemand die hier kritiek op heeft denkt dat hij zij herkenbaar is in die voorspelde patronen zit zijn alu-hoedje te strak of is het ook een veroordeelde crimineel die zijn straf ontloopt.
Meer smaken zijn er niet.
16-07-2019, 19:47 door MathFox
Door karma4:
Door Anoniem: ....
Zonder remmen moet je niet hard willen rijden. Zonder afdoende waarborgen om missers die me raken dubbel en dwars recht te zetten geen draagvlak van mijn kant. Sorry.
Dus bij voorbaat alle criminelen de vrije hand geven waarbij de gevolgschade niet uitmaakt. Dat is het fiasco van type2 fout.
In Nederland worden er grenzen gesteld aan wat de politie mag doen. Dat is om onschuldige burgers te beschermen tegen de overheid. Dat heeft ook tot gevolg dat sommige misdaden niet opgelost worden en sommige misdadigers nooit worden bestraft. Ik accepteer dat om in vrijheid te kunnen leven. (Ik kan me op een publiek forum kritisch uitlaten over de overheid.) Naar mijn mening is de politie effectief genoeg om 95% van de Nederlanders uit de criminaliteit te houden.

De politie mag van mij best vragen om extra bevoegdheden, daarbij hoort wel een afweging van opbrengsten, kosten en risico's. Mijn indruk is dat bij het project waar we het in dit artikel over hebben alleen de financiële kosten bekend zijn, maar verder nauwelijks gekeken is naar maatschappelijke kosten en (privacy-) risico's. Ik zou ook graag weten wat de verwachte opbrengst van het systeem is.
16-07-2019, 20:09 door Anoniem
Door MathFox:
Door Anoniem:
Wat een geweldig idee. What could possibly go wrong.
Bij het vinden van iemand die nog een straf uit moet zitten ? Wat mis kan gaan, is dat je deze bijvoorbeeld niet vindt. Het zegt niets over straf, bewijs en meer van dat soort zaken. Wat zijn de problemen, die jij hier ziet, bij dit hulpmiddel ?
Mama zet (meerderjarige) zoon OC (onverbeterlijk crimineel) buiten de deur en verbiedt zoon om ooit nog thuis te komen. Broer BJ (brave jongen) heeft nog wel contact met OC en krijgt de oude smartfoon van OC. BJ neemt de telefoon mee naar de verjaardag van ook zijn moeder, waarna een arrestatieteam van de politie het feest komt "opvrolijken".

Simpel ID kaart laten zien en het probleem is opgelost. Zonder dit systeem had de politie een naar de verjaardag van moeders gegaan en toch ook niet BJ uit huis gesleept?
16-07-2019, 21:08 door Anoniem
Door MathFox:Mama zet (meerderjarige) zoon OC (onverbeterlijk crimineel) buiten de deur en verbiedt zoon om ooit nog thuis te komen. Broer BJ (brave jongen) heeft nog wel contact met OC en krijgt de oude smartfoon van OC. BJ neemt de telefoon mee naar de verjaardag van ook zijn moeder, waarna een arrestatieteam van de politie het feest komt "opvrolijken".

Beste inzicht!
17-07-2019, 06:55 door karma4 - Bijgewerkt: 17-07-2019, 07:45
Door MathFox: .....
De politie mag van mij best vragen om extra bevoegdheden, daarbij hoort wel een afweging van opbrengsten, kosten en risico's. Mijn indruk is dat bij het project waar we het in dit artikel over hebben alleen de financiële kosten bekend zijn, maar verder nauwelijks gekeken is naar maatschappelijke kosten en (privacy-) risico's. Ik zou ook graag weten wat de verwachte opbrengst van het systeem is.

Het gaat niet om e tra bevoegdheden.
Het gast om eenvoudiger een vlaggetje met kans op situaties en locries met tijd te zetten. Niet veel anders dan de verwerking in een fabriek meer te organiseren als een goed lopende band. Niet alles hoeft perfect te zijn en perfect te gaan. Daar zit inderdaad een kosten baten overweging bij.

Als transport vervoer wil controleren dan is dat beter te doen met een gedegen onderbouwde signalering dan de intuïtie van een agent.
Controle foute kentekens kun je beter met een anpr camera en zwarte lijst doen dan handmatig.

Bezetting van een post is voorspelbaar. Buurt soort en aantal problemen. Zoals een winkel klanten en omzet inschat.

Bij plofkraken heeft het gebruik van een snelle Audi een hoge kans. Niet alle snelle Audi rijders zijn zo'n crimineel, integendeel.

Bij drugstransport heb je ook bepaalde patronen met hogere kansen. Er is eem fraai boek met ervaringen daarover.
Doe je zoiets goed dan elimineer je de menselijk ongewenste bias. De werkelijke gebruikte signalen zijn uitlegbaar en transparant.

https://www.bol.com/nl/p/predictive-policing/9200000040899895/
17-07-2019, 07:21 door Anoniem
Door karma4:Er is eem fraai boek met ervaringen daarover.
Doe je zoiets goed dan elimineer je de menselijk ongewenste bias. De werkelijke gebruikte signalen zijn uitlegbaar en transparant.

Dus een slimme crimineel zal tegen deze voorspelbare statistische waarschijnlijkheden in gaan, door geen voorspelbaar gedrag te vertonen..


Bv door geen "snelle Audi" te nemen na een plofkraak, maar misschien juist een auto die opgaat in de massa van andere auto's ter plekke.
17-07-2019, 07:36 door Anoniem
Dat de omgeving van een 'onvindbare' gecriminaliseerd wordt en - uiteraard - gearchiveerd wordt vind ik wel zorgelijk. We weten ook dat de politie zich niet al te veel aantrekt van de Wet Politiegegevens, er wordt toch niet gehandhaafd.

De beeldvorming en stemmingmakerij vind ik eveneens zorgelijk. Genoemde signalen die worden gebruikt waren ook al valide in de pre-digitale wereld van toepassing en daarmee konden velen worden gevonden. Het is niet bepaald high tech. Om het dan over 'Onvindbaren' te hebben is pure stemmingmakerij. Misschien is het juister om het over luie speurders te hebben.
17-07-2019, 08:10 door Anoniem
Door Anoniem:
"Mensen zijn gewoontedieren. Dus je kan ervan uitgaan dat iemand die nog een straf moet uitzitten, voor bepaalde opties kiest zoals onderduiken bij een familielid. QUIN kijkt welke opties de meest waarschijnlijk zijn en waar politie en justitie in de opsporing het beste op kunnen inzetten. Bijvoorbeeld op een telefoontap van diens moeder rondom haar verjaardag"

Ze gaan dus voor het laaghangende fruit. De domme criminelen die zich als gewoontedinren gedragen, ook al worden ze gezocht.
En dat ze die nu al niet kunnen vinden, zegt ook iets voor het opsporingsapparaat. (Dat het of overwerkt is of niet in staat is dit zelf te bedenken)

Laaghangend fruit maar laten hangen dan?
17-07-2019, 09:56 door Anoniem
Door Anoniem:
Door Anoniem:
"Mensen zijn gewoontedieren. Dus je kan ervan uitgaan dat iemand die nog een straf moet uitzitten, voor bepaalde opties kiest zoals onderduiken bij een familielid. QUIN kijkt welke opties de meest waarschijnlijk zijn en waar politie en justitie in de opsporing het beste op kunnen inzetten. Bijvoorbeeld op een telefoontap van diens moeder rondom haar verjaardag"

Ze gaan dus voor het laaghangende fruit. De domme criminelen die zich als gewoontedinren gedragen, ook al worden ze gezocht.
En dat ze die nu al niet kunnen vinden, zegt ook iets voor het opsporingsapparaat. (Dat het of overwerkt is of niet in staat is dit zelf te bedenken)

Laaghangend fruit maar laten hangen dan?

Nee, maar die zouden ze ook zonder deze methode al moeten kunnen oppakken. Want die criminelen zijn juist zo voorspelbaar.
17-07-2019, 11:29 door Anoniem
Eagle Eye anyone?
17-07-2019, 14:55 door Anoniem
Door Anoniem: Eagle Eye anyone?

Arendsoog?
Dat zijn nog eens jeugdherinneringen. :-)
Al lang niet meer gelezen.
17-07-2019, 16:33 door Anoniem
Door Anoniem:
Door Anoniem:
Door Anoniem:
"Mensen zijn gewoontedieren. Dus je kan ervan uitgaan dat iemand die nog een straf moet uitzitten, voor bepaalde opties kiest zoals onderduiken bij een familielid. QUIN kijkt welke opties de meest waarschijnlijk zijn en waar politie en justitie in de opsporing het beste op kunnen inzetten. Bijvoorbeeld op een telefoontap van diens moeder rondom haar verjaardag"

Ze gaan dus voor het laaghangende fruit. De domme criminelen die zich als gewoontedinren gedragen, ook al worden ze gezocht.
En dat ze die nu al niet kunnen vinden, zegt ook iets voor het opsporingsapparaat. (Dat het of overwerkt is of niet in staat is dit zelf te bedenken)

Laaghangend fruit maar laten hangen dan?

Nee, maar die zouden ze ook zonder deze methode al moeten kunnen oppakken. Want die criminelen zijn juist zo voorspelbaar.
Klopt maar het combinereren van data maakt dit sneller en efficienter wat deze software ook doet waardoor er weer tijd is voor andere zaken.

Je kunt een typemachine gebruiken om je brieven te schrijven of een word processor welke gebruik jij liever ?
17-07-2019, 18:03 door karma4
Door Anoniem:
Dus een slimme crimineel zal tegen deze voorspelbare statistische waarschijnlijkheden in gaan, door geen voorspelbaar gedrag te vertonen..


Bv door geen "snelle Audi" te nemen na een plofkraak, maar misschien juist een auto die opgaat in de massa van andere auto's ter plekke.
Dat is nu net de reden waarom je wel de techniek van data verweking kan openbaren maar niet de specfieke details van welke gegevens naar eenbepaald resultaat zullen leiden.

Niets bijzonders oj je zou in de handhaving beveiliging mieten openbaren wie wanner zal zijn en waar hij op gaat letten
Leg de sleutels van de kluis pasword daar en daar met daarmee onbeperkte toegang tot de kroonjuwelen.
Dat is gewoon onzin.

Beveigiging handhaving is gebaat bij niet alle informatie aan mogelijke foute figuren te geven. Essentieel punt zonder dat het security.nl obscurity is.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.