Gemeente Heerlen wil met AI criminaliteit in de stad gaan voorspellen
De gemeente Heerlen wil met AI criminaliteit in de stad gaan voorspellen, tot grote zorgen van Amnesty International, dat wil dat het project wordt stopgezet. Heerlen heeft van de Europese Unie een subsidie van vijf miljoen euro gekregen voor het opzetten van een project genaamd 'Pulse-Twin', waarbij een algoritme op basis van data van politie, het Centraal Bureau voor de Statistiek (CBS) en maatschappelijke organisaties criminaliteit moet voorspellen.
"Heerlen kampt al lange tijd met sociale- en veiligheidsproblemen. Het PULSE-TWIN-project pakt deze stedelijke uitdagingen aan met datagedreven oplossingen en inclusieve samenwerking". zo laat de website van het project weten, waarop nog geen verdere informatie is te vinden. "Datagedreven werken blijft een pijler van ons beleid. Het Informatieknooppunt Leefbaarheid en Veiligheid Heerlen wordt verder uitgebouwd, onder andere met geavanceerde analyse-instrumenten. In 2026 gaan we met het project Pulse Twin inzetten op AI ter ondersteuning van het werk omtrent leefbaarheid en veiligheid in de wijken", meldt de gemeente in de begroting voor dit jaar.
Burgemeester Roel Wever stelt dat Pulse-Twin moet voorspellen 'waar er rotzooi uitbreekt, zodat we eerder kunnen ingrijpen', zo liet hij eerder tegenover De Limburger weten. Het gaat vooralsnog om een pilot. Eind dit jaar moet de eerste versie gereed zijn, waar vervolgens tot het voorjaar van 2028 in besloten groep mee wordt geëxperimenteerd. Het systeem wordt daarna pas echt in gebruik genomen.
Amnesty International maakt zich zorgen en wil dat het project wordt stopgezet. "Bij systemen die overlast of criminaliteit voorspellen en ingezet worden voor handhaving door de politie, is er een groot risico op etnisch profileren. Amnesty International hoopt dan ook dat de gemeente Heerlen de inzet van Pulse-Twin heroverweegt", zo laat beleidsmedewerker Alexander Laufer tegenover Trouw weten.
Iris Muis, expert data-ethiek aan de Data School van de Universiteit Utrecht, is ook kritisch. "We hebben nog geen enkel voorbeeld gezien dat het werkt. Zulke digitale tweelingen kunnen nuttig zijn om bijvoorbeeld de verkeersdoorstroom te verbeteren, maar als je ze inzet voor criminaliteitsbestrijding, brengt dat heel veel risico’s op privacyschending en discriminatie, tegenover een twijfelachtige opbrengst."
Straks worden er mensen opgepakt die niets hebben misdaan en je zelf je onschuld moet bewijzen, dat is de omgekeerde wereld, en staat haaks op je grondrechten.
Tijd om gemeente Heerlen op het matje te roepen.
Met als gratis extraatje: hallucinaties.
Beuh...
Bij alleen de managementterm 'uitdagingen' moet ik al naar de wc. Nu moet ik zelfs rennen.
Iris Muis, expert data-ethiek aan de Data School van de Universiteit Utrecht, is ook kritisch. "We hebben nog geen enkel voorbeeld gezien dat het werkt. Zulke digitale tweelingen kunnen nuttig zijn om bijvoorbeeld de verkeersdoorstroom te verbeteren, maar als je ze inzet voor criminaliteitsbestrijding, brengt dat heel veel risico’s op privacyschending en discriminatie, tegenover een twijfelachtige opbrengst."
Zelf wordt er door ons Predictive Policing (PP), Geografische Profilering (GP) en andere profileringstechnieken gebruikt in de strijd tegen de criminaliteit in onze stad. We kunnen dit alleen doen op basis van de gepubliceerde data die al helemaal niets zegt over ras, geloof of seksuele voorkeur. Daar gaat het ook helemaal niet om. Het heeft dus helemaal niets te maken met privacyschending, discriminatie en etnisch profilering. Ik verdenk ze ervan dat dit er gewoon wordt bijgehaald om de onderzoeksmethode bij voorbaat verdacht te maken.
De reden waarom we deze methoden met AI en PP met GP gebruiken is om te zien hoeveel risico je in een bepaald gebied van de stad loopt omdat een of andere gek zo graag je auto in brand wil steken bijvoorbeeld, en waar de hotspots zijn van inbraken. We hebben hier echt honderden autobranden, opzettelijke brandstichtingen en inbraken over ons heen gekregen de afgelopen jaren. En zelfs de gewone burgers hebben hier echt genoeg van.
Daarom worden de risicogebieden in onze stad in kaart gebracht en worden de verdere ontwikkelingen bijgehouden.
https://www.schneier.com/blog/archives/2026/02/llms-generate-predictable-passwords.html
Ook kan een LLM niet iets voorspellen wat niet al in de trainingsdata zat. Je gaat dus (nieuwe) criminaliteit missen.
Beuh...
Bij alleen de managementterm 'uitdagingen' moet ik al naar de wc. Nu moet ik zelfs rennen.
Ik heb nog geen bewijs gezien dat "misdaad voorspellen" echt werkt. Ook geen bewijs dat het niet kan werken. Laten we eens kijken wat de pilot brengt, hoe effectief het systeem is en (met de andere AI: Amnesty International) kritisch volgen of het niet tot verkapte discriminatie leidt.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Functionaris Gegevensbescherming
Ben jij die onafhankelijke expert die privacy naar een hoger plan tilt? Als Functionaris Gegevensbescherming (FG) krijg je bij ons een unieke uitdaging: jij bent hét toezichthoudend én adviserend geweten op privacygebied voor maar liefst vier gemeenten: Venray, Peel en Maas, Horst aan de Maas en Beesel.
Digital Designer
Ben jij een Grafisch vormgever, UI/UX-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, en op zoek naar een unieke en uitdagende baan waar je al je creativiteit in kwijt kan? Dan ben je bij Certified Secure aan het juiste adres! Je werkt samen met onze security developers aan onze Gamified Cybersecurity Challenges.
