GroenLinks-PvdA wil opheldering over gebruik AI-tool door incassobureau
GroenLinks-PvdA heeft demissionair ministers Yesilgöz van Justitie en Veiligheid en Schouten voor Armoedebeleid opheldering gevraagd over een incassobureau dat een AI-tool inzet om de kans op probleemschulden vroegtijdig te signaleren. De AI-tool van Intrum monitort digitale gesprekken naar eigen zeggen op zo’n zeshonderd variabelen, zoals 'tone of voice', het moment van contact of de manier van contact.
"Hierdoor kan het slimme systeem bepalen of iemand potentieel risico loopt om problematische schulden te ontwikkelen", zo stelt het incassobureau. "In zo’n geval zoekt het gespecialiseerde klantteam samen met de betreffende persoon naar een passende oplossing om langdurige problemen te voorkomen. Deze ontwikkeling is een baanbrekende stap in de wereld van incasso’s en schuldinvordering."
Rejo Zenger van burgerrechtenbeweging Bits of Freedom waarschuwt tegenover het AD dat het risico op zeer willekeurige beslissingen heel groot is bij gebruik van zulke systemen, als ze niet heel goed zijn getraind. "Dat kan bizarre situaties opleveren als mensen in een kwetsbare positie, zoals schuldenaren, daarmee te maken krijgen", zo laat hij weten. "En volgens mij zijn er genoeg voorbeelden waarbij gebruik van algoritmes heeft gezorgd voor ernstige gevallen van discriminatie en privacy-schending."
GroenLinks-PvdA-Kamerleden Kathmann en Mohandis willen nu van de ministers weten hoeveel incassobureaus en andere schuldenorganisaties gebruik van AI maken. "Is het u bekend welke techniek precies zal worden toegepast door Intrum voor het scannen van correspondentie van mensen met schulden? Op welke data is dit systeem getraind en wat gebeurt er met de input van mensen met schulden? Voldoet het bedrijf hiermee aan dataminimalisatie?", zo willen de twee verder weten.
Yesilgöz en Schouten moeten ook duidelijk maken of ze risico’s zien bij het inzetten van zelflerende AI door incassobureaus, zoals het aanleren van discriminerende vooroordelen, gebrek aan transparante besluitvorming en inbreuk op privacy bij het scannen van mogelijk gevoelige correspondentie? Kathmann en Mohandis vinden dat organisaties in de schuldenindustrie uiterst terughoudend moeten zijn bij de inzet van AI en algoritmes en vragen of de ministers dat ook vinden.
De GroenLinks-PvdA-Kamerleden vragen ook om de garantie dat het gebruik van AI voor consumenten altijd optioneel is en dat consumenten nooit onder druk gezet mogen worden om de persoonlijke correspondentie door een dergelijk systeem te laten controleren. De ministers moeten tevens laten weten welke kaders erop dit moment gelden voor het gebruik van AI door incassobureaus en schuldeisers. De bewindslieden hebben drie weken om de vragen te beantwoorden.
Die waren twintig jaar geleden al brieven aan het versturen alsof ze van het OM kwamen. Logo leek er ook veel op. De handel bestond uit cessie van niet invorderbare schulden, die kochten ze op bij de (semi) overheidsinstellingen zoals ziekenfondsen, woningbouwverenigingen etc. En dan maar dreigbrieven sturen, daar waren ze toen al goed in, mensen afpersen, hun huizen uit laten zetten door schulden.
Bij die handel heeft de overheid dus toen verdient, en dat zullen ze wel nog steeds doen alleen nu met AI. Het wordt steeds erger.
Welke status verlenen we A.I.?
Statelijke actor? Globale actor zelfs?
Het maakt sommigen al wel een beetje bang.
Komen er wettelijk voorgeschreven algoritme opstellingen?
Alles wat niet ten dienste van de burgers is, is tegen ons burgers.
#laufer
Welke status verlenen we A.I.?
Statelijke actor? Globale actor zelfs?
Mijn punt: als je iets te zeggen hebt zeg het. Stop met deze poetische complotdenkerij en maak je gedachten een keer duidelijk.
dan na een paar jaar is er nog niets gebeurd. Maar je hebt wel gelijk die criminele horen ergens anders
thuis.
Ben ik de enige die van veel vertrouwen in de overheid op korte termijn helemaal geen vertrouwen meer
heeft in de overheid. De minister-president bijvoorbeeld is nu alleen bezig zijn volgende baan zeker te stellen,
ondanks zijn falen in dit land heeft hij veel kans om die baan te krijgen, dat zegt mij wel veel.
populisme, is polariserend, want we moeten toch allemaal mee in de propagandistische en geplande dialoog. Het lijkt wel een standaard repliek van een bot zelf. PvdA was dat niet eens in het leven geroepen door de loge?
Welke status verlenen we A.I.?
Statelijke actor? Globale actor zelfs?
Mijn punt: als je iets te zeggen hebt zeg het. Stop met deze poetische complotdenkerij en maak je gedachten een keer duidelijk.
Ben blij met jou reactie.
Zelf als ik dit artikel lees stel de vraag eerder, waarom gaat de overheid zich bemoeiden met innovatie? Moeten bedrijven zich tegenwoordig verantwoorden als ze iets bedenken dat hun dienst of product beter maakt?
Als ik dit artikel lees dan lees ik over een stukje software dat ondersteund in het vinden van "mogelijke" probleemgevallen. Waarom gaan we hier nu moeilijk over doen? al jaren wordt er gebruik gemaakt van software die op basis van invoer bepaald hoe hoog mijn hypotheek maximaal gaat zijn. Daar zit geen menselijke hand meer bij omdat de overheid voor de banken en verstrekkers de regels hiervoor heeft bepaald. Dus de software hoeft dit alleen nog maar te toetsen en ene waarde eruit te spugen met een rente gebaseerd op risicoanalyse....
Laten we nu niet elke innovatie onder een vergrootglas leggen en eerder dit gaan aanmoedigen, kijken wat we ermee kunnen om het leven beter te maken.
Is het zo erg om kritisch en argwanend te zijn?
Het verdienmodel van bedrijven als Intrum is de afbetaling van schulden. Waarbij het verlokkend is om dit uit te smeren over een langere periode, zodat ze meer incassokosten of rente kunnen heffen.
Volg het geld:
Als een client potentieel risico loopt om problematische schulden te ontwikkelen, dan kunnen ze naar hun inkomsten fluiten. Een kale kip kun je namelijk niet plukken. En uit een steen geen bloed persen.
Het is dus eigen belang, zodat ze langer kunnen melken ipv iemand failliet laten verklaren oid.
Deze schuldenaren zijn vaak al kwetsbaar. Het is niet alsof ze veel keuzes hebben. Er is meestal een achterliggende reden waarom ze in de schulden beland zijn.
Schuldsanering is vaak een betere optie, als ze daar al voor in aanmerking komen.
Op een eerder moment al goed met geld leren omgaan misschien nog beter. (voorkomen is beter dan genezen, heb ik altijd geleerd)
Ik ga er dan ook niet blind van uit dat een commercieel bedrijf zo maar charitatief iets voor deze mensen doet.
AI kost geld. Dat moet ergens uit betaald worden.
Zijn er dan zoveel clienten met problematische schulden? Waar is dat dan door veroorzaakt?
Of worden de tarieven verhoogd?
En dan hebben we het nog niet over de 600 onbekende variabelen.
Waar letten ze allemaal op?
En welke vooroordelen zitten daarin verstopt?
Wat als de AI gaat hallucineren?
Moet je kwetsbare mensen die al weinig keuzes hebben, ook nog eens als proefkonijn inzetten?
populisme, is polariserend, want we moeten toch allemaal mee in de propagandistische en geplande dialoog. Het lijkt wel een standaard repliek van een bot zelf. PvdA was dat niet eens in het leven geroepen door de loge?
Mijn probleem met #laufer was dat die geen kritiek levert. In plaats daarvan worden er alleen wat vage vragen gesteld en gevoelens opgeroepen. Als je kritiek hebt, verwoord dat dan, want dan kunnen anderen er nog iets mee. Niemand is geholpen met nietszeggend poetisch gebrabbel.
Overigens kun je toch niet met droge ogen beweren dat "Alles wat niet ten dienste van de burgers is, is tegen ons burgers." niet twee partijen tegenover elkaar zet (dus polariserend is) of gebruikmaakt van een "volk-elite" tegenstelling (burgers-onzichtbare tegenpartij).
Ben blij met jou reactie.
Zelf als ik dit artikel lees stel de vraag eerder, waarom gaat de overheid zich bemoeiden met innovatie? Moeten bedrijven zich tegenwoordig verantwoorden als ze iets bedenken dat hun dienst of product beter maakt?
We zijn ook gestopt met asbest, slavernij, PFAS, kinderarbeid en 100 andere dingen. Daar werd prima geld aan verdiend, maar veroorzaakte uiteindelijk te veel schade aan de mens.
[...]
Laten we nu niet elke innovatie onder een vergrootglas leggen en eerder dit gaan aanmoedigen, kijken wat we ermee kunnen om het leven beter te maken.
Ook iets om bij stil te staan is dat dit soort systemen in wezen een soort statistische analyse doen en het resultaat toepassen op individuele gevallen. De kracht van die systemen is dat ze verbanden leggen die mensen anders niet uit de data weten te halen, maar dat is tegelijk de zwakte, want hoe dat verband is gevonden en op grond waarvan eigenlijk is voor mensen typisch onnavolgbaar. Het systeem kan op onverwachte dingen reageren (een systeem dat longkanker op röntgenfoto's moest herkennen bleek te reageren op tekst in een hoekje van de afbeeldingen die de bron van de foto's van zieke longen er standaard op plaatste). Dit soort ongelukken zitten in kleine hoekjes als moeilijk of zelfs onmogelijk te doorgronden is hoe een zichzelf trainend systeem tot resultaten komt, en dat is een zwakte. Ook in juridische zin, want men moet kunnen uitleggen op grond waarvan men besluiten neemt. Dat lijkt me voor een incassobureau niet onbelangrijk.
Verder zou ik wat terughoudender zijn met wat je innovatie noemt. De gebruikers van innovaties zijn niet degenen die innoveren, de innovatoren zijn de uitvinders ervan. Ik betwijfel of een incassobureau de wetenschappers in huis heeft die de AI-systemen ontwikkelen. Ze kopen waarschijnlijk een licentie op software die een ander heeft ontwikkeld en trainen die met hun eigen data. Dat vergt ook kennis, maar dat een vrachtwagenchauffeur een groot rijbewijs nodig heeft (kennis dus) maakt hem of haar nog niet de innovator die de vrachtwagen heeft uitgevonden. Het goed trainen van een AI-systeem is zeker geen sinecure, maar het is niet van dezelfde orde als het ontwikkelen van dat systeem dat men met trainingsdata aan het voeden is, dan heb je het over vele jaren aan fundamenteel onderzoek naar hoe je dat soort dingen kan laten werken, en dat onderzoek is echt niet door een incassobureau gedaan. Dát is waar iets nieuws mogelijk wordt gemaakt; dát is waar de innovatie plaatsvindt.
als alles afgewogen wordt via A.I.
Wat dreigt, verantwoordelijk zoeken voor je verdienmodel op zo'n manier. Eens was de klant koning.
A.I. en je hoeft het "product" niets meer uit te leggen.
Het product zijn u en ik.
Zet A.I. maar op de troon en je gaat het beleven.
En wie voeden een AI. Juist diezelfde mensen met hun vooringenomenheden.
Het lost dus geen probleem op, maart maakt het alleen maar massaler, want automaisering zonder onderbouwing waarop de besluiten genomen zijn.
"De AI voelde het aan zijn water", zullen we maar zeggen.
is wel heel gemakkelijk om je van een algemeen probleem af te maken.
Een notaris kan minder werk krijgen aan wat A.I. kan doen voor de eventuele client.
Wordt in de pers reeds aangehaald als voorbeeld, dus geen poëtisch gebrabbel.
We zien nu al immense schade via A.I. bots in handen van statelijke actoren.
Dus realiteit, geen poëtisch gebrabbel.
Overal mogen bepaalde zaken aangehaald worden ter verantwoording van maatregelen,
maar "globalistische tendensen" in het unilaterale deel van de wereld mogen niet genoemd worden.
Waarom slaat mijn spelchecker globalistisch als woord over. Bestaan die niet? - globalisten?
Er worden nu al veel mensen werkeloos door A.I., straks gemonitord en geanalyseerd via A.I.
Gingen Groen-Links en PvdA daar maar eens een diepte-debat aan wagen, maar dat zal wel niet gebeuren.
Het gezegde geldt nog steeds: "Ben je geen deel van de oplossing, ben je een deel van het probleem".
#laufer
is wel heel gemakkelijk om je van een algemeen probleem af te maken.
Een notaris kan minder werk krijgen aan wat A.I. kan doen voor de eventuele client.
Wordt in de pers reeds aangehaald als voorbeeld, dus geen poëtisch gebrabbel.
We zien nu al immense schade via A.I. bots in handen van statelijke actoren.
Dus realiteit, geen poëtisch gebrabbel.
Overal mogen bepaalde zaken aangehaald worden ter verantwoording van maatregelen,
maar "globalistische tendensen" in het unilaterale deel van de wereld mogen niet genoemd worden.
Waarom slaat mijn spelchecker globalistisch als woord over. Bestaan die niet? - globalisten?
Er worden nu al veel mensen werkeloos door A.I., straks gemonitord en geanalyseerd via A.I.
Gingen Groen-Links en PvdA daar maar eens een diepte-debat aan wagen, maar dat zal wel niet gebeuren.
Het gezegde geldt nog steeds: "Ben je geen deel van de oplossing, ben je een deel van het probleem".
#laufer
Tzt kan AI al het werk overnemen. Dan hoeft niemand meer te werken (zo zal het gebracht worden).
Dan kun je talenten gaan ontwikkelen. XD
M.a.w. een besparing aan personeelskosten voor de werkgevers.
Echter...
Als niemand meer werkt, waar leven die mensen dan van?
En als er geen inkomen meer is (want niet werken), dan is er ook niemand meer om de AI geproduceerde producten af te nemen.
Dan stort dus de economie in, en zijn zelfs de rijkste 1% opeens ook armoezaaiers, want geen omzet/winst meer.
https://www.youtube.com/watch?v=20TAkcy3aBY
is wel heel gemakkelijk om je van een algemeen probleem af te maken.
Een notaris kan minder werk krijgen aan wat A.I. kan doen voor de eventuele client.
Wordt in de pers reeds aangehaald als voorbeeld, dus geen poëtisch gebrabbel.
We zien nu al immense schade via A.I. bots in handen van statelijke actoren.
Dus realiteit, geen poëtisch gebrabbel.
Overal mogen bepaalde zaken aangehaald worden ter verantwoording van maatregelen,
maar "globalistische tendensen" in het unilaterale deel van de wereld mogen niet genoemd worden.
Waarom slaat mijn spelchecker globalistisch als woord over. Bestaan die niet? - globalisten?
Er worden nu al veel mensen werkeloos door A.I., straks gemonitord en geanalyseerd via A.I.
Gingen Groen-Links en PvdA daar maar eens een diepte-debat aan wagen, maar dat zal wel niet gebeuren.
Het gezegde geldt nog steeds: "Ben je geen deel van de oplossing, ben je een deel van het probleem".
#laufer
Tzt kan AI al het werk overnemen. Dan hoeft niemand meer te werken (zo zal het gebracht worden).
Dan kun je talenten gaan ontwikkelen. XD
M.a.w. een besparing aan personeelskosten voor de werkgevers.
Echter...
Als niemand meer werkt, waar leven die mensen dan van?
En als er geen inkomen meer is (want niet werken), dan is er ook niemand meer om de AI geproduceerde producten af te nemen.
Dan stort dus de economie in, en zijn zelfs de rijkste 1% opeens ook armoezaaiers, want geen omzet/winst meer.
https://www.youtube.com/watch?v=20TAkcy3aBY
Dan mogen we allemaal onder leiding van de onredelijke akela gaan schoffelen, loodgieter worden of zonnepaneelinstallateur, of werken in beveiliging op Schiphol, de catering of de zorg. Om je te criminaliseren vanwege je dissidente geluiden met een wettelijk mogelijk gemaakte partijlijn van de ondemocratische instituten op autocratische leest geschoeid.
Hebben ze ons daar waar ze ons hebben willen.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
IT Security Officer
Utrecht heeft jou nodig! Als Information Security Officer vertaal je beleid naar technische uitvoering. Dit is cruciaal voor het waarborgen van de informatiebeveiliging van onze inwoners. Je krijgt de kans om betrokken te zijn bij complexe projecten met de nieuwste technologieën en kunt jouw stempel drukken op innovatie. Solliciteer nu!
Ketenregisseur Gedigitaliseerde Criminaliteit en Cybercrime
Ben jij er klaar voor om de leiding te nemen in het bevorderen van de regionale samen-werking in de strijd tegen gedigitaliseerde criminaliteit en cybercrime? Samen met collega's, politie en regionale en landelijke partners? Dan is de dynamische rol van Ketenregisseur Gedigitaliseerde Criminaliteit en Cybercrime bij het Regionaal Samenwerkingsverband Integrale Veiligheid (RSIV) jouw op het lijf geschreven!
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.