Nederlandse incassobureaus maken breed gebruik van AI, maar hebben onvoldoende zicht op de risico's die dit met zich meebrengt, zo stelt de Autoriteit Persoonsgegevens (AP) vandaag. De toezichthouder heeft nu aanbevelingen gepubliceerd voor AI-gebruik door de incassosector. De aanbevelingen volgen op onderzoek dat de AP deed naar de manier waarop incassobureaus AI inzetten. Voor het onderzoek werden 29 incassobureaus ondervraagd.

Uit het onderzoek blijkt dat incassobureaus AI breed inzetten, voor allerlei kernprocessen, zoals het inschatten van inningskansen, verrijken van debiteurdossiers, detecteren van kwetsbaarheid en analyseren van telefoongesprekken. "Beslissingen op basis van deze toepassingen kunnen grote gevolgen hebben voor mensen die vaak al in een kwetsbare financiële positie verkeren", zo stelt de AP. "Juist daarom moeten incassobureaus goed weten welke persoonsgegevens zij verwerken, welke regels gelden en welke risico’s de inzet van algoritmes en AI in hun situatie met zich meebrengt."

De toezichthouder stelt dat incassobureaus onvoldoende zicht op de risico's hebben. "Sommige toepassingen roepen bovendien fundamentele vragen op over de rechtmatigheid, zoals het verrijken van debiteurdossiers en het detecteren van kwetsbaarheid", voegt de toezichthouder toe. Verder blijkt dat incassobureaus onvoldoende zicht hebben op de juridische kaders die voor AI-systemen gelden. Zo hanteren organisaties bijvoorbeeld een verkeerde, te beperkte, definitie van persoonsgegevens, waardoor ze bij risicovolle verwerkingen mogelijk niet nadenken over zaken als verantwoording en proportionaliteit, aldus de AP.

Geautomatiseerde besluitvorming
Verder meldt de toezichthouder dat het ook vaak onduidelijk is in hoeverre er sprake is van geautomatiseerde besluitvorming met grote gevolgen voor debiteuren. De AP denkt op basis van het eigen onderzoek dat er een aannemelijke kans is dat dergelijke besluitvorming in de praktijk voorkomt, zonder dat organisaties zich daar volledig bewust van zijn. Een ander kritiekpunt is dat incassobureaus zeggen een privacyverklaring te hebben, maar deze informatie zelden actief wordt gedeeld bij het eerste contactmoment.

De AP concludeert dat de incassobranche dan ook verbeteringen kan doorvoeren bij het gebruik van AI. Het gaat dan om zaken als bewustwording en datagebruik, transparantie, geautomatiseerde besluitvorming en risicobeheersing. De Autoriteit Persoonsgegevens noemt het essentieel dat incassobureaus beslissingen over debiteuren nooit volledig aan de computer overlaten. "Als jij te maken krijgt met een incasso, kan dat flinke gevolgen voor je hebben. Je moet misschien veel geld betalen. Nou kan AI ook fouten maken. Daarom is het belangrijk dat het duidelijk en transparant is hoe een beslissing tot stand komt", zegt AP-bestuurslid Katja Mur.