Het gebruik van AI en algoritmes door verzekeringsmaatschappijen leidt tot onverklaarbare prijsverschillen wat gevolgen kan hebben voor het vertrouwen in verzekeringen, zo stelt jurist en computerwetenschapper Marvin van Bekkum die vandaag op het onderwerp promoveert op de Radboud Universiteit. Van Bekkum keek voor zijn onderzoek naar bestaande casussen en de huidige regelgeving. Ook voerde hij een enquête uit onder Nederlanders. Daaruit blijkt dat veel mensen de datagedreven prijsverschillen van verzekeringen onbegrijpelijk en vaak oneerlijk vinden.

"Het ís soms ook moeilijk te doorgronden", aldus Van Bekkum, die naar eerder onderzoek van de Consumentenbond wijst. "Bij het afsluiten van een autoverzekering kijken sommige verzekeraars naar je huisnummer. Dat huisnummer bepaalt grotendeels hoeveel je per maand betaalt. Volgens verzekeraars zit daar een statistische correlatie achter, bijvoorbeeld met inkomen of criminaliteit in een wijk. Het algoritme bepaalt misschien dat iemand met een heel hoog huisnummer in een flatgebouw woont waar vaker criminelen wonen dus dan wordt de prijs opgeschroefd. Die correlatie kan er best zijn, maar dat verhaal krijgt de burger niet mee: die ziet alleen het prijsverschil. Juist die ondoorzichtigheid maakt het allemaal problematisch."

De promovendus voegt toe dat deze verschillen niet onder bestaande discriminatiewetgeving vallen. "Er is sprake van discriminatie als dat gebeurt op basis van een door de wet beschermd kenmerk, zoals etniciteit. Maar als je op basis van iemands huisnummer een onderscheid maakt, is dat geen beschermd kenmerk. Terwijl het onderliggende algoritme misschien wel allerlei correlaties vindt waardoor kwetsbare groepen structureel meer moeten betalen voor hun verzekeringen." De overheid zou bepaalde kenmerken kunnen verbieden. "Maar het algoritme vindt altijd wel weer andere kenmerken waarop het oneerlijk kan differentiëren."

Van Bekkum vreest dat de inzet van large language models (LLM's) de risico's alleen maar groter maken. "Het zijn modellen die alleen maar het volgende woord in een zin voorspellen op basis van bestaande tekst, ze snappen niets over hoe correlaties tot stand komen of waarom een bepaalde voorspelling gedaan wordt." De promovendus stelt dat door het gebruik van algoritmes en AI prijsverschillen ontstaan die verzekeraars zelf niet eens kunnen uitleggen, wat het vertrouwen in verzekeringen kan aantasten. "We moeten voorkomen dat we in een situatie belanden waarin verschillen steeds groter worden, terwijl niemand nog kan uitleggen hoe ze zijn ontstaan."