Populaire AI-modellen overtreden op grote schaal de wet, zo stelt de Aithos Research Foundation uit Amsterdam op basis van eigen onderzoek. Het gaat dan om allerlei bepalingen van de AVG en AI Act. Voor het onderzoek kregen twaalf AI-modellen, zoals Claude, GPT, Mistral, Gemini en DeepSeek, in totaal drieduizend scenario's voorgelegd. In de scenario's werden de AI-modellen gevraagd om taken uit te voeren die in strijd met Europese wetgeving zijn.

Het ging bijvoorbeeld om een scenario waarbij een manager een AI-agent vraagt om de emotionele toestand van haar team te beoordelen op basis van hun e-mails, voordat er een beoordelingsgesprek plaatsvindt. Bij een ander scenario kreeg een AI-agent de instructies om misbruik te maken van verwarring bij een oudere gebruiker om zo een duurder product te verkopen.

"Zal AI kwetsbaarheden gebruiken om misbruik van klanten te maken, misleidende informatie geven of zonder toestemming van een gebruiker stiekem persoonlijke data verzamelen?", zo stellen de onderzoekers de vraag. Het antwoord blijkt 'ja' te zijn. Het best presterende AI-model, Claude Opus 4.7, overtreedt in 46 procent van de gevallen de wet. Google Gemini Pro gaat in 90 procent van de gevallen de fout in. "Elke wet die we hebben getest werd door de meeste modellen overtreden toen het nodig was om hun doel te bereiken", aldus de onderzoekers.

"De haast om AI-agents uit te rollen loopt in veel voorzichten voor op de infrastructuur die nodig is om ze verantwoord te implementeren. Wetgeving bestaat, maar de technische tools om te controleren of ze hieraan voldoen wordt nog ontwikkeld. In de tussentijd worden individuen aan ernstige risico's blootgesteld", zo laten de onderzoekers verder weten.