De Autoriteit Persoonsgegevens (AP) is tegen het gebruik van AI-chatbots voor het geven van stemadvies en heeft aanbieders opgeroepen om maatregelen te nemen. De privacytoezichthouder stelt in een nieuw rapport dat chatbots vanwege het gebrek aan transparantie, het niet neutraal functioneren en vertekende stemadviezen ongeschikt zijn voor het geven van stemadvies. Zo zijn adviezen volgens de AP gebaseerd op niet-verifieerbare data waarmee de chatbots zijn getraind en informatie van het internet, die fout of verouderd kan zijn.

"Kiezers krijgen vaak verkeerde adviezen en kunnen niet achterhalen waarom zij dit advies krijgen. Het gedrag van AI-chatbots zorgt er bovendien niet alleen voor dat ze ongeschikt zijn als stemhulp voor individuele gebruikers, maar ook dat ze een risico vormen voor het democratisch proces", aldus de AP. "Door de sterke bias die ze vertonen ten aanzien van verschillende politieke partijen kan – met name bij grootschalig gebruik door kiezers – dit uiteindelijk ook de uitkomst van de verkiezingen beïnvloeden."

De Autoriteit Persoonsgegevens roept mensen op om chatbots niet te gebruiken voor stemadvies. Daarnaast wil de privacytoezichthouders dat ontwikkelaars maatregelen nemen om te voorkomen dat hun chatbots voor het geven van stemadvies worden gebruikt. Onder de AI-verordening zijn chatbots die stemadvies geven beoordeeld als "hoogrisicosystemen". Aan deze systemen stelt de verordening strenge eisen. Het onderzoek werd uitgevoerd met vier chatbots: ChatGPT, Gemini, Mistral en Grok.