Computers mogen niet zelfstandig besluiten nemen die grote gevolgen hebben voor mensen, zo stelt de Autoriteit Persoonsgegevens (AP) naar aanleiding van de boete van 825.000 euro die het vorige week aan taxi-app Uber oplegde. Uber maakte gebruik van software om het rijgedrag en gedrag van taxichauffeurs te monitoren en beoordelingen van klanten bij te houden. Wanneer de software stelde dat er een vermoeden van fraude was of te lage klantbeoordelingen werden accounts van de betreffende chauffeurs automatisch uitgeschakeld. Dit gebeurde zonder enige menselijke beoordeling, aldus de AP.
Uber paste deze werkwijze toe tussen 2018 en 2022 en was daarmee in overtreding van het AVG-verbod op volledig geautomatiseerde besluitvorming, zo stelt de toezichthouder. Verder bleek dat de taxi-app chauffeurs onvoldoende informeerde over de automatische besluitvorming. De overtredingen zijn inmiddels door Uber gestopt.
"Uber heeft ernstige overtredingen begaan. Chauffeurs werden zonder pardon op non-actief gezet. Waarmee zij dus van het ene op het andere moment geen inkomen meer via Uber hadden. Dat is verboden", zegt AP-vicevoorzitter Monique Verdier. "Een computer mag niet zelfstandig besluiten nemen die grote gevolgen voor jou hebben. Hier had eerst een mens naar moeten kijken."
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Information Security en Data Privacy Officer
Toe aan een baan waar je een positieve impact maakt op de wereld om je heen? Waar je samen met collega’s een bijdrage levert aan minder afval en echt waarde toevoegt met jouw werk. Pak dan nu je kans en word onze nieuwe Information Security en Data Privacy Officer!
