De Autoriteit Persoonsgegevens (AP) en Autoriteit Consument & Markt (ACM) zijn bezorgd over de manier waarop steeds meer organisaties AI-chatbots gebruiken op websites, in apps en via de telefoon. Mensen moeten altijd de mogelijkheid hebben om een medewerker te spreken, aldus de toezichthouders, die pleiten voor toegang tot menselijk contact en transparantie bij de inzet van AI-chatbots. Daarnaast waarschuwen ze ook de veiligheids- en privacyrisico's.
De AP en ACM zeggen dat ze steeds vaker klachten over chatbots ontvangen. Uit recent consumentenonderzoek door de ACM blijkt dat het ontbreken van menselijk contact bij een klantenservice één van de grootste ergernissen is. Zo blijken chatbots soms slechte of zelfs onjuiste antwoorden te geven, of mensen naar de mond praten zonder het probleem echt op te lossen. Verder is het voor mensen vaak onduidelijk of ze contact hebben met een chatbot of een medewerker. Wanneer mensen een medewerker willen spreken blijkt dit niet altijd mogelijk.
Daarnaast wijzen de toezichthouders op de privacy- en veiligheidsrisico's bij het gebruik van AI-chatbots. "Juist omdat deze typen chatbots zijn ingesteld om zo behulpzaam mogelijk te zijn, schuilt er een risico in dat ze door kwaadwillenden via promptinjectietechnieken worden gebruikt om toegang te verkrijgen tot vertrouwelijke gegevens binnen de organisatie. Een ander risico is dat gebruikers onbewust gevoelige persoonsgegevensdelen zonder er bewust van te zijn wat hiermee gebeurt, of zonder dat dit goed geregeld is", aldus de AP en ACM in een oproep.
Volgens de toezichthouders zouden de al bestaande regels op dit gebied duidelijker mogen. Zo blijkt het niet voor alle bedrijven duidelijk te zijn dat er al een norm is die bedrijven verplicht dat consumenten contact kunnen krijgen met een medewerker. De AI-verordening bevat algemene regels over transparantieverplichtingen, maar geeft nog geen duidelijke richtlijnen over de vormgeving en presentatie van AI-chatbots.
De AP en ACM doen een dubbele oproep om de risico’s bij de inzet van AI-chatbots tegen te gaan. Zo moeten bedrijven en ontwikkelaars onder andere duidelijk maken wanneer mensen met een machine communiceren. Daarnaast moet altijd eenvoudig menselijk contact mogelijk zijn. Verder worden wetgevers opgeroepen om het consumentenrecht te verduidelijken en moeten er in de AI-verordening duidelijke regels komen voor het ontwerp van AI-chatfuncties.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
TISO Cyber Security Officer
Wil jij bijdragen aan een veilige & veerkrachtige leeromgeving voor studenten, medewerkers & partners binnen de #1 Hospitality Business school van Nederland? En werken in een team van toegewijde professionals en dagelijks kunnen genieten van een heerlijke & gezonde lunch? Lees dan hier verder!
Digital Designer
Ben jij een Grafisch vormgever, UI/UX-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, en op zoek naar een unieke en uitdagende baan waar je al je creativiteit in kwijt kan? Dan ben je bij Certified Secure aan het juiste adres! Je werkt samen met onze security developers aan onze Gamified Cybersecurity Challenges.
