Bedrijven en organisaties die van chatbots of andere AI-systemen gebruikmaken moeten vanaf 2 augustus duidelijk laten weten dat het om AI gaat. De verplichting gaat ook voor AI-content gelden, waarbij een digitale markering kan aangeven dat een afbeelding, video of muziek door AI is gegenereerd. Verder moeten bedrijven bij de inzet van AI om emoties te herkennen of het indelen van mensen op basis van biometrische kenmerken, dit uiterlijk op het eerste moment van interactie laten weten. De verplichting volgt uit Europese transparantieregels.

Volgens de Europese Commissie moeten de regels misleiding en manipulatie verminderen en mensen helpen bij het maken van geïnformeerde beslissingen. Daarnaast moeten de maatregelen ervoor zorgen dat bedrijven weten waar ze aan moeten voldoen bij het gebruik van AI. "AI wordt steeds beter in het maken van teksten, foto's, video's en stemmen die nauwelijks van echt zijn te onderscheiden. Ook chatbots gedragen zich steeds menselijker. Daardoor wordt het moeilijker om te herkennen wanneer AI wordt gebruikt. Dat vergroot de kans op misleiding, nepnieuws, identiteitsfraude en oplichting", aldus de Autoriteit Persoonsgegevens (AP).

Binnen de AP werkt de Directie Coördinatie Algoritmes (DCA) aan de AP-taak als coördinerend algoritmetoezichthouder en de voorbereiding op de aankomende toezichtstaak op de AI-verordening. "AI wordt steeds vaker onderdeel van ons dagelijks leven. Dan moet ook duidelijk zijn wanneer AI wordt gebruikt. Chat je met de klantenservice of hoor je een stem namens de huisarts of gemeente antwoorden? Dan moet duidelijk zijn dat je met een AI-chatbot praat", zegt Sven Stevenson, DCA-directeur bij de AP.