Microsoft Paint en Photos voorzien de AI-afbeeldingen die gebruikers laten genereren van een unieke prompt-specifieke globally unique identifier (GUID), verstrekt door een server van Microsoft. Dit gebeurt ook bij lokaal gegenereerde afbeeldingen. Dat meldt softwareontwikkelaar Xusheng Li op basis van een eigen analyse. De Europese AI Act verplicht dat door AI-gegenereerde content in bepaalde gevallen van een label wordt voorzien en ook is te detecteren als door AI gegenereerd.
Microsoft is één van de partijen die heeft aangegeven zich aan deze transparantieregels te zullen houden. De EU heeft geen regels opgesteld hoe AI-aanbieders het watermerk technisch moeten realiseren. De oplossing van Microsoft bestaat uit een watermerk dat ook een uniek GUID bevat, gekoppeld aan de prompt die is gebruikt voor het genereren van de afbeelding, zo blijkt uit de analyse van Li.
Microsoft Paint ondersteunt zowel het lokaal als in de cloud genereren van AI-afbeeldingen. Paint en Photos beschikken ook over lokale AI-modellen. Wanneer de gebruiker via een prompt een afbeelding wil genereren, gaat die prompt eerst ter controle en goedkeuring naar een server van Microsoft. Bij een goedgekeurde prompt genereert de server een uniek GUID dat als onzichtbaar watermerk voor de gegenereerde afbeelding wordt gebruikt. Het GUID is daarbij gekoppeld aan de gebruikte prompt.
Het watermerk wordt ook aan lokaal gegenereerde afbeeldingen toegevoegd. "In andere woorden, "lokaal gegenereerd" betekent niet dat de volledige operatie lokaal is. Microsoft ontvangt en beoordeelt de prompt, en verstrekt dan een uniek GUID dat Paint aan de lokaal gegenereerde afbeelding toevoegt", zo legt Li uit, die toevoegt dat Microsoft deze werkwijze nergens beschrijft.
De softwareontwikkelaar merkt op dat het onzichtbare GUID-watermerk verschilt van de zichtbare watermerk-optie waar gebruikers van Paint en Microsoft 365 uit kunnen kiezen. Microsoft laat gebruikers ook niet weten dat het GUID als watermerk wordt toegevoegd, terwijl de aanwezigheid hiervan wel gevolgen voor de privacy en het recht op informatie heeft, aldus de softwareontwikkelaar. Gebruikers op Hacker News vrezen dat het GUID is te koppelen aan de gebruiker die de afbeelding maakte, wat allerlei juridische gevolgen kan hebben.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Information Security en Data Privacy Officer
Toe aan een baan waar je een positieve impact maakt op de wereld om je heen? Waar je samen met collega’s een bijdrage levert aan minder afval en echt waarde toevoegt met jouw werk. Pak dan nu je kans en word onze nieuwe Information Security en Data Privacy Officer!
