Microsoft Paint en Photos voorzien AI-afbeeldingen van uniek GUID-watermerk

In dit artikel:

Microsoft voorziet AI-afbeeldingen die met Paint en Photos worden gemaakt volgens softwareontwikkelaar Xusheng Li van een onzichtbaar watermerk met een unieke GUID. Die identifier wordt door een Microsoft-server verstrekt en gekoppeld aan de prompt waarmee de afbeelding is gegenereerd. Dat gebeurt zowel bij afbeeldingen die in de cloud als bij afbeeldingen die met lokale AI-modellen worden gemaakt.

Hoewel de prompt voor lokale generatie op het apparaat wordt verwerkt, wordt die eerst naar Microsoft gestuurd voor controle en goedkeuring. Na goedkeuring maakt de server een GUID aan, die Paint aan de afbeelding toevoegt. Volgens Li beschrijft Microsoft deze werkwijze nergens en worden gebruikers er niet over geïnformeerd. Het GUID-watermerk staat los van het zichtbare watermerk dat gebruikers zelf kunnen inschakelen.

De werkwijze sluit aan bij de transparantie-eisen van de Europese AI Act, die in bepaalde gevallen vereist dat AI-content herkenbaar wordt gemaakt. De wet schrijft echter niet voor hoe dat technisch moet gebeuren. Li wijst erop dat het verborgen watermerk gevolgen kan hebben voor privacy en het recht op informatie. Op Hacker News vragen gebruikers zich bovendien af of de GUID aan de maker kan worden gekoppeld, wat mogelijk juridische gevolgen heeft.