Eigen toezichthouder: Instagram moet seksuele AI-deepfakes verbieden

In dit artikel:

Het Meta Oversight Board wil dat Instagram seksueel getinte AI-deepfakes strenger aanpakt en sneller verwijdert, vooral omdat dit soort nepbeelden vaak meisjes en vrouwen treffen. Volgens de raad moet Meta ervan uitgaan dat zulke AI-gegenereerde identiteitsvervalsing in principe zonder toestemming gebeurt en dus niet eerst lang hoeft te twijfelen of het om een echt persoon gaat.

De toezichthouder vindt ook dat niet alleen het slachtoffer zelf melding moet kunnen maken van misbruik, maar ook familie en vrienden. Dat is belangrijk, omdat slachtoffers zich door schaamte, druk of praktische problemen vaak niet zelf melden. In de concrete zaak die de raad behandelde, kwam het signaal juist van naasten, nadat het slachtoffer haar account had verwijderd. Het ging om een deepfake van een vrouw die bijna naakt werd afgebeeld; Instagram liet de beelden eerst online omdat het bedrijf niet zeker wist of het om een echt persoon en ongeoorloofd gedeeld materiaal ging.

Het Oversight Board is bedoeld als onafhankelijke beroepsinstantie voor gebruikers die vinden dat Meta-content onterecht is verwijderd of juist is blijven staan. Het orgaan moet in theorie voorkomen dat gebruikers meteen naar de rechter moeten stappen, al overweegt Meta volgens berichten om die toezichthouder na 2028 af te bouwen.