TikTok neemt een belangrijke stap in het markeren van content gecreëerd door kunstmatige intelligentie (AI). Met een nieuw initiatief het platform om een specifiek watermerk toe te voegen aan alle externe AI-gegenereerde afbeeldingen, video's, en binnenkort ook audiocontent die op het platform wordt gedeeld. Dit beleid bouwt voort op eerdere maatregelen voor content die intern met AI is gecreëerd binnen TikTok, om zodoende het onderscheid tussen AI-gemaakte en authentieke menselijke creaties duidelijker te maken.
De invoering van deze watermerken maakt deel uit van een bredere beweging, ondersteund door de Content Credentials-standaard gecreëerd door de Coalition for Content Provenance and Authenticity (C2PA). C2PA is een coalitie bestaande uit invloedrijke technologiebedrijven, zoals Adobe, Google, Microsoft, en OpenAI. Deze organisatie streeft naar een uniforme aanpak om de oorsprong en echtheid van online content zichtbaar te maken.
Bij deze procedure wordt gebruikgemaakt van metadata en watermerken om digitale werken die AI-toepassingen gebruiken, zoals Adobe's Photoshop of OpenAI's ChatGPT, automatisch te markeren. TikTok zal dergelijke metadata herkennen en de content van een duidelijk label voorzien. Gebruikers kunnen dit label aanklikken voor meer informatie over de oorsprong van het digitale werk. Dit maakt TikTok het eerste grote socialemediaplatform dat zich op deze manier committeert aan de Content Credentials-standaard.
Desondanks verwacht TikTok dat in het begin slechts een beperkte hoeveelheid content het nieuwe watermerk zal dragen, gezien nog niet alle aanbieders van generatieve AI-diensten de standaard volledig hebben omarmd.
Deze beweging door TikTok komt op een moment dat er vanuit de politiek toenemende druk is op socialemediabedrijven om proactief op te treden tegen de verspreiding van AI-gegenereerde nepnieuws en desinformatie, vooral met het oog op aankomende verkiezingen in Europa en de Verenigde Staten. Door duidelijk aan te geven welke content door AI is gegenereerd, hoopt TikTok bij te dragen aan een beter geïnformeerde online gemeenschap en misinformatie tegen te gaan.