De Google Play Store heeft een aantal nieuwe richtlijnen geïntroduceerd die specifiek gericht zijn op AI-apps die zich mogelijk niet altijd aan de regels houden. Deze nieuwe richtlijnen werden aangekondigd door Google en zijn vooral van belang voor ontwikkelaars van AI-applicaties. Gebruikers zullen hier weinig van merken, maar ontwikkelaars moeten ervoor zorgen dat hun apps aan deze nieuwe regels voldoen. Als een app de regels niet naleeft, kan deze uit de Play Store worden verwijderd, wat betekent dat gebruikers de app niet langer kunnen downloaden of gebruiken.
Bestaande Richtlijnen
Volgens de bestaande richtlijnen accepteert de Google Play Store geen apps die pornografische, haatdragende, extremistische of gewelddadige content promoten. Apps die ontworpen zijn om te pesten of te intimideren, worden eveneens steevast verwijderd. Voor traditionele apps is het relatief eenvoudig om vast te stellen of deze richtlijnen worden overtreden.
Bij AI-apps ligt dit echter complexer. AI-technologie kan bijvoorbeeld worden misbruikt voor het creëren van seksueel getinte deepfakes en andere ongepaste content, ook al is dat niet het oorspronkelijke doel van de app. Dit maakt het lastiger om dergelijke apps te reguleren en overtredingen te bestraffen.
Nieuwe Verantwoordelijkheden voor Ontwikkelaars
Google legt nu meer verantwoordelijkheid bij de ontwikkelaars van AI-apps. Ontwikkelaars dienen maatregelen te implementeren die voorkomen dat hun apps worden misbruikt voor het genereren van content die in strijd is met het Play Store-beleid. Ze moeten bijvoorbeeld functies inbouwen om ongepaste inhoud te detecteren en te blokkeren.
Daarnaast verplicht Google ontwikkelaars om een rapporteerknop in hun apps te integreren. Hiermee kunnen gebruikers direct melding maken van ongepaste of schadelijke inhoud, zodat er sneller actie kan worden ondernomen.
Toepassing van de Nieuwe Richtlijnen
De nieuwe beperkingen zijn van toepassing op AI-apps die tekst, spraak, en beeld genereren, of een combinatie hiervan. Maar productiviteitstools die bijvoorbeeld helpen bij het samenvatten van tekst, vallen buiten deze nieuwe regels. Hetzelfde geldt voor AI-apps die uitsluitend content tonen zonder gebruikers de mogelijkheid te bieden zelf content te creëren.
Strijd Tegen AI-Porno
Het nieuwe beleid maakt deel uit van de bredere inspanningen van Google om AI-gegenereerde porno te bestrijden. In mei kondigde Google aan dat het zoekresultaten met AI-gegenereerde pornografische content lager zal ranken, zodat deze minder zichtbaar worden. AI-gegenereerde porno vormt een toenemend probleem. De afgelopen maanden zijn er steeds vaker beelden opgedoken van beroemdheden die naakt zouden zijn, maar die in werkelijkheid door AI zijn gegenereerd.
Slachtoffers van dergelijke deepfakeporno hebben inmiddels meer dan 13.000 klachten ingediend om meer dan 30.000 websites offline te laten halen. Dit aantal is waarschijnlijk een onderschatting, omdat niet alle slachtoffers melding maken van deze deepfakes.
Met deze nieuwe richtlijnen en maatregelen hoopt Google de verspreiding van schadelijke AI-content beter te kunnen beheersen en de Google Play Store een veilige omgeving te houden voor alle gebruikers.
Aanbevolen reactie
Doe je mee?
Je kunt nu een bericht plaatsen en je later registeren. Als je al een account hebt, kun je je hier aanmelden.
Note: Your post will require moderator approval before it will be visible.