Meta gaat gebruikers beschermen tegen seksuele content

Meta, het moederbedrijf achter populaire sociale mediaplatforms zoals Instagram, heeft nieuwe veiligheidsmaatregelen aangekondigd om gebruikers, vooral jongeren, te beschermen tegen ongewenste seksuele content en het risico op sextortion. Deze nieuwe functies zijn gericht op het proactief identificeren en beheersen van risico's die samenhangen met het delen van intieme afbeeldingen.

Een significante update die uitgerold wordt, is het invoeren van technologie binnen Instagram Direct Messages (DM's) die afbeeldingen met mogelijke naaktheid automatisch vervaagt. Wanneer een dergelijke afbeelding wordt gedetecteerd, ontvangt de ontvanger eerst een waarschuwing dat de afbeelding potentieel gevoelige inhoud bevat. De gebruiker heeft dan de keuze om de afbeelding te bekijken of te verwijderen zonder deze direct in volledige scherpte te zien. Dit geeft gebruikers meer controle over de content die ze te zien krijgen, en helpt ongewenste confrontatie met expliciete beelden te vermijden.

Verder implementeert Meta waarschuwingen voor zowel de verzender als de ontvanger van gevoelige foto's. Bij het verzenden van een afbeelding die door de technologie van Instagram als intiem wordt geclassificeerd, krijgt de verzender een prompt om na te denken over de gevolgen van het delen van dergelijk materiaal. Deze ingrepen leggen nadruk op preventie en bewustmaking, en zijn standaard actief voor alle gebruikers onder de 18 jaar. 

Om sextortion, een vorm van afpersing waarbij slachtoffers worden bedreigd met de verspreiding van privébeelden, tegen te gaan, ontwikkelt Meta ook systemen die accounts die zich hier mogelijk schuldig aan maken, kunnen identificeren. Berichten van dergelijke accounts worden automatisch naar een speciale, minder toegankelijke map verplaatst. Dit helpt bij het beschermen van tieners tegen potentieel schadelijke interacties.

Naast deze stappen ter bescherming van jongeren, test Meta nieuwe pop-upberichten die gebruikers waarschuwen als zij in contact zijn gekomen met een account dat verwijderd is vanwege betrokkenheid bij sextortion.

Hoewel deze ontwikkelingen belangrijke stappen vooruit zijn in de bescherming van jongeren op sociale media, roepen ze ook vragen op rondom privacy. Meta verzekert dat het scannen van berichten op iniuitleg levert over de nieuwe maatregelen die het bedrijf treft om het platform veiliger te maken voor jonge gebruikers en te beschermen tegen sextortion en het ongewenst delen van intieme beelden. Er worden onder andere technologieën ontwikkeld om potentieel schadelijk gedrag te detecteren en te blokkeren, met een sterke nadruk op de privacy van de gebruiker.tievo baserend op technologie die lokaal, op het apparaat van de gebruiker functioneert, waardoor de inhoud van de berichten privé blijft en niet naar Meta zelf wordt verstuurd. Hoewel dit een geruststellende gedachte is, blijft de praktische uitvoering en het echte niveau van privacybescherming een belangrijk aandachtspunt voor zowel gebruikers als critici.

Door deze nieuwe maatregelen streeft Meta naar een balans tussen het beschermen van gebruikers, met name jeugdige gebruikers, tegen de gevaren van sextortion en het ongewenst ontvangen of delen van intieme beelden, terwijl het ook streeft naar het behouden van de privacy van zijn gebruikers. De effectiviteit van deze maatregelen en de impact op de gebruikerservaring zullen in de loop van de tijd duidelijker worden.