Meta’s Toezichtsraad heeft het bedrijf opgedragen twee door AI gegenereerde video’s van Facebook te verwijderen en pleit voor strengere maatregelen tegen de verspreiding van deepfake-inhoud.
Een van de gevallen betrof een Schotse politicus die in een door AI gegenereerde video onterecht werd afgebeeld met opruiende uitspraken over vluchtelingen. De video toonde het raadslid ogenschijnlijk te zeggen: “Vluchtelingen worden hier welkom geheten, ook al verkrachten ze onze vrouwen, want blanke mensen doen dat ook.”
De Toezichtsraad oordeelde dat de video synthetisch leek te zijn gegenereerd, wijzend op een gebrek aan synchronisatie tussen de audio en de gezichtsuitdrukkingen van het raadslid. Het raadslid noemde ook het gebruik van zijn/haar gerepliceerde stem als “vrij traumatisch”.
The Guardian meldt dat Meta eerder had besloten de video niet te verwijderen nadat deze was gemeld.
Volgens het bedrijf was de post niet gemarkeerd door een van haar “vertrouwde partner”-organisaties en leek deze geen invloed te hebben op stemmen of andere verkiezingsprocessen. De video kreeg ook geen AI-label.
De raad stelt dat Meta de video had moeten verwijderen omdat deze in strijd was met de regels tegen haatdragend gedrag door vluchtelingen als groep door crimineel en roofzuchtig gedrag toe te schrijven. Ook zegt het dat de video duidelijk als AI-gegenereerd had moeten worden gelabeld.
In zijn beslissing beschrijft de raad de bestaande waarborgen van Meta als “consequent en fundamenteel ontoereikend” om de snelle groei van door AI gegenereerde content op haar platformen aan te pakken.
“De meerderheid oordeelt dat Meta robuustere beleidslijnen voor deepfakes nodig heeft, waaronder het uitbreiden van de situaties waarin ‘hoog risico’-labels kunnen worden toegepast, meer maatregelen om de verspreiding van misleidende AI-inhoud te verminderen, de straffen te verhogen voor accounts die dit herhaaldelijk delen en meer transparantie over de gegevens rond wanneer AI-labels worden toegepast,” staat er.
De raad beveelt negen wijzigingen aan in het beleid van Meta. Onder deze maatregelen zijn stappen om te zorgen dat algoritmen de verspreiding van content die als hoog risico is geclassificeerd verminderen en dergelijke materiaal minder prominent maken in de feeds van gebruikers. Ook worden maatregelen voorgesteld zoals waarschuwingsschermen die gebruikers verplichten door te klikken voordat ze bepaalde AI-gegenereerde content kunnen bekijken.
“Van politici tot privépersonen worden AI-gegenereerde deepfakes steeds vaker ingezet om vrouwen te intimideren en hen uit publieke debatten te houden,” zegt Pamela San Martin, medevoorzitter van de Toezichtsraad.
“Deze gevallen laten een breder, verontrustend patroon zien waarbij vrouwen die publiekelijk over onderwerpen spreken onevenredig vaak te maken krijgen met intimidatie en misinformatie. Meta en andere sociale mediaplatforms hebben robuuster beleid nodig om de groei van deepfakes aan te pakken.”
De Toezichtsraad werd in 2020 door Meta opgericht om moeilijke beslissingen over inhoudsmoderatie te beoordelen en beleidsaanbevelingen te doen. Zijn individuele inhoudsbeslissingen zijn bindend voor het bedrijf, terwijl zijn bredere beleidsaanbevelingen dat niet zijn. Meta heeft 60 dagen de tijd om te reageren op de nieuwste aanbevelingen.
Affiliateverklaring PetaPixel-artikelen kunnen affiliate-links bevatten; we kunnen een vergoeding krijgen als je via een van deze links koopt.
