Meta wordt geconfronteerd met een collectieve rechtszaak wegens zijn AI-slimme brillen, waarbij eisers stellen dat het bedrijf consumenten heeft misleid over de manier waarop beeldmateriaal dat door de apparaten is vastgelegd, mogelijk wordt bekeken.
De rechtszaak werd op 4 maart ingediend bij een federale rechtbank in San Francisco en draait om de bewering dat de marketing van het bedrijf de privacybescherming die in zijn Ray-Ban Meta-slimme brillen is ingebouwd, overdreef.
De rechtszaak volgt op berichtgeving van de Zweedse krant Svenska Dagbladet, die stelt dat beeldmateriaal dat met Meta’s AI-slimme brillen is vastgelegd, wordt bekeken door werknemers in Kenia die beelden beoordelen die worden gebruikt om de AI-systemen van het bedrijf te trainen.
Volgens het rapport zijn contractanten die belast zijn met het labelen van objecten in videoclips privé- en gevoelige taferelen tegengekomen die door gebruikers zijn opgenomen. Werknemers zeiden dat ze intieme beelden hadden gezien, waaronder toiletbezoeken, seksuele handelingen en andere persoonlijke momenten.
De rechtszaak stelt dat Meta de rol van menselijke beoordelaars in het trainingsproces van zijn AI niet heeft bekendgemaakt.
“Deze landelijke collectieve rechtszaak probeert Meta verantwoordelijk te houden voor zijn uitdrukkelijk misleidende reclame en het niet bekendmaken van de ware aard van toezicht en de verbinding met de AI-gegevensverzamelingsstroom van het bedrijf,” luidt de klacht, aldus Engadget.
De zaak werd aangespannen door Clarkson Law Firm en noemt twee eisers: Gina Bartone uit New Jersey en Mateo Canu uit California. Beiden kochten de brillen na het zien van marketing die de apparaten omschreef als “ontworpen voor privacy.” Volgens de klacht vertrouwden zij op die beweringen en zeggen ze dat ze het product niet hadden gekocht als ze wisten dat een deel van de vastgelegde beelden door contractanten kon worden beoordeeld.
De rechtszaak eist financiële schadevergoeding en een bevel tot maatregelen. Ook betoogt men dat het beoordelingsproces de privacyclaims van het product ondermijnt.
“Het niet bekendgemaakte menselijke beoordelingsproces maakt de privacyfuncties van de Meta AI-brillen materieel misleidend, doet het product veranderen van een persoonlijk apparaat naar een toezichtkanaal, en stelt consumenten bloot aan onredelijke risico’s van eergerelateerde schade, emotioneel leed, stalking, afpersing, identiteitsdiefstal en reputatieschade,” luidt de klacht.
De klacht stelt bovendien dat werknemers die het materiaal beoordelen gevoelige details hebben gezien in opnames. “Inderdaad hebben Meta-medewerkers en contractanten beschreven dat ze creditcardnummers, naaktheid, seksuele activiteiten en herkenbare gezichten in de beelden hebben gezien die ze hebben beoordeeld, en gemeld dat Meta’s beweerde anonimiseringswaarborgen niet betrouwbaar functioneren.”
Meta heeft niet rechtstreeks commentaar geleverd op de rechtszaak maar erkende wel dat menselijke beoordelaars in sommige gevallen betrokken kunnen zijn.
“De Ray-Ban Meta-brillen helpen je AI te gebruiken, handsfree, om vragen te beantwoorden over de wereld om je heen. Tenzij gebruikers ervoor kiezen media die ze hebben vastgelegd met Meta of anderen te delen, blijft die media op het apparaat van de gebruiker,” vertelt een woordvoerder van Meta aan Engadget.
“Wanneer mensen inhoud met Meta AI delen, gebruiken we soms contractanten om deze gegevens te beoordelen met het doel de ervaring van mensen te verbeteren, zoals vele andere bedrijven dat ook doen. We nemen stappen om deze gegevens te filteren om iemands privacy te beschermen en om te helpen voorkomen dat identificeerbare informatie wordt beoordeeld.”
Toch hebben werknemers die betrokken zijn bij het beoordelingsproces gezegd dat die filtratiesystemen niet altijd voorkomen dat privé-inhoud verschijnt in het materiaal dat zij beoordelen.
