Dit Hawaiiaanse overhemd laat AI-bewakingscamera’s denken dat je geen mens bent

Beveiligingscamera’s legden vroeger alleen het beeld vast dat zich voor hen afspeelde, maar tegenwoordig kunnen de camera’s zelf daadwerkelijk herkennen en aanduiden wat ze zien, dankzij AI-gestuurde computervisie. Sommige mensen hebben hier hun bedenkingen bij.

Maak kennis met Simon Weckert, een digitale kunstenaar uit Berlijn, Duitsland, die een onconventioneel Hawaiiaans overhemd heeft ontworpen, genaamd Digital Camouflage, bedoeld om AI-gestuurde computervisie-systemen te foppen.

Zoals Weckert aan Dezeen vertelt, lijkt het shirt voor mensen op een bonte verzameling excentrieke patronen en kleuren, maar voor een AI-model lijkt het shirt op niets.

“AI-systemen bestaan uit meerdere lagen en hebben nooit geleerd wat een mens is — ze hebben geleerd wat mensen statistisch gezien eruitzien in miljoenen trainingsafbeeldingen,” zegt Weckert.

Hij legt uit dat AI-modellen leren wat een persoon eruitziet via bundels visuele statistieken, zoals de contouren van hoofd en schouders en de verhoudingen van ledematen en romp. Maar hij realiseerde zich dat dit een zwaktepunt was.

De specifieke combinatie van kleuren en texturen op het shirt en hoe ze elkaar beïnvloeden, is wat het AI-systeem in verwarring brengt.

“De verzadigde kleurovergangen vuren sterk in de vroege lagen van het netwerk, terwijl de overlappende vormen de continuïteit van de omtrek van het lichaam doorbreken, zodat de detector de delen niet langer aan één figuur kan koppelen,” vertelt hij aan Dezeen.

“Het patroon tikt eigenlijk tegen het stille statistische gefluister dat ‘persoon’ zegt. Voor een mens lijkt het op een bijna hypnotiserende stof; voor het AI-model lijkt het op niets.”

Weckert maakte het patroon feitelijk door een andere AI te gebruiken in wat bekend staat als een “adversarial loop” om ontwerpen te testen en bij te sturen totdat hij er een had gevonden die computervisie-systemen kan misleiden. Vervolgens testte hij het shirt met een open-source real-time object-detecterend AI-model genaamd Yolo.

“Dit was nodig omdat de blinde vlekken van een machine niet intuïtief voor mensen zijn; je kunt tegen de perceptie van een machine niet ontwerpen door met het oog te werken — alleen de machine kan je vertellen wat het niet ziet,” voegt hij toe. “Er is een poëtische symmetrie in dat: dezelfde AI-klasse die naar het plein kijkt, heeft het shirt ook geleerd hoe het zich te verbergen.”

Het is niet de eerste keer dat iemand een kledingstuk heeft ontworpen om beveiligingscamera’s te dwarsbomen: de “hacker hoodie” had onzichtbare krachtige LED’s in het kledingstuk genaaid die infraroodlichten verblinden.

Weckert maakte eerder het nieuws toen hij 99 telefoons gebruikte om Google te laten geloven dat er een verkeersopstopping was.