De politie in Singapore heeft een man gearresteerd en vervolgd nadat hij naar verluidt een door AI gegenereerde afbeelding had geplaatst van een zoutwaterkrokodil die zwemt in een openbaar watergebied.
De beschuldigde, Ye Lin uit Myanmar, 30 jaar oud, zou vorige maand de AI-gegenereerde afbeelding hebben geplaatst, wat onmiddellijk tot verontwaardiging bij het publiek leidde. De afbeelding toonde een estuariene krokodil in Pandan Reservoir, het grootste reservoir van Singapore en een populaire recreatieve plek.
Er waren gevolgen in het echte leven. De nationale waterautoriteit van Singapore schortte werkzaamheden in het reservoir twee dagen op om de mogelijke waarneming te onderzoeken. Reservoirpersoneel en andere functionarissen voerden een uitgebreide zoektocht uit door het reservoir, troffen uiteindelijk niets aan en bepaalden dat de afbeelding nep was. Singaporeinse roe- en kano-verenigingen moesten hun geplande activiteiten in deze periode opschorten.
Volgens BBC is Lin van plan schuldig te pleiten aan de feiten. De aanklachten omvatten het verspreiden van een valse boodschap. Het is een ernstig vergrijp met straf tot drie jaar gevangenisstraf en een boete van bijna 8.000 dollar.
Lin verwijderde ook de AI-gegenereerde afbeelding na het plaatsen ervan en de gebruikte app, wat het daaropvolgende onderzoek bemoeilijkte en leidde tot een aanklacht wegens obstructie van justitie. Dit is een nog ernstiger misdrijf en kan een straf tot zeven jaar gevangenisstraf opleveren.
Lin zal naar verwachting in november voor de rechtbank verschijnen om officieel verantwoording af te leggen voor zijn misdaden. The Straits Times meldt dat Lin naar verwachting geen advocaat zal inschakelen.
“Voorlopige onderzoeken brachten aan het licht dat de man een door AI gegenereerde afbeelding had gemaakt waarop een krokodil bij het Pandan Reservoir te zien is en deze naar zijn collega had gestuurd. De man verwijderde vervolgens de afbeelding en de bijbehorende applicatie in een poging zijn handelen te verbergen,” aldus de Singapore Police Force in een verklaring.
“De politie zal niet terugschrikken om actie te ondernemen tegen iedereen die onwaarheden verspreidt. Naast het veroorzaken van angst en overlast voor het publiek, leiden dergelijke valse geruchten er ook toe dat openbare middelen onnodig worden ingezet om deze incidenten aan te pakken,” vervolgde de politiemacht.
“De politie roept het publiek op om verantwoordelijk te handelen en geen valse informatie of bewerkte beelden te verspreiden die onnodige paniek kunnen veroorzaken. Het publiek dient ook geen gefabriceerde of gemanipuleerde informatie, inclusief door AI gegenereerde of digitaal bewerkte afbeeldingen, in te dienen bij de politie of andere overheidsinstanties terwijl dit als authentiek wordt gepresenteerd.”
AI-gegenereerde afbeeldingen hebben duidelijk reële gevolgen. In dit geval hadden paniek en verspilde middelen elders beter besteed kunnen worden. In andere gevallen hebben AI-gegenereerde beelden zelfs wereldwijde schommelingen op de aandelenmarkt veroorzaakt. AI-gegenereerde beelden zijn gebruikt om levens te ruïneren, mensen te chanteren, en vormen een aanzienlijk gevaar voor de samenleving. Hoewel een AI-afbeelding van een krokodil misschien niet zo’n groot probleem lijkt, kan het wel degelijk zo uitpakken en kan het iemand daadwerkelijk de gevangenis in brengen.
Affiliateverklaring PetaPixel-artikelen kunnen affiliatelinks bevatten; we kunnen een commissie verdienen als u via een van deze links koopt.
