Duitsland heeft socialemediaplatforms gewaarschuwd voor de verspreiding van valse AI-holocaustafbeeldingen. De regering en Holocaust-gedenkinstellingen hebben socialemediaplatforms gevraagd de verspreiding van nepafbeeldingen te stoppen, waarvan zij beweren dat deze de geschiedenis vervormen en bagatelliseren.
Bezorgdheid werd geuit door concentratiekamp-gedenkplaatsen en documentatiecentra in een recente brief, waarin zij kritiek leverden op de toename van zogenaamde AI-troep of vervalste afbeeldingen, rond de moord door de nazi's op meer dan zes miljoen Joden in Duitsland tijdens de Tweede Wereldoorlog. Deze afbeeldingen omvatten emotionele illustraties van verzonnen incidenten, zoals ontmoetingen tussen gevangenen van concentratiekampen en hun bevrijders of kinderen achter prikkeldraad.
Duitsland wil de verspreiding van valse AI-holocaustafbeeldingen stoppen
In de door de organisaties verstuurde brief merkten zij op dat door AI gegenereerde content de geschiedenis vervormt door ernstige gebeurtenissen die lang geleden plaatsvonden te bagatelliseren. Zij vermeldden dat dergelijke afbeeldingen wantrouwen kunnen aanwakkeren onder gebruikers van authentieke historische documenten. Wolfram Weimer, Duitslands staatsminister voor cultuur en media, vermeldde dat hij de stappen en inspanningen van de gedenkinstellingen in dit geval steunde en onthulde dat dit de juiste stap is om te nemen.
Wolfram vermeldde ook dat hij hun beslissing steunde om door AI gegenereerde beelden van de oude incidenten te markeren en, waar nodig, te verwijderen van socialemediaplatforms. Hij vermeldde dat het een kwestie is van respect voor miljoenen mensen die werden gedood en vervolgd onder het nazi-Duitse terreurregime. Volgens de brief van de gedenkinstellingen merkten zij op dat de makers van de beelden deze leken te gebruiken om online aandacht te genereren en geld te verdienen.
De organisaties vermeldden ook dat de daders ook gedeeltelijk van plan waren feiten te verdunnen, slachtoffer- en daderrollen te verschuiven en revisionistische verhalen te verspreiden. De instellingen omvatten gedenkcentra voor Belsen, Buchenwald, Dachau en andere concentratiekampen waar Joden, evenals anderen, waaronder Roma en Sinti, werden gedood. Zij vroegen socialemediaplatforms om proactief op te treden tegen nepafbeeldingen rond de Holocaust in plaats van te wachten tot gebruikers dit melden.
Holocaust-organisaties willen dat door AI gegenereerde afbeeldingen worden gelabeld
Daarnaast vroegen zij de platforms om ze duidelijk te labelen, omdat zij geloven dat dit zal voorkomen dat de gebruikers die de afbeeldingen hebben gegenereerd er geld aan kunnen verdienen. De verspreiding van AI-troep van lage kwaliteit, waaronder neptext, afbeeldingen of video, heeft bij veel experts alarm geslagen. Zij geloven dat het het informatielandschap zou vervuilen en het voor gebruikers moeilijk zou maken om waarheid van leugen te onderscheiden. Het incident volgt op het incident waarmee AI-bedrijven, met name Elon Musks xAI, eigenaar van chatbot Grok, momenteel worstelen.
Het bedrijf staat de afgelopen weken onder druk omdat bepaalde gebruikers duizenden geseksualiseerde deepfake-afbeeldingen van vrouwen en minderjarigen genereren en deze verspreiden over verschillende socialemediaplatforms. De dreiging heeft ertoe geleid dat verschillende landleiders het bedrijf ter verantwoording hebben geroepen, terwijl anderen hen vragen passende waarborgen te ontwikkelen om de incidenten aan te pakken. Landen zoals Indonesië hebben ook een tijdelijk verbod op de chatbot aangekondigd totdat alles is opgelost.
Ondertussen heeft het platform bevestigd dat het de mogelijkheid van Grok- en X-gebruikers om deepfakes van mensen te genereren op locaties waar de handelingen als illegaal worden bestempeld, geografisch zal blokkeren. Het blijft echter nog te bezien of de nieuwe waarborgen van toepassing zullen zijn op de standalone-applicatie of de website. Het blijft ook nog te bezien of de maatregelen gebruikers zullen weerhouden van het genereren van dit soort afbeeldingen of dat ze hen ertoe zullen aanzetten nieuwe manieren te zoeken om toegang te krijgen tot de dienst.
Lees niet alleen cryptonieuws. Begrijp het. Abonneer u op onze nieuwsbrief. Het is gratis.
Bron: https://www.cryptopolitan.com/germany-warns-spread-ai-holocaust-images/
