In Japan sind vier Personen wegen des Verkaufs von Deepfake-Postern festgenommen worden, die mit generativer künstlicher Intelligenz erstellt wurden.
Wie die Polizei in Tokyo am Dienstag mitteilte, handelt es sich um den ersten bekannten Fall dieser Art im Land. Die mutmaßlichen Täter sollen die Poster über Online-Auktionsplattformen vertrieben haben.
10 Millionen Yen durch Deepfakes
Bei den Verdächtigen handelt es sich um drei Männer und eine Frau im Alter zwischen 20 und 50 Jahren. Einer von ihnen ist ein 44-jähriger Angestellter im Einzelhandel aus der Präfektur Aichi. Ihm wird vorgeworfen, im Oktober 2024 pornografische Deepfakes verbreitet und öffentlich ausgestellt zu haben. Laut Polizei soll er innerhalb eines Jahres einen Umsatz von rund 10 Millionen Yen (ca. 61.690 Euro) erzielt haben.
Nach bisherigen Ermittlungen nutzten die Verdächtigen frei verfügbare KI-Programme aus dem Internet, um explizite Deepfakes von Frauen in bestimmten Positionen und Situationen zu erzeugen.
Die Deepfakes wurden unter dem Label „KI-Schönheit“ angeboten und für mehrere tausend Yen pro Stück verkauft. Um mögliche Verkaufsverbote auf den Plattformen zu umgehen, stellten sie zensierte Versionen der Bilder online ein, verschickten jedoch unzensierte Ausführungen an die Käufer.
Drei der vier Verdächtigen haben die Vorwürfe gestanden. Sie gaben an, die Bilder erstellt zu haben, „um einfach Geld zu verdienen“. Eine Person bestreitet laut Sicherheitsabteilung der Tokyoter Polizei Teile der Anschuldigungen.
Schlaglicht auf die Problematik von KI-generierten Inhalten
Aufgedeckt wurden die mutmaßlichen Straftaten im Rahmen von Cyberpatrouillen durch die Polizei. Der Fall wirft erneut ein Schlaglicht auf die zunehmende Problematik von KI-generierten Inhalten mit sexuellem Bezug.
Weltweit bemühen sich Regierungen und Institutionen verstärkt darum, sogenannte „Deepfake-Pornografie“ zu regulieren, also digital manipulierte Bilder oder Videos, die täuschend echt wirken und häufig ohne Zustimmung Betroffener erstellt werden.
Auch in Japan rückt das Thema stärker in den Fokus. Bislang existiert auf nationaler Ebene kein Gesetz, das pornografische Deepfakes eindeutig verbietet.
Die Behörde für Kinder und Familien betont jedoch den Handlungsbedarf. Erste Schritte wurden bereits auf lokaler Ebene unternommen: So verabschiedete die Präfektur Tottori im März eine Verordnung, die das Erstellen und Verbreiten solcher Inhalte untersagt, insbesondere zum Schutz Minderjähriger vor sexuellem Missbrauch.



