Anzeige
HomeNachrichten aus JapanKriminalität & RechtErste Festnahmen in Japan wegen KI-Deepfakes mit sexuellen Inhalten

Online-Handel mit KI-Bildern

Erste Festnahmen in Japan wegen KI-Deepfakes mit sexuellen Inhalten

In Japan sind vier Personen wegen des Verkaufs von Deepfake-Postern festgenommen worden, die mit generativer künstlicher Intelligenz erstellt wurden.

Wie die Polizei in Tokyo am Dienstag mitteilte, handelt es sich um den ersten bekannten Fall dieser Art im Land. Die mutmaßlichen Täter sollen die Poster über Online-Auktionsplattformen vertrieben haben.

Anzeige

10 Millionen Yen durch Deepfakes

Bei den Verdächtigen handelt es sich um drei Männer und eine Frau im Alter zwischen 20 und 50 Jahren. Einer von ihnen ist ein 44-jähriger Angestellter im Einzelhandel aus der Präfektur Aichi. Ihm wird vorgeworfen, im Oktober 2024 pornografische Deepfakes verbreitet und öffentlich ausgestellt zu haben. Laut Polizei soll er innerhalb eines Jahres einen Umsatz von rund 10 Millionen Yen (ca. 61.690 Euro) erzielt haben.

Redaktionstipp:  Japans Polizei verhaftet Männer wegen Deepfake-Pornos m

Nach bisherigen Ermittlungen nutzten die Verdächtigen frei verfügbare KI-Programme aus dem Internet, um explizite Deepfakes von Frauen in bestimmten Positionen und Situationen zu erzeugen.

Die Deepfakes wurden unter dem Label „KI-Schönheit“ angeboten und für mehrere tausend Yen pro Stück verkauft. Um mögliche Verkaufsverbote auf den Plattformen zu umgehen, stellten sie zensierte Versionen der Bilder online ein, verschickten jedoch unzensierte Ausführungen an die Käufer.

Anzeige

Drei der vier Verdächtigen haben die Vorwürfe gestanden. Sie gaben an, die Bilder erstellt zu haben, „um einfach Geld zu verdienen“. Eine Person bestreitet laut Sicherheitsabteilung der Tokyoter Polizei Teile der Anschuldigungen.

Schlaglicht auf die Problematik von KI-generierten Inhalten

Aufgedeckt wurden die mutmaßlichen Straftaten im Rahmen von Cyberpatrouillen durch die Polizei. Der Fall wirft erneut ein Schlaglicht auf die zunehmende Problematik von KI-generierten Inhalten mit sexuellem Bezug.

Weltweit bemühen sich Regierungen und Institutionen verstärkt darum, sogenannte „Deepfake-Pornografie“ zu regulieren, also digital manipulierte Bilder oder Videos, die täuschend echt wirken und häufig ohne Zustimmung Betroffener erstellt werden.

Auch in Japan rückt das Thema stärker in den Fokus. Bislang existiert auf nationaler Ebene kein Gesetz, das pornografische Deepfakes eindeutig verbietet.

Die Behörde für Kinder und Familien betont jedoch den Handlungsbedarf. Erste Schritte wurden bereits auf lokaler Ebene unternommen: So verabschiedete die Präfektur Tottori im März eine Verordnung, die das Erstellen und Verbreiten solcher Inhalte untersagt, insbesondere zum Schutz Minderjähriger vor sexuellem Missbrauch.

Füge Sumikai bei Google als bevorzugte Quelle hinzu, um mehr Japan-News zu sehen.

Add as a preferred source on Google

Noch mehr Japan-News? Dann folge Sumikai bei Google News oder hol dir unsere App.

Rolling Sushi - Aktuelle Episode

Anzeige
Anzeige