In Japan verbreitet sich der Missbrauch von generativer künstlicher Intelligenz, um sexuelle Deepfake-Bilder und -Videos zu erstellen, schnell. Vor allem betroffen von dem Missbrauch sind Kinder und Frauen.
Unter anderem Bilder von Schülern werden aus anderen Websites herausgezogen, um mithilfe künstlicher Intelligenz sexuelle Inhalte zu generieren. Mit steigenden Fallzahlen stellt sich die Frage über das Schadensausmaß dieser Missbrauchsfälle.
Was sind Deepfakes
Bei Deepfakes handelt es sich um Medien, die digital manipuliert wurden, um Abbildungen einer Person überzeugend durch das einer anderen zu ersetzen und zu verzerren. In diesem Fall handelt es sich um das Erstellen von fiktiven sexuellen Inhalten mithilfe einer generativen KI, ohne deren Zustimmung.
In manchen Fällen werden diese missbräuchlich erstellten Inhalte mit den Kontaktdaten der betroffenen Personen im Internet geteilt. Dazu können unter anderem ihre echten Namen, Adressen und Schulnamen gehören.
„Trend“ nicht neu
Das künstliche Erstellen sexueller Inhalte ist dabei kein neues Phänomen in Japan. Schon bevor generative künstliche Intelligenz für die Allgemeinheit zugänglich war, gab es in Japan Fans, die mithilfe von Bildbearbeitungssoftware „Idol-Collagen“, auch „Aikora“ genannt, erstellt haben. Bei diesen wurde das Gesicht einer Person mit pornografischen Inhalten kombiniert, um sexuelle Inhalte zu fälschen.
Doch was früher den sicheren Umgang mit Bildbearbeitungssoftware voraussetzte, ist jetzt durch KI für breite Mengen möglich. Mit Apps und Websites, die generative KI einsetzen, können Nutzer jetzt einfach ein Bild hochladen und die entsprechenden Bilder generieren lassen.
Schon im April dieses Jahres wurden in Japan mehrere Personen festgenommen, die Poster mit sexuellen Deepfake Motiven verkauft haben.
Viele Schüler betroffen
Unter anderem werden im Moment auch Deepfakes von Schülern erstellt. Unter anderem werden Fotos von offiziellen Schulveranstaltungen und Klassenfotos missbraucht. Diese Klassenfotos wurden so bearbeitet, dass die Schülerinnen darauf nackt erscheinen. Auch Jahrbuchfotos werden so manipuliert, dass Körper unter den Gesichtern sexuell verändert werden.
Viele dieser Fotos ziehen Täter von Websites von professionellen Fotografen, die die Bilder für Eltern und Schüler der jeweiligen Schule zum Verkauf anbietet. Daraus hat sich mittlerweile allerdings ein eigener Tauschmarkt entwickelt, an dem die KI-Nutzenden diese Zugriffe zu den Bildern tauschen. „Lasst uns die Anmelde-IDs und Passwörter für die Fotoverkaufs-Website jeder Schule tauschen“, heißt es so unter anderem.
Unterstützung der Opfer
Die Deepfakes schädigen die Opfer und beeinträchtigen diese in ihrem Alltag. Ein Opfer berichtete, es konnte nicht mehr zur Schule gehen, nachdem gefälschte Bilder von ihm zusammen mit dem Namen seiner Schule im Internet verbreitet worden waren, weil es Angst hatte, dass „ein Fremder vor der Schule warten könnte“.
Die in Tokyo ansässige gemeinnützige Organisation für Überlebende von Pornografie und sexueller Ausbeutung, die Opfer von digitaler sexueller Gewalt unterstützt, hat vor sechs Monaten damit begonnen, die Opfer von pornografischen Deepfakes aktiv aufzufordern, Hilfe zu suchen.
Die PAPS-Vorsitzende Kazuna Kanajiri erklärte: „Die Angst der Opfer ist unermesslich“, und rief die Betroffenen auf, sich Unterstützung zu suchen.



