Japan prüft rechtliche Schritte gegen den KI-Dienst Grok des Unternehmens xAI, nachdem bekannt wurde, dass Nutzer darüber sexuell konnotierte Bilder generieren können.
Die japanische Regierung hat X Corp., die Betreiberfirma der Plattform X (ehemals Twitter), offiziell zur sofortigen Umsetzung technischer Gegenmaßnahmen aufgefordert. Wirtschaftsicherheitsministerin Kimi Onoda erklärte, man werde alle möglichen Optionen untersuchen, um die Erzeugung unangemessener Inhalte zu unterbinden.
Japan droht xAI mit rechtlichen Schritten
Laut Onoda habe das Kabinettsbüro X Corp. zu technischen Änderungen aufgefordert, bislang jedoch keine Antwort erhalten. Sollte sich die Lage nicht zeitnah verbessern, werde Japan „umgehend alle denkbaren Maßnahmen prüfen, einschließlich rechtlicher Schritte“. Onoda ist in der Regierung auch für KI-Strategie zuständig.
Nach öffentlicher Kritik hatte xAI am Mittwoch angekündigt, Nutzer daran zu hindern, Bilder realer Menschen in freizügiger Kleidung wie Bikinis zu bearbeiten. Die Einschränkung soll abhängig vom Standort der Nutzer erfolgen. In Ländern mit entsprechenden Gesetzen werde die Funktion blockiert. Konkrete Länder nannte xAI nicht. In Japan ist der Dienst weiterhin verfügbar.
Die Plattform X hatte bereits zuvor Funktionen zur Bildgenerierung an den kostenpflichtigen Premiumdienst gebunden. Die genaue Zahl der Nutzer in Japan ist nicht bekannt. Das Land gehört jedoch laut Unternehmensangaben zu den Märkten mit zunehmender Nutzung von X Premium im asiatisch-pazifischen Raum.
Rechtliche Grundlage in Japan vorhanden
Japan verfügt bislang über kein spezifisches Gesetz zur Regulierung KI-generierter Bilder. Dennoch können bestehende Strafgesetze greifen, wenn es sich bei den erzeugten Inhalten um Darstellungen sexueller Gewalt oder um die Sexualisierung Minderjähriger handelt. In diesen Fällen sind unter anderem das Gesetz zur Bestrafung der Herstellung von Kinderpornografie sowie Artikel 175 des Strafgesetzbuchs anwendbar.
Zudem unterliegen Plattformbetreiber dem Gesetz zur Verbesserung der Transparenz digitaler Plattformen, das 2021 in Kraft trat. Dieses verpflichtet Anbieter zu mehr Offenlegung und Maßnahmen gegen schädliche Inhalte. Die Anwendung auf KI-gestützte Funktionen wie Grok wird derzeit politisch bewertet.
Japan hat 2023 eine überarbeitete nationale KI-Strategie verabschiedet. Sie sieht unter anderem Schutzmaßnahmen gegen Diskriminierung, Datenschutzverletzungen und Missbrauch durch generative KI vor. Die Koordination der Strategie liegt beim Kabinettsbüro unter Leitung von Onoda.
Kritik von allen Seiten gegen manipulierte digitale Darstellungen
Die Kritik an Grok ist Teil einer internationalen Debatte. Neben Japan untersuchen auch Großbritannien und Kanada den Dienst. Malaysia und Indonesien haben den Zugang vorübergehend gesperrt. Hintergrund ist, dass Nutzer über Grok sexualisierte Darstellungen von Frauen und Minderjährigen erzeugen konnten.
Japanische Organisationen wie Colabo und Mothers’ Village fordern seit Jahren strengere Regeln für digitale Plattformen. Sie kritisieren, dass technische Möglichkeiten zur Erstellung problematischer Inhalte oft unzureichend reguliert sind. In Stellungnahmen weisen sie regelmäßig auf die Risiken für Jugendliche und Frauen hin, die durch nicht autorisierte oder manipulierte digitale Darstellungen entstehen.



