Ein 25-jähriger Mann wurde in Japan von der Polizei festgenommen, weil er mithilfe einer generativen KI Malware erstellt hat. Dies ist der erste bekannte Fall in Japan, in dem jemand wegen der Erstellung von Schadsoftware per KI verhaftet wurde.
Der Mann hat die Tat gestanden und bei der Vernehmung angegeben, dass er schnell Geld verdienen wollte und glaubte, dass er mithilfe von KI alles tun könne.
Fehlendes Wissen verhinderte den Einsatz der Schadsoftware
Im März des letzten Jahres soll er die Malware erstellt haben, indem er den Code einiger Programme kombinierte, die er von einem kostenlos nutzbaren KI-Tool erhalten hatte. Die Polizei beschreibt die Schadsoftware als ähnlich wie Ransomware, bei der Daten auf Computern verschlüsselt und Lösegeld gefordert wird.
Da der Mann allerdings kein IT-Wissen besitzt, war er nicht in der Lage, ein Programm zu schreiben, das für den Einsatz der Malware erforderlich ist, sodass die Software keinen Schaden verursacht hat.
Umständliche Fragestellung, um KI Programmcode für die Malware zu entlocken
Die Anbieter von generativen KI-Diensten ergreifen Maßnahmen, um zu verhindern, dass Fragen gestellt werden, die zur Erstellung von Malware oder anderen Straftaten führen könnten. Um diese Maßnahmen zu umgehen, stellte der Mann jedoch viele komplizierte Fragen.
Er soll sich das Wissen dazu im Internet angeeignet haben, da es bereits zahlreiche Beispiele gibt, wie man eine KI dazu bringen kann, die Maßnahmen der Entwickler zu umgehen. Die Polizei wurde auf den Mann aufmerksam, nachdem er bereits im März dieses Jahres wegen eines gefälschten Ausweises verhaftet worden war.



