OpenAI sperrt Konten im Zusammenhang mit russischsprachiger Schadsoftware

OpenAI hat mehrere ChatGPT-Konten gesperrt, die von einem russischsprachigen Akteur zur Entwicklung und Optimierung von Malware genutzt wurden. Die Täter setzten die Modelle ein, um unter anderem Remote-Access-Trojaner, Credential Stealer, Obuskations- und Krypter-Techniken, In-Memory-Loader sowie Tools zur Clipboard-Exfiltration zu prototypisieren. Die Aktivitäten wurden in einem Telegram-Kanal dokumentiert, wobei Proxys und temporäre Hosting-Dienste zum Einsatz kamen. Laut OpenAI verweigerten die Modelle direkte Angriffs- und Keylogger-Anfragen, während betroffene Konten deaktiviert und Indikatoren mit Partnern aus der Industrie geteilt wurden. Es gab keine Anhaltspunkte dafür, dass die KI-Modelle neuartige Fähigkeiten jenseits öffentlich verfügbarer Ressourcen lieferten. Die Vorfälle wurden anhand eines LLM-ATT&CK-Frameworks analysiert, das Aspekte wie Payload-Erstellung, Ausweichmanöver, Nachbereitungsaktivitäten und Infrastruktur-Profiling umfasst.