OpenAI unterbricht koordinierte KI-Modelldestillation
OpenAI hat eine koordinierte Kampagne zur feindlichen Destillation identifiziert und unterbrochen, die auf seine Modelle abzielte. Die erste Aktivität wurde im Juli beobachtet. Die Betreiber manipulierten Modellinteraktionen, um geschützte Reasoning-Ausgaben zu extrahieren, ohne die Verschlüsselung zu brechen. Die Kampagne erreichte ihren Höhepunkt am 24. und 25. Juli mit 16.000 Anfragen von über 4.000 Nutzern; ein damit verbundener Cluster von über 15.000 Nutzern wurde bis zum 28. Juli vollständig unterbrochen. OpenAI führt den Kerncluster auf Personen mit Verbindungen zu Moonshot AI zurück. Das Unternehmen verschärfte Schutzmaßnahmen, sperrte Konten und teilte die Erkenntnisse mit dem Frontier Model Forum und Regierungsbehörden. Die feindliche Destillation birgt Sicherheits- und nationale Sicherheitsrisiken, da sie das Trainieren von Modellen ohne Sicherheitsvorkehrungen ermöglichen kann. OpenAI erwartet eine zunehmende Raffinesse dieser Angriffe und verbessert die Abwehrmaßnahmen sowohl für eigene als auch für Partnerbereitstellungen.
- •OpenAI hat eine koordinierte Kampagne zur feindlichen Destillation unterbrochen, die auf seine Modelle abzielte; erste Aktivität im Juli beobachtet.
- •Die Kampagne erreichte ihren Höhepunkt am 24.-25. Juli mit 16.000 Anfragen von über 4.000 Nutzern.
- •Verwandte Prompt-Muster betrafen einen Cluster von über 15.000 Nutzern, der bis zum 28. Juli vollständig unterbrochen wurde.
