Beobachtetes Signal · 1. Okt. 2025 · Security Incident Report · Quelle: OpenAI Blog · Relevanz: 4/5 · Sentiment: Negativ
OpenAI unterbindet KI-gestützte Phishing- und Skripterstellung durch Bedrohungsakteure
OpenAI hat ein Cluster von ChatGPT-Konten identifiziert und deaktiviert, deren Aktivitäten Überschneidungen mit den branchenweit bekannten Bedrohungsgruppen UNK_DROPPITCH von Proofpoint und UTA0388 von Volexity aufwiesen. Die Akteure nutzten die Modelle, um mehrsprachige Phishing-Inhalte zu verfassen, Tools sowie grundlegende Malware-Prototypen wie verschlüsselte C2-Muster zu entwickeln und Workflows für die Lokalisierung zu optimieren. Laut OpenAI brachten die Modelle keine neuartigen offensiven Fähigkeiten hervor; die Akteure erzielten primär inkrementelle Effizienzgewinne durch verbesserte Sprachkompetenz und schnellere Iterationsschritte. Betroffene Konten wurden gesperrt und Indikatoren mit Branchenpartnern geteilt. OpenAI konnte nicht bestätigen, ob Akteure Massen-Phishing über Untersuchungswerkzeuge wie DeepSeek automatisierten oder welche spezifischen Modelle letztlich zum Einsatz kamen. Dieser Vorfall unterstreicht die anhaltenden Herausforderungen beim Plattformschutz und beim Risikomanagement für Werbetreibende und Publisher im Ökosystem.
Ein bedeutender Anbieter von Large Language Models legte den Missbrauch seiner Modelle durch staatsnahe Akteure für Phishing offen, was direkte Auswirkungen auf die Plattform-Sicherheit, das Betrugsrisiko und das Vertrauen von Werbetreibenden und Publishern hat.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Ein Cluster von ChatGPT-Konten wurde identifiziert und gesperrt, da Aktivitäten mit UNK_DROPPITCH (Proofpoint) und UTA0388 (Volexity) übereinstimmten.
- Bedrohungsakteure nutzten die Modelle zur Erstellung mehrsprachiger Phishing-Inhalte sowie zur Entwicklung von Tools und Malware-Prototypen wie verschlüsselten C2-Mustern.
- OpenAI deaktivierte alle betroffenen Konten und teilte relevante Indikatoren mit Branchenpartnern.
- OpenAI berichtete von keinen Hinweisen darauf, dass die Modellausgaben neuartige offensive Fähigkeiten ermöglichten; die Vorteile lagen hauptsächlich in sprachlicher Fließfähigkeit und operationeller Effizienz.
Verknüpfte Unternehmen
2 verknüpfte Unternehmen“We identified and banned a cluster of ChatGPT accounts involved in activity ... The actors used ChatGPT to perform two main tasks: generatin...”
“We identified and banned a cluster of ChatGPT accounts involved in activity that overlapped with public reporting of threat groups tracked i...”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
OpenAI stoppt russische und iranische KI-Desinformationskampagnen
OpenAI hat ChatGPT-Konten gesperrt, die mit zwei verdeckten Einflussoperationen in Verbindung stehen: einer aus Russland (Codename 'Dark Clark') und einer aus Iran (Codename 'Bogus Bylines'). Die russische Operation nutzte ein gefälschtes 'Think Tank' in Lateinamerika, das Social Research Center (SRC), das über eine Fake-Persona namens 'Mia Clark' kontrolliert wurde, um geopolitische Botschaften zu verbreiten; lokale Mitarbeiter waren unwissentlich involviert. Sie erreichte Kategorie 5 auf der Breakout-Skala, die höchste je von OpenAI aufgedeckte. Die iranische Operation nutzte sieben gefälschte Journalisten-Personas, um Long-Form-Artikel an kleine und mittlere Online-Medien zu pitchen und erreichte Kategorie 4. Beide Operationen nutzten KI zum Verfassen von Berichten, Erstellen von Inhalten und Verfeinern von Pitches. OpenAI hat Informationen mit Behörden und Branchenpartnern geteilt.
Entlassene OpenAI-Forscher bestreiten Fehlverhalten und warnen vor Einschüchterung
Drei OpenAI-Sicherheitsforscher – Jasmine Wang, Tomek Korbak und Mikita Balesni –, die letzte Woche entlassen wurden, haben einen offenen Brief veröffentlicht, in dem sie die Vorwürfe des Missbrauchs sensibler Informationen bestreiten. Sie warnen, dass ihre Entlassung einen abschreckenden Effekt habe, der die Sicherheitsarbeit und den offenen Dialog im Unternehmen behindere. Die Forscher erklären, sie hätten in gutem Glauben und im Rahmen der damaligen Unternehmensnormen gehandelt, und die Gründe für ihre Entlassung seien unklar. Sie appellieren an OpenAI, seine Zusagen bezüglich externer Sicherheitsauditoren einzuhalten und eine transparente Kultur zu bewahren. OpenAI antwortete mit einem internen Memo, das Vergeltungsmaßnahmen bestreitet und betont, dass Mitarbeiter nicht für das Ansprechen von Bedenken entlassen werden, ohne jedoch auf spezifische Richtlinienverstöße oder Umstände der Entlassung einzugehen. Der Konflikt beleuchtet Spannungen zwischen interner Sicherheitsforschung und Kommunikationsrichtlinien, während OpenAI wegen Sicherheitsvorfällen in der Kritik steht.
Ben Afflecks KI-Wissen geht viral
Ben Affleck, der Schauspieler, der sein KI-Filmmaking-Startup für angeblich 587 Millionen Dollar an Netflix verkauft hat, ging viral, weil er in Interviews tiefes Verständnis für KI-Technologie zeigte. Er sprach über maschinelles Lernen, neuronale Netze und gab zu, Python-Skripte zu schreiben. Affleck beschrieb seinen Weg vom analogen zum digitalen Film, seinen Einsatz von KI in der visuellen Effektproduktion und die Erstellung eines proprietären Datensatzes für ethische KI-Filmarbeit. Er besuchte auch OpenAI und nutzte seinen Promi-Status für Einblicke in neue Technologien. Affleck äußerte Bedenken über die Auswirkungen von KI auf Bildung und erlernte Hilflosigkeit, nicht über existenzielle Bedrohungen. Er nutzte KI in seinem Film 'Animals' und betonte die additive Natur von KI in der Filmbranche.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.