Beobachtetes Signal · 1. Mai 2024 · Policy Update · Quelle: OpenAI Blog · Relevanz: 3/5 · Sentiment: Negativ
OpenAI meldet Missbrauch durch russische Einflussoperation „Doppelgänger“
Der Publisher berichtet, dass vier Account-Cluster seine KI-Modelle zur Unterstützung der russischen Einflussoperation „Doppelgänger“ missbraucht haben. Die Aktivitäten richteten sich an Zielgruppen in Europa und Nordamerika und umfassten die Erstellung mehrsprachiger Kurzkommentare, übersetzter und redigierter Artikel, Memes, Videos sowie Social-Media-Posts auf Plattformen wie 9GAG und X sowie auf operationsspezifischen Websites. Ein Cluster nutzte einen Dienst mit Verbindungen zu Unternehmen in Russland und Tschechien, um Zugriffsbeschränkungen zu umgehen; der API-Zugriff dieses Dienstes wurde daraufhin gesperrt. Die Inhalte konzentrierten sich auf pro-russische und anti-ukrainische Botschaften zum Krieg in der Ukraine. Der Publisher bewertete die Auswirkungen als gering (Breakout Scale Kategorie 2) bei begrenztem authentischen Nutzer-Engagement.
Die Offenlegung des Missbrauchs von LLMs für koordinierte Einflussoperationen und die regulatorischen Maßnahmen des Publishers sind von hoher Relevanz für Platform Safety, Brand Safety und die Erkennung von inauthentischer Amplification.
Marktsignale zu X in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Vier Account-Cluster, die Modelle des Publishers nutzten, wurden wegen Verbindungen zur russischen Einflussoperation „Doppelgänger“ gesperrt.
- Die Operation zielte auf Europa und Nordamerika ab und veröffentlichte Inhalte auf Websites sowie Social Media wie 9GAG und X.
- Die Cluster produzierten mehrsprachige Kurzkommentare, übersetzten russische Originalartikel und generierten oder bearbeiteten französisch- und deutschsprachige Artikel.
- Zur Umgehung von Länderbeschränkungen wurde ein Dienst mit Verbindungen nach Russland und Tschechien genutzt; der API-Zugriff wurde gesperrt.
- Der Publisher stufte die Wirkung auf der Breakout Scale als Kategorie 2 ein: Multi-Plattfom-Posting ohne echten Durchbruch oder signifikantes authentisches Engagement.
Verknüpfte Unternehmen
2 verknüpfte Unternehmen“On X, the campaign’s comments were posted by accounts that typically only ever made one or two posts each....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
OpenAI unterbindet verdeckte russische Einflussnahme-Kampagne mit ChatGPT
Am 25. August 2026 gab OpenAI die Sperrung einer Gruppe von ChatGPT-Konten bekannt, die höchstwahrscheinlich aus Russland stammten und eine verdeckte Online-Einflusskampagne unterstützten. Das Unternehmen entdeckte die Aktivitäten nach der Untersuchung von KI-generierten Social-Media-Beiträgen. Diese ließen sich auf ein gefälschtes „International Burke Institute“ (IBI) zurückführen, das kopierte akademische Inhalte verbreitete und einen prorussischen „Souveränitätsindex“ bewarb. Die Akteure nutzten VPNs, um über ChatGPT englischsprachige Posts und Antworten für Plattformen wie X, LinkedIn, Facebook, Substack und Telegram zu generieren. OpenAI dokumentierte die begrenzte Reichweite – Telegram-Kanäle verzeichneten jeweils rund 10.000 bis 20.000 Abonnenten – und stufte die Operation in die Kategorie Drei der Brookings Breakout Scale ein. Der Vorfall verdeutlicht, wie Large Language Models (LLMs) als Werkzeuge für Kampagnen zur künstlichen Autorität dienen können, und folgt auf eine ähnliche Account-Sperrung im Februar 2026 im Zusammenhang mit dem prorussischen Medium Rybar.
OpenAI stoppt russische und iranische KI-Desinformationskampagnen
OpenAI hat ChatGPT-Konten gesperrt, die mit zwei verdeckten Einflussoperationen in Verbindung stehen: einer aus Russland (Codename 'Dark Clark') und einer aus Iran (Codename 'Bogus Bylines'). Die russische Operation nutzte ein gefälschtes 'Think Tank' in Lateinamerika, das Social Research Center (SRC), das über eine Fake-Persona namens 'Mia Clark' kontrolliert wurde, um geopolitische Botschaften zu verbreiten; lokale Mitarbeiter waren unwissentlich involviert. Sie erreichte Kategorie 5 auf der Breakout-Skala, die höchste je von OpenAI aufgedeckte. Die iranische Operation nutzte sieben gefälschte Journalisten-Personas, um Long-Form-Artikel an kleine und mittlere Online-Medien zu pitchen und erreichte Kategorie 4. Beide Operationen nutzten KI zum Verfassen von Berichten, Erstellen von Inhalten und Verfeinern von Pitches. OpenAI hat Informationen mit Behörden und Branchenpartnern geteilt.
Grok-Bot leakt private Kontostände in Slack
Ein Grok-KI-Agent, der in den Slack-Arbeitsbereich eines Unternehmens integriert war, hat versehentlich private Bankkontostände von Mitarbeitern in einem öffentlichen Kanal veröffentlicht, was ernste Datenschutz- und Compliance-Bedenken aufwirft. Der Vorfall verdeutlicht die Risiken beim Einsatz von KI-Agenten ohne robuste Datenzugriffskontrollen. Der Artikel diskutiert die potenzielle Fähigkeit von KI-Systemen, auf sensible Informationen zuzugreifen und diese offenzulegen, und betont die Notwendigkeit strenger Governance- und Berechtigungsmanagement-Maßnahmen bei der Integration von KI-Agenten in Unternehmenskommunikationstools wie Slack.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.