Beobachtetes Signal · 1. Okt. 2024 · Technical Release · Quelle: OpenAI Blog · Relevanz: 4/5 · Sentiment: Negativ
Russische KI-gestützte Desinformationskampagne 'Stop News' aufgedeckt und zerschlagen
Eine aus Russland stammende, plattformübergreifende Einflussoperation namens 'Stop News' wurde aufgedeckt und unterbunden. Die Akteure nutzten generative KI, um kurze Kommentare, Langform-Artikel und Bildmaterial auf Englisch, Französisch und Russisch zu erstellen und über eigene Websites sowie Social Media zu verbreiten. Zum Einsatz kamen unter anderem DALL-E für Bilder sowie GAN-generierte Profilfotos für gefälschte Medienportale mit Fokus auf das Vereinigte Königreich und Afrika. Zudem wurden vermeintliche 'Informationspartnerschaften' mit lokalen Organisationen vorgetäuscht. Die organische Reichweite blieb jedoch gering: Meta meldete für die zugehörigen Facebook- und Instagram-Assets insgesamt nur rund 2.100 Follower, während X-Konten meist im zweistelligen Bereich verharrten. Die Kampagne wurde auf der Breakout-Skala als Kategorie 3 eingestuft. Zur Neutralisierung des Netzwerks wurden relevante Bedrohungsindikatoren mit Behörden und Distributionsplattformen geteilt.
Der Vorfall verdeutlicht den zunehmenden Einsatz generativer KI für koordinierte Desinformation, was Publisher Trust und Brand Safety gefährdet sowie neue Anforderungen an Ad Safety und automatisierte Erkennungsmechanismen stellt.
Marktsignale zu Meta in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Identifizierung und Unterbindung der russischen Einflussoperation 'Stop News', die KI-Modelle zur mehrsprachigen Content-Generierung nutzte.
- Einsatz von DALL-E-Bildern, GAN-Profilfotos und gefälschten Nachrichten-Websites zur Desinformation auf Social Media.
- Vortäuschung von Partnerschaften britischer Scheinnachrichtenportale mit lokalen Schulen, Kirchen sowie einer kalifornischen Kammerorganisation.
- Geringe Reichweite: Metas betroffene Assets kamen auf etwa 2.100 Follower, viele X-Accounts blieben im zweistelligen Bereich.
- Einstufung als Kategorie 3 auf der Breakout-Skala und Weitergabe technischer Indikatoren an Sicherheitsbehörden und Plattformen.
Verknüpfte Unternehmen
2 verknüpfte Unternehmen“We began our investigation after reviewing off-platform indicators in Meta’s 2024 second quarter threat report....”
“Screenshot of a reply to a customer review on the Yandex entry for a company in St Petersburg....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
OpenAI unterbindet verdeckte russische Einflussnahme-Kampagne mit ChatGPT
Am 25. August 2026 gab OpenAI die Sperrung einer Gruppe von ChatGPT-Konten bekannt, die höchstwahrscheinlich aus Russland stammten und eine verdeckte Online-Einflusskampagne unterstützten. Das Unternehmen entdeckte die Aktivitäten nach der Untersuchung von KI-generierten Social-Media-Beiträgen. Diese ließen sich auf ein gefälschtes „International Burke Institute“ (IBI) zurückführen, das kopierte akademische Inhalte verbreitete und einen prorussischen „Souveränitätsindex“ bewarb. Die Akteure nutzten VPNs, um über ChatGPT englischsprachige Posts und Antworten für Plattformen wie X, LinkedIn, Facebook, Substack und Telegram zu generieren. OpenAI dokumentierte die begrenzte Reichweite – Telegram-Kanäle verzeichneten jeweils rund 10.000 bis 20.000 Abonnenten – und stufte die Operation in die Kategorie Drei der Brookings Breakout Scale ein. Der Vorfall verdeutlicht, wie Large Language Models (LLMs) als Werkzeuge für Kampagnen zur künstlichen Autorität dienen können, und folgt auf eine ähnliche Account-Sperrung im Februar 2026 im Zusammenhang mit dem prorussischen Medium Rybar.
Grok Bot durchsucht X und nutzt Konkurrenzmodelle
SpaceXAI hat seinen AI-Agenten Grok Bot um die Fähigkeit erweitert, die gesamte X-Plattform kontinuierlich zu durchsuchen und zu analysieren. Nutzer können den Agenten nun für 24/7-Social-Listening, Markenüberwachung und Trendanalysen einsetzen, ähnlich wie bei Googles Information Agents. Grok Bot wird je nach Aufgabenstellung auch Modelle von Konkurrenten wie Claude Opus 5.5, Midjourney und Suno integrieren. Dieser Schritt signalisiert einen Wandel hin zu Multi-Modell-AI-Agenten und erweitert die Möglichkeiten der KI-gestützten Social-Media-Analyse.
Instagram-Edits-App ermöglicht jetzt Carousel-Erstellung
Die Edits-App von Instagram erlaubt Creatorn jetzt die direkte Erstellung von Karussell-Posts, wie der Creators Account von Instagram über Instagram und Threads bekannt gab. Das Feature steht iOS-Nutzern sofort zur Verfügung, eine Android-Version soll bald folgen. Plattformchef Adam Mosseri bestätigte in einem Broadcast Channel, dass Nutzer auf jeder Slide Fotos und Videos mischen, Bilder über Slides hinweg verknüpfen sowie die bereits aus der Videoediting bekannten Sticker, Texteffekte und Cutouts verwenden können. Dies soll die Content-Erstellung vereinfachen und das Engagement fördern, da Karussells weiterhin ein beliebtes Format sind. Zusätzlich ist der Edits AI Assistant, der Videoideen basierend auf Account-Metriken liefert, derzeit nur in den USA verfügbar. Meta erweitert weiterhin seine Creator-Tools zur Unterstützung des Social-Media-Marketings.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.