Beobachtetes Signal · 1. Okt. 2024 · Abuse Investigation · Quelle: OpenAI Blog · Relevanz: 2/5 · Sentiment: Negativ
OpenAI: Virale Fehlermeldung über russischen Troll war ein Hoax
Am 18. Juni behauptete ein Beitrag auf X, ein angebliches russisches Trollkonto aufgedeckt zu haben, dessen GPT-4o-Guthaben erschöpft war. Nach einer Untersuchung kam OpenAI zu dem Schluss, dass es sich um einen viralen Hoax handelte, der nicht von seinen Modellen generiert worden sein konnte. Zwar stammten frühere Posts desselben X-Kontos zur Erstellung kurzer, argumentativer Antworten von OpenAI-Modellen, der spezifische Post im JSON-Stil war jedoch offenkundig manuell fabriziert. OpenAI teilte mit, dass die Aktivität höchstwahrscheinlich aus den Vereinigten Staaten stammte, sperrte das dazugehörige OpenAI-Konto, und Medienberichten zufolge wurde auch das X-Konto suspendiert. Der Hoax verbreitete sich rasant über X, LinkedIn, Reddit sowie andere Medien, weshalb OpenAI ihn am oberen Ende der Kategorie 3 seiner Breakout-Skala einordnete.
Der Vorfall verdeutlicht die rasante plattformübergreifende Verbreitung fabrizierter LLM-Behauptungen und unterstreicht die damit verbundenen Risiken für Desinformation, Attributionsfehler sowie Brand Safety, die für digitale Plattformen und Publisher gleichermaßen relevant sind.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Am 18. Juni behauptete ein X-Post, ein russisches Trollkonto mit abgelaufenen GPT-4o-Credits enttarnt zu haben.
- OpenAI untersuchte den Vorfall und stellte fest, dass der virale Post ein Hoax war und nicht von seinen Modellen stammen konnte.
- Frühere Beiträge desselben X-Kontos wurden mithilfe von OpenAI-Modellen für argumentative Antworten generiert.
- OpenAI sperrte das zugehörige Konto; Berichten zufolge wurde auch das X-Konto suspendiert.
- Aufgrund plattformübergreifender Amplifikation stufte OpenAI den Vorfall am oberen Ende von Kategorie 3 seiner Breakout-Skala ein.
Verknüpfte Unternehmen
4 verknüpfte Unternehmen“Our investigation showed that this post was a hoax which could not have come from our models. ... After further investigation, we banned thi...”
“On June 18, a post on X appeared to expose a Russian troll account whose credits for using GPT‑4o had expired....”
“The hoax post quickly went viral, with tweets about it generating thousands of retweets, posts on LinkedIn and Reddit, multiple media querie...”
“The hoax post quickly went viral, with tweets about it generating thousands of retweets, posts on LinkedIn and Reddit, multiple media querie...”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
OpenAI unterbindet verdeckte russische Einflussnahme-Kampagne mit ChatGPT
Am 25. August 2026 gab OpenAI die Sperrung einer Gruppe von ChatGPT-Konten bekannt, die höchstwahrscheinlich aus Russland stammten und eine verdeckte Online-Einflusskampagne unterstützten. Das Unternehmen entdeckte die Aktivitäten nach der Untersuchung von KI-generierten Social-Media-Beiträgen. Diese ließen sich auf ein gefälschtes „International Burke Institute“ (IBI) zurückführen, das kopierte akademische Inhalte verbreitete und einen prorussischen „Souveränitätsindex“ bewarb. Die Akteure nutzten VPNs, um über ChatGPT englischsprachige Posts und Antworten für Plattformen wie X, LinkedIn, Facebook, Substack und Telegram zu generieren. OpenAI dokumentierte die begrenzte Reichweite – Telegram-Kanäle verzeichneten jeweils rund 10.000 bis 20.000 Abonnenten – und stufte die Operation in die Kategorie Drei der Brookings Breakout Scale ein. Der Vorfall verdeutlicht, wie Large Language Models (LLMs) als Werkzeuge für Kampagnen zur künstlichen Autorität dienen können, und folgt auf eine ähnliche Account-Sperrung im Februar 2026 im Zusammenhang mit dem prorussischen Medium Rybar.
X-Botnetz nutzt ChatGPT zur Verbreitung von KI- und Energiedaten-Fake-News
Die Plattform X hat ein mutmaßlich mit China verknüpftes Botnetz mit rund 200.000 Accounts identifiziert, das ChatGPT-generierte Inhalte nutzte, um Falschinformationen über KI-Rechenzentren und Strompreise zu verbreiten. Rund 200 dieser Accounts versuchten gezielt, die Debatte über die US-amerikanische KI- und Energiepolitik zu manipulieren. Bereits im Juni warnte OpenAI vor solchen Aktivitäten, bei denen generative KI für Trolling und Grafikerstellung eingesetzt wurde. Die Beiträge behaupteten fälschlicherweise, Rechenzentren trieben die privaten Strompreise in die Höhe. Berichten zufolge stiegen die US-Strompreise 2025 tatsächlich um 6,9 Prozent, wozu auch die steigende Nachfrage von Rechenzentren beiträgt. Dieser Vorfall verdeutlicht die zunehmenden Risiken durch KI-gestützte Desinformation und Bot-Aktivitäten für die Marktsicherheit, Werbebetrug und das allgemeine Plattformvertrauen in der digitalen Medienlandschaft.
Grok Bot durchsucht X und nutzt Konkurrenzmodelle
SpaceXAI hat seinen AI-Agenten Grok Bot um die Fähigkeit erweitert, die gesamte X-Plattform kontinuierlich zu durchsuchen und zu analysieren. Nutzer können den Agenten nun für 24/7-Social-Listening, Markenüberwachung und Trendanalysen einsetzen, ähnlich wie bei Googles Information Agents. Grok Bot wird je nach Aufgabenstellung auch Modelle von Konkurrenten wie Claude Opus 5.5, Midjourney und Suno integrieren. Dieser Schritt signalisiert einen Wandel hin zu Multi-Modell-AI-Agenten und erweitert die Möglichkeiten der KI-gestützten Social-Media-Analyse.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.