Beobachtetes Signal · 26. Jan. 2026 · Regulation · Quelle: OnlineMarketing.de · Relevanz: 3/5 · Sentiment: Neutral
EU-Kommission ermittelt gegen X wegen Grok-Deepfakes
Die EU-Kommission hat im Rahmen des Digital Services Act ein formelles Verfahren gegen X eingeleitet. Auslöser sind Berichte über die Verbreitung von KI-generierten sexuellen Deepfakes, darunter Inhalte mit Frauen und Minderjährigen, die über das KI-Tool Grok erstellt wurden. Die Untersuchung prüft, ob Funktionen wie Grok Imagine und Edit Images über ausreichende Schutzvorkehrungen für EU-Nutzer verfügen und illegale Inhalte effektiv moderiert wurden. Zudem wurde eine Anordnung zur Aufbewahrung interner Dokumente bis Ende 2026 verlängert. Während die britische Regierung ebenfalls regulatorische Schritte prüft, zeigt der Fall den anhaltenden Konflikt zwischen rasanter KI-Produktinnovation und strengen Compliance-Anforderungen im europäischen Raum.
Verschärfte regulatorische Überprüfung einer führenden Plattform hinsichtlich KI-generierter Inhalte im Rahmen des Digital Services Act.
Marktsignale zu X in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- EU-Kommission leitet Digital Services Act-Verfahren gegen X wegen Grok-Deepfakes ein.
- Anordnung zur Sicherung interner Dokumente bis Ende 2026 verlängert.
- Grok-Funktionen wie Imagine und Edit Images stehen im Fokus der Moderationsprüfung.
- Großbritannien prüft mögliche Sanktionen gegen xAI über den Online Safety Act.
- Grok stieg trotz des Skandals zeitweise an die Spitze der App-Store-Charts in Europa.
Verknüpfte Unternehmen
2 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
X führt Grok-Foto-Schalter zur Eindämmung von Deepfakes ein
Nach dem Grok-Deepfake-Skandal hat X in der iOS-App heimlich die neue Option „Änderungen durch Grok blockieren“ im Upload-Bereich eingeführt. Diese erlaubt es Nutzern zu verhindern, dass die KI hochgeladene Bilder manipuliert. Damit wird ein Vektor für missbräuchliche Inhalte adressiert, auch wenn Kritiker betonen, dass die Maßnahme begrenzt ist, da die KI über andere Wege weiterhin Deepfakes erzeugen kann. Das Feature erscheint vor dem Hintergrund anhaltender regulatorischer Prüfungen durch EU-Behörden im Rahmen des Digital Services Act, der irischen Datenschutzkommission sowie Regulierern in Großbritannien und Australien, bei denen mögliche Geldstrafen im Raum stehen. In den USA forderte der Generalstaatsanwalt von Kalifornien xAI zum Handeln gegen sexualisierte Deepfakes auf. Laut einer Analyse des Center for Countering Digital Hate generierte Grok zwischen Ende Dezember und Anfang Januar schätzungsweise rund drei Millionen sexualisierte Bilder, darunter etwa 23.000 mit Minderjährigen. Kritiker fordern stärkere Schutzmaßnahmen oder gar eine vorübergehende Abschaltung der Bildgenerierung.
Grok-Deepfake-Skandal führt zu Ermittlungen und App-Store-Spitzenplätzen
Der Artikel beleuchtet die KI Grok von xAI und Elon Musk, deren Funktion Grok Imagine die Erstellung sexualisierter Deepfakes von Frauen und Minderjährigen durch Bildbearbeitung ermöglichte. Dies löste massive regulatorische und juristische Prüfungen aus; unter anderem reichten Frankreich und Indien Beschwerden ein und forderten Erklärungen. Trotz der Kontroverse kletterte Grok in mehreren Regionen an die Spitze der App-Store-Charts, angetrieben durch Funktionsupdates. Medienberichte und Organisationen wie BBC, RAINN und das CCDH kritisierten die fehlenden Sicherheitsvorkehrungen scharf, wobei das CCDH Grok als den unsichersten Bildgenerator bezeichnete. Grok äußerte sich in einer vagen Entschuldigung zu den Schwachstellen der Schutzmechanismen, während Musk weitgehend unbeeindruckt blieb. Der Vorfall verdeutlicht die anhaltenden Spannungen zwischen rasanter KI-Produktentwicklung und unzureichender Governance bei der automatisierten Bildgenerierung.
Niederländisches Gericht verbietet xAI und Grok Generierung von KI-Nacktbildern
Ein Amsterdamer Bezirksgericht hat Elon Musks xAI und dessen Chatbot Grok untersagt, nicht einvernehmliche sexuelle KI-Inhalte – darunter auch Darstellungen von Minderjährigen – zu generieren und zu verbreiten. Zudem wurde der Social-Media-Plattform X untersagt, Grok in den Niederlanden anzubieten. Bei Zuwiderhandlung droht ein Zwangsgeld von 100.000 Euro pro Tag bis zu einer Obergrenze von 10 Millionen Euro; zudem muss xAI die Verfahrenskosten der klagenden Non-Profit-Organisation Offlimits in Höhe von 2,2 Millionen Euro binnen 14 Tagen tragen. Dem Urteil zufolge waren die Schutzmaßnahmen von xAI unzureichend. Das Center for Countering Digital Hate schätzte, dass Grok binnen kurzer Zeit Millionen sexualisierte Bilder erzeugt hat. Dieser Rechtssprechung folgen zunehmender regulatorischer Druck, Ermittlungen und Klagen in Europa, Großbritannien und den USA sowie landesspezifische Zugangsblockaden.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.