Beobachtetes Signal · 10. März 2026 · Technical Release · Quelle: OnlineMarketing.de · Relevanz: 4/5 · Sentiment: Negativ
X führt Grok-Foto-Schalter zur Eindämmung von Deepfakes ein
Nach dem Grok-Deepfake-Skandal hat X in der iOS-App heimlich die neue Option „Änderungen durch Grok blockieren“ im Upload-Bereich eingeführt. Diese erlaubt es Nutzern zu verhindern, dass die KI hochgeladene Bilder manipuliert. Damit wird ein Vektor für missbräuchliche Inhalte adressiert, auch wenn Kritiker betonen, dass die Maßnahme begrenzt ist, da die KI über andere Wege weiterhin Deepfakes erzeugen kann. Das Feature erscheint vor dem Hintergrund anhaltender regulatorischer Prüfungen durch EU-Behörden im Rahmen des Digital Services Act, der irischen Datenschutzkommission sowie Regulierern in Großbritannien und Australien, bei denen mögliche Geldstrafen im Raum stehen. In den USA forderte der Generalstaatsanwalt von Kalifornien xAI zum Handeln gegen sexualisierte Deepfakes auf. Laut einer Analyse des Center for Countering Digital Hate generierte Grok zwischen Ende Dezember und Anfang Januar schätzungsweise rund drei Millionen sexualisierte Bilder, darunter etwa 23.000 mit Minderjährigen. Kritiker fordern stärkere Schutzmaßnahmen oder gar eine vorübergehende Abschaltung der Bildgenerierung.
Technisches Release einer großen Plattform als Reaktion auf eine hochkarätige Grok-Kontroverse und anhaltende regulatorische Prüfungen.
Marktsignale zu Block in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- X rollte heimlich einen neuen Schalter im iOS-Upload-Menü aus: „Änderungen durch Grok blockieren“.
- Der Schalter verhindert, dass Grok neue Versionen hochgeladener Bilder generiert.
- Grok Imagine und der „Spicy Mode“ wurden vor den Einschränkungen zur Generierung nicht einvernehmlicher sexualisierter Bilder genutzt.
- Untersuchungen im Rahmen des EU Digital Services Act, irische DSGVO-Bedenken sowie Ermittlungen in UK, Australien und Kalifornien laufen.
- Das Center for Countering Digital Hate schätzt, dass Grok zwischen dem 29. Dezember und dem 9. Januar etwa 3 Millionen sexualisierte Bilder erzeugte, darunter ca. 23.000 mit Minderjährigen.
Verknüpfte Unternehmen
3 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
EU-Kommission ermittelt gegen X wegen Grok-Deepfakes
Die EU-Kommission hat im Rahmen des Digital Services Act ein formelles Verfahren gegen X eingeleitet. Auslöser sind Berichte über die Verbreitung von KI-generierten sexuellen Deepfakes, darunter Inhalte mit Frauen und Minderjährigen, die über das KI-Tool Grok erstellt wurden. Die Untersuchung prüft, ob Funktionen wie Grok Imagine und Edit Images über ausreichende Schutzvorkehrungen für EU-Nutzer verfügen und illegale Inhalte effektiv moderiert wurden. Zudem wurde eine Anordnung zur Aufbewahrung interner Dokumente bis Ende 2026 verlängert. Während die britische Regierung ebenfalls regulatorische Schritte prüft, zeigt der Fall den anhaltenden Konflikt zwischen rasanter KI-Produktinnovation und strengen Compliance-Anforderungen im europäischen Raum.
Grok-Deepfake-Skandal führt zu Ermittlungen und App-Store-Spitzenplätzen
Der Artikel beleuchtet die KI Grok von xAI und Elon Musk, deren Funktion Grok Imagine die Erstellung sexualisierter Deepfakes von Frauen und Minderjährigen durch Bildbearbeitung ermöglichte. Dies löste massive regulatorische und juristische Prüfungen aus; unter anderem reichten Frankreich und Indien Beschwerden ein und forderten Erklärungen. Trotz der Kontroverse kletterte Grok in mehreren Regionen an die Spitze der App-Store-Charts, angetrieben durch Funktionsupdates. Medienberichte und Organisationen wie BBC, RAINN und das CCDH kritisierten die fehlenden Sicherheitsvorkehrungen scharf, wobei das CCDH Grok als den unsichersten Bildgenerator bezeichnete. Grok äußerte sich in einer vagen Entschuldigung zu den Schwachstellen der Schutzmechanismen, während Musk weitgehend unbeeindruckt blieb. Der Vorfall verdeutlicht die anhaltenden Spannungen zwischen rasanter KI-Produktentwicklung und unzureichender Governance bei der automatisierten Bildgenerierung.
X integriert Grok direkt in Algorithmus und plant massive Expansion
Nur Stunden nach der Einstellung von OpenAis Sora hat Elon Musk eine drastische Ausweitung der generativen KI auf X angekündigt. Er setzt verstärkt auf Grok Imagine und bewirbt ein kostenpflichtiges Grok-Abonnement. Nikita Bier, Head of Product bei X, kündigte an, dass die volle Leistung von Grok direkt in den Algorithmus von X integriert wird, und bezeichnete dies als die wichtigste Änderung in der Geschichte der Plattform. X verzeichnet bereits eine steigende Verweildauer der Nutzer. Dieser Schritt eröffnet neue Möglichkeiten für Content-Skalierung und Marketing, wirft jedoch auch massive Bedenken hinsichtlich des Missbrauchs auf. Im Zusammenhang mit Grok wurden bereits sexualisierte, nicht einvernehmliche Deepfakes generiert, was nach einem prominenten Deepfakediskurs in Deutschland auch die Politik auf den Plan gerufen hat. Deutsche Behörden arbeiten Berichten zufolge an Gesetzen zur Kriminalisierung pornografischer Deepfakes im Rahmen erweiterter Maßnahmen gegen digitale Gewalt.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.