Beobachtetes Signal · 18. Aug. 2025 · Product Launch · Quelle: OnlineMarketing.de · Relevanz: 2/5 · Sentiment: Negativ
Grok Imagine: KI-Bildgenerator von xAI ermöglicht NSFW-Inhalte im Spicy Mode
Grok Imagine, der iOS-basierte KI-Bild- und Video-Generator von xAI, steht Abonnenten von SuperGrok und Premium Plus X zur Verfügung. Das Tool unterstützt Text-to-Image sowie Image-to-Video-Generierung und ermöglicht die Erstellung von 15-sekündigen Clips inklusive Audio aus Prompts oder eigenen Medien. Berichten zufolge wurden mit dem Tool jedoch auch NSFW-Inhalte und Deepfakes unter Verwendung von Prominenten wie Taylor Swift erzeugt. Bis zum 5. August 2025 sollen laut Elon Musk bereits 34 Millionen Videos generiert worden sein. Die Entwicklung verdeutlicht erhebliche Sicherheits- und Moderationsrisiken bei generativen KI-Anwendungen, insbesondere im Vergleich zu den strengeren Schutzmaßnahmen von Wettbewerbern wie Google und Adobe. Zudem wirft sie Fragen zum Missbrauch von Echtpersonen-Ähnlichkeiten und zur Verbreitung problematischer Inhalte auf.
Erhebliche Sicherheits- und Content-Moderationsbedenken im Hinblick auf KI-generierte Deepfakes und NSFW-Outputs; zwar kein branchenweiter Wandel, aber ein kritisches Risikosignal.
Marktsignale zu Adobe in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- xAI hat Grok Imagine für iOS anfangs für SuperGrok- und Premium-Plus-X-Abonnenten veröffentlicht.
- Grok Imagine unterstützt Text-to-Image- und Image-to-Video-Generierung für 15-sekündige Clips inklusive Audio.
- Nutzer können Visualisierungen auf Basis eigener Bilder oder Galeriedateien erstellen.
- Berichte verweisen auf die Erstellung von NSFW-Inhalten mit Prominenten-Abbildern (z. B. Taylor Swift).
- Elon Musk gab an, dass bis zum 5. August 2025 insgesamt 34 Millionen Grok-Imagine-Videos erstellt wurden.
Verknüpfte Unternehmen
3 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Grok Imagine Image 2.0 Debuts, Safety Concerns Persist
SpaceXAI, the X/SpaceX parent, has released Imagine Image 2.0 as a new Quality Mode for its Grok Imagine generative image tool, aimed at fast creation and editing of ads, social visuals and product imagery. Independent Arena benchmarks place Imagine Image 2.0 just behind OpenAI’s GPT-Image 2 in Image Edit and Text-to-Image comparisons. The model adds advanced editing—Magic Wand, segmentation, background removal, aspect-ratio resizing—and multi-reference editing (up to five elements), plus templates for product, gaming and portrait assets and worldbuilding. It's available now on Grok.com and the Grok AI app, with API access planned. Observers warn of safety and regulatory risks after prior Grok misuse (sexualized deepfakes, a nude-image scandal and a controversial 'Spicy Mode'); EU AI image-labeling rules require disclosure of AI-generated/edited images, and content controls can be circumvented.
Grok-Deepfake-Skandal führt zu Ermittlungen und App-Store-Spitzenplätzen
Der Artikel beleuchtet die KI Grok von xAI und Elon Musk, deren Funktion Grok Imagine die Erstellung sexualisierter Deepfakes von Frauen und Minderjährigen durch Bildbearbeitung ermöglichte. Dies löste massive regulatorische und juristische Prüfungen aus; unter anderem reichten Frankreich und Indien Beschwerden ein und forderten Erklärungen. Trotz der Kontroverse kletterte Grok in mehreren Regionen an die Spitze der App-Store-Charts, angetrieben durch Funktionsupdates. Medienberichte und Organisationen wie BBC, RAINN und das CCDH kritisierten die fehlenden Sicherheitsvorkehrungen scharf, wobei das CCDH Grok als den unsichersten Bildgenerator bezeichnete. Grok äußerte sich in einer vagen Entschuldigung zu den Schwachstellen der Schutzmechanismen, während Musk weitgehend unbeeindruckt blieb. Der Vorfall verdeutlicht die anhaltenden Spannungen zwischen rasanter KI-Produktentwicklung und unzureichender Governance bei der automatisierten Bildgenerierung.
X integriert Grok direkt in Algorithmus und plant massive Expansion
Nur Stunden nach der Einstellung von OpenAis Sora hat Elon Musk eine drastische Ausweitung der generativen KI auf X angekündigt. Er setzt verstärkt auf Grok Imagine und bewirbt ein kostenpflichtiges Grok-Abonnement. Nikita Bier, Head of Product bei X, kündigte an, dass die volle Leistung von Grok direkt in den Algorithmus von X integriert wird, und bezeichnete dies als die wichtigste Änderung in der Geschichte der Plattform. X verzeichnet bereits eine steigende Verweildauer der Nutzer. Dieser Schritt eröffnet neue Möglichkeiten für Content-Skalierung und Marketing, wirft jedoch auch massive Bedenken hinsichtlich des Missbrauchs auf. Im Zusammenhang mit Grok wurden bereits sexualisierte, nicht einvernehmliche Deepfakes generiert, was nach einem prominenten Deepfakediskurs in Deutschland auch die Politik auf den Plan gerufen hat. Deutsche Behörden arbeiten Berichten zufolge an Gesetzen zur Kriminalisierung pornografischer Deepfakes im Rahmen erweiterter Maßnahmen gegen digitale Gewalt.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.