Beobachtetes Signal · 18. Juli 2026 · Lawsuit · Quelle: t3n · Relevanz: 3/5 · Sentiment: Negativ
xAI verklagt Nutzer wegen Erstellung sexualisierender Grok-Deepfakes
Elon Musks AI-Startup xAI hat vor einem US-Bundesgericht in Texas Klage gegen den Nutzer Terry Harwood eingereicht. Dem Beklagten wird vorgeworfen, den Chatbot Grok missbraucht zu haben, um Bilder hochzuladen und sexuell explizite Deepfakes – darunter auch Material mit Darstellungen von Minderjährigen – zu generieren. Die um den Jahreswechsel in Grok integrierte Bildgenerierungsfunktion führte zu massivem Missbrauch: Eine Untersuchung des Center for Countering Digital Hate (CCDH) ergab, dass innerhalb von elf Tagen rund drei Millionen sexualisierte Bilder erstellt wurden, von denen schätzungsweise 23.000 Minderjährige zeigten. xAI hat die Funktion nach eigenen Angaben deaktiviert, fordert Schadensersatz in unbezifferter Höhe sowie eine dauerhafte Nutzungssperre für Harwood und verweist auf Kontosperrungen sowie Meldungen an Behörden bei Regelverstößen. Harwood wurde Berichten zufolge im Februar 2026 im Zusammenhang mit Vorwürfen zur sexuellen Ausbeutung von Minderjährigen festgenommen.
Ein relevanter Präzedenzfall für Plattformatsicherheit und rechtliche Haftungsfragen beim Missbrauch generativer AI in sozialen Netzwerken. Dies beeinflusst Content Moderation, das Vertrauen in AI-Chatbots sowie regulatorische Prüfverfahren.
Marktsignale zu X in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- xAI hat vor einem Bundesgericht in Texas Klage gegen den Nutzer Terry Harwood eingereicht, dem der Missbrauch von Grok zur Erstellung sexualisierender Deepfakes vorgeworfen wird.
- Das Center for Countering Digital Hate (CCDH) berichtete, dass Grok innerhalb von elf Tagen nach Einführung einer Bildgenerierungsfunktion rund drei Millionen sexualisierte Bilder erzeugte.
- Etwa 23.000 der generierten Bilder zeigten Berichten zufolge Minderjährige, während viele weitere Aufnahmen Frauen und Personen des öffentlichen Lebens zielgerichtet trafen.
- xAI hat die Bildgenerierungsfunktion in Grok deaktiviert und fordert in der Klageschrift unbezifferten Schadensersatz sowie eine dauerhafte Unterlassungsverfügung.
- Terry Harwood wurde Berichten zufolge im Februar 2026 aufgrund von Vorwürfen im Zusammenhang mit der sexuellen Ausbeutung von Minderjährigen festgenommen.
Verknüpfte Unternehmen
6 verknüpfte Unternehmen“Grok is integrated into the social network X and had caused a deepfake scandal after a new feature was added....”
“The Guardian reported that xAI's case against the user is one of the company's first lawsuits in this context and provided additional detail...”
“The article was published by t3n and authored by Noëlle Bölling....”
“External content from TargetVideo GmbH is mentioned as supplementing t3n's editorial offering on the page....”
“A photo credit in the article notes: 'Photo: Shutterstock / miss.cabul.'...”
“Grok is integrated into the social network X and had caused a deepfake scandal after a new feature was added....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
xAI wegen KI-generierter sexueller Aufnahmen von Minderjährigen verklagt
Drei anonyme Klägerinnen haben beim US-Bezirksgericht für den Norbezirk von Kalifornien eine Sammelklage gegen Elon Musks xAI eingereicht. Sie werfen dem Unternehmen vor, dass die Bildmodelle von Grok sexuell explizite Darstellungen identifizierbarer Minderjähriger produziert haben. Laut der Klageschrift versäumte es xAI, Sicherheitsvorkehrungen zu implementieren, die von anderen Labs im Bereich Deep Learning zur Verhinderung solcher Inhalte genutzt werden. Die Betroffenen berichten, dass manipulierte Fotos aus Schuljahrbüchern als Nacktbilder im Netz kursierten und von Ermittlern entdeckt wurden; zwei Klägerinnen sind nach wie vor minderjährig. Die Klage richtet sich gegen x.AI Corp. sowie x.AI LLC und fordert zivilrechtliche Strafen nach Gesetzen zum Schutz ausgebeuteter Kinder. Dabei wird argumentiert, dass auch Drittanbieter-Apps, die Grok nutzten, auf xAI-Code und -Server angewiesen waren, weshalb das Unternehmen die Verantwortung trägt.
Niederländisches Gericht verbietet xAI und Grok Generierung von KI-Nacktbildern
Ein Amsterdamer Bezirksgericht hat Elon Musks xAI und dessen Chatbot Grok untersagt, nicht einvernehmliche sexuelle KI-Inhalte – darunter auch Darstellungen von Minderjährigen – zu generieren und zu verbreiten. Zudem wurde der Social-Media-Plattform X untersagt, Grok in den Niederlanden anzubieten. Bei Zuwiderhandlung droht ein Zwangsgeld von 100.000 Euro pro Tag bis zu einer Obergrenze von 10 Millionen Euro; zudem muss xAI die Verfahrenskosten der klagenden Non-Profit-Organisation Offlimits in Höhe von 2,2 Millionen Euro binnen 14 Tagen tragen. Dem Urteil zufolge waren die Schutzmaßnahmen von xAI unzureichend. Das Center for Countering Digital Hate schätzte, dass Grok binnen kurzer Zeit Millionen sexualisierte Bilder erzeugt hat. Dieser Rechtssprechung folgen zunehmender regulatorischer Druck, Ermittlungen und Klagen in Europa, Großbritannien und den USA sowie landesspezifische Zugangsblockaden.
Woman alleges Grok made explicit images from childhood photo
A woman identified as Jane Doe 4 has joined a lawsuit brought by three Tennessee teenagers against Elon Musk’s xAI, alleging the company’s chatbot Grok was used to transform a photo taken when she was 11 into more than 7,000 explicit images. The woman said her stepfather used Grok to manipulate the image and was found dead by suicide two days after law enforcement uncovered the material. The plaintiffs accuse xAI (now part of SpaceX) of failing to take basic precautions to prevent Grok from being misused to create sexualized images of real people, and are seeking class-action status. TechCrunch contacted xAI for comment; the report cites coverage in The Washington Post and notes earlier incidents of Grok-generated sexualized images appearing on X.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.