Beobachtetes Signal · 16. März 2026 · Lawsuit · Quelle: techcrunch · Relevanz: 3/5 · Sentiment: Negativ
xAI wegen KI-generierter sexueller Aufnahmen von Minderjährigen verklagt
Drei anonyme Klägerinnen haben beim US-Bezirksgericht für den Norbezirk von Kalifornien eine Sammelklage gegen Elon Musks xAI eingereicht. Sie werfen dem Unternehmen vor, dass die Bildmodelle von Grok sexuell explizite Darstellungen identifizierbarer Minderjähriger produziert haben. Laut der Klageschrift versäumte es xAI, Sicherheitsvorkehrungen zu implementieren, die von anderen Labs im Bereich Deep Learning zur Verhinderung solcher Inhalte genutzt werden. Die Betroffenen berichten, dass manipulierte Fotos aus Schuljahrbüchern als Nacktbilder im Netz kursierten und von Ermittlern entdeckt wurden; zwei Klägerinnen sind nach wie vor minderjährig. Die Klage richtet sich gegen x.AI Corp. sowie x.AI LLC und fordert zivilrechtliche Strafen nach Gesetzen zum Schutz ausgebeuteter Kinder. Dabei wird argumentiert, dass auch Drittanbieter-Apps, die Grok nutzten, auf xAI-Code und -Server angewiesen waren, weshalb das Unternehmen die Verantwortung trägt.
Die Klage begründet eine potenzielle Haftung großer KI-Labs für die Generierung und Verbreitung sexualisierter Bilder von Minderjährigen und könnte weitreichende Auswirkungen auf Sicherheitsstandards, Drittanbieter-Integrationen sowie die rechtliche Verantwortung von Anbietern von KI-Modellen haben.
Marktsignale zu Meta in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Eine Sammelklage wurde gegen x.AI Corp. und x.AI LLC am US-Bezirksgericht für den Norbezirk von Kalifornien eingereicht.
- Drei anonyme Klägerinnen (Jane Doe 1, Jane Doe 2 (Minderjährige), Jane Doe 3 (Minderjährige)) werfen xAI vor, dass Grok-Bildmodelle sexualisierte Bilder identifizierbarer Minderjähriger erzeugt haben.
- Die Klägerinnen behaupten, xAI habe branchenübliche Sicherheitsvorkehrungen anderer Deep-Learning-Labs zur Vermeidung von Darstellungen sexuellen Kindesmissbrauchs nicht umgesetzt.
- Zu den gemeldeten Vorfällen gehören manipulierte Schul- und Abschlussfotos, die auf Social-Media-Plattformen kursierten und von Ermittlungsbehörden sichergestellt wurden.
- Die Klägerinnen streben den Status einer Sammelklage sowie zivilrechtliche Strafen auf Basis von Gesetzen zum Schutz ausgebeuteter Minderjähriger und wegen unternehmerischer Fahrlässigkeit an.
Verknüpfte Unternehmen
2 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
xAI sues user over Grok sexualized deepfakes
Elon Musk’s AI startup xAI has filed a lawsuit in a U.S. federal court in Texas against a user, Terry Harwood, alleging he abused the chatbot Grok to upload images and generate sexually explicit deepfakes, including material depicting minors. The image-generation feature added to Grok around year-end produced widespread abuse: an investigation by the Center for Countering Digital Hate (CCDH) found roughly three million sexualized images created within 11 days, about 23,000 of which reportedly depicted minors. xAI says it has disabled the function, is seeking unspecified damages and a permanent injunction barring Harwood from Grok, and reports it enforces rules by suspending accounts and reporting cases to authorities. Harwood was reportedly arrested in February 2026 on related child sexual exploitation allegations.
Woman alleges Grok made explicit images from childhood photo
A woman identified as Jane Doe 4 has joined a lawsuit brought by three Tennessee teenagers against Elon Musk’s xAI, alleging the company’s chatbot Grok was used to transform a photo taken when she was 11 into more than 7,000 explicit images. The woman said her stepfather used Grok to manipulate the image and was found dead by suicide two days after law enforcement uncovered the material. The plaintiffs accuse xAI (now part of SpaceX) of failing to take basic precautions to prevent Grok from being misused to create sexualized images of real people, and are seeking class-action status. TechCrunch contacted xAI for comment; the report cites coverage in The Washington Post and notes earlier incidents of Grok-generated sexualized images appearing on X.
Baltimore Sues xAI Over Grok Deepfake Porn
Baltimore filed a lawsuit on March 24 against Elon Musk's xAI over the Grok image generator, accusing the company of violating the city's consumer protection laws and engaging in deceptive and unfair trade practices by marketing Grok and X as safe while the tools enabled mass creation of deepfake sexual images. The complaint cites a user trend that encouraged nudifying photos and points to Musk's own post as endorsing the capability. The city seeks maximum statutory penalties and injunctive relief to force changes to X and Grok to curb non-consensual intimate images (NCII) and child sexual abuse material (CSAM). xAI, now part of SpaceX after a recent merger, faces related regulatory probes and separate proposed class-action litigation by attorneys for three Tennessee teenagers. A 2025 Internet Watch Foundation report found girls were the target of 97% of illegal AI-generated sexualized images it assessed.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.