Beobachtetes Signal · 27. März 2026 · Legal Ruling · Quelle: CNBC Technology · Relevanz: 4/5 · Sentiment: Negativ
Niederländisches Gericht verbietet xAI und Grok Generierung von KI-Nacktbildern
Ein Amsterdamer Bezirksgericht hat Elon Musks xAI und dessen Chatbot Grok untersagt, nicht einvernehmliche sexuelle KI-Inhalte – darunter auch Darstellungen von Minderjährigen – zu generieren und zu verbreiten. Zudem wurde der Social-Media-Plattform X untersagt, Grok in den Niederlanden anzubieten. Bei Zuwiderhandlung droht ein Zwangsgeld von 100.000 Euro pro Tag bis zu einer Obergrenze von 10 Millionen Euro; zudem muss xAI die Verfahrenskosten der klagenden Non-Profit-Organisation Offlimits in Höhe von 2,2 Millionen Euro binnen 14 Tagen tragen. Dem Urteil zufolge waren die Schutzmaßnahmen von xAI unzureichend. Das Center for Countering Digital Hate schätzte, dass Grok binnen kurzer Zeit Millionen sexualisierte Bilder erzeugt hat. Dieser Rechtssprechung folgen zunehmender regulatorischer Druck, Ermittlungen und Klagen in Europa, Großbritannien und den USA sowie landesspezifische Zugangsblockaden.
Eine gerichtliche Verfügung gegen einen führenden KI-Chatbot und Vertriebsbeschränkungen auf einer großen Social-Media-Plattform schaffen einen gewichtigen regulatorischen Präzedenzfall in Europa. Dies verstärkt im Einklang mit dem DSA die weltweiten Compliance- und Moderationspflichten für generative KI und Plattformbetreiber.
Marktsignale zu Exfinity Ventures in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Das Bezirksgericht Amsterdam ordnete an, dass xAI die Generierung und Verbreitung nicht einvernehmlicher sexueller Bilder via Grok stoppen muss.
- Bei Nichteinhaltung droht eine Strafe von 100.000 Euro pro Tag bis zu einem Maximum von 10 Millionen Euro.
- xAI wurde zur Zahlung der Anwaltskosten von Offlimits in Höhe von 2,2 Millionen Euro innerhalb von 14 Tagen verurteilt.
- Die Verfügung untersagt der Plattform X das Bereitstellen von Grok als Funktion in den Niederlanden.
- Laut dem Center for Countering Digital Hate erzeugte Grok Millionen sexualisierte Bilder, darunter zehntausende Darstellungen von Kindern.
Verknüpfte Unternehmen
1 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
xAI sues user over Grok sexualized deepfakes
Elon Musk’s AI startup xAI has filed a lawsuit in a U.S. federal court in Texas against a user, Terry Harwood, alleging he abused the chatbot Grok to upload images and generate sexually explicit deepfakes, including material depicting minors. The image-generation feature added to Grok around year-end produced widespread abuse: an investigation by the Center for Countering Digital Hate (CCDH) found roughly three million sexualized images created within 11 days, about 23,000 of which reportedly depicted minors. xAI says it has disabled the function, is seeking unspecified damages and a permanent injunction barring Harwood from Grok, and reports it enforces rules by suspending accounts and reporting cases to authorities. Harwood was reportedly arrested in February 2026 on related child sexual exploitation allegations.
xAI wegen KI-generierter sexueller Aufnahmen von Minderjährigen verklagt
Drei anonyme Klägerinnen haben beim US-Bezirksgericht für den Norbezirk von Kalifornien eine Sammelklage gegen Elon Musks xAI eingereicht. Sie werfen dem Unternehmen vor, dass die Bildmodelle von Grok sexuell explizite Darstellungen identifizierbarer Minderjähriger produziert haben. Laut der Klageschrift versäumte es xAI, Sicherheitsvorkehrungen zu implementieren, die von anderen Labs im Bereich Deep Learning zur Verhinderung solcher Inhalte genutzt werden. Die Betroffenen berichten, dass manipulierte Fotos aus Schuljahrbüchern als Nacktbilder im Netz kursierten und von Ermittlern entdeckt wurden; zwei Klägerinnen sind nach wie vor minderjährig. Die Klage richtet sich gegen x.AI Corp. sowie x.AI LLC und fordert zivilrechtliche Strafen nach Gesetzen zum Schutz ausgebeuteter Kinder. Dabei wird argumentiert, dass auch Drittanbieter-Apps, die Grok nutzten, auf xAI-Code und -Server angewiesen waren, weshalb das Unternehmen die Verantwortung trägt.
Woman alleges Grok made explicit images from childhood photo
A woman identified as Jane Doe 4 has joined a lawsuit brought by three Tennessee teenagers against Elon Musk’s xAI, alleging the company’s chatbot Grok was used to transform a photo taken when she was 11 into more than 7,000 explicit images. The woman said her stepfather used Grok to manipulate the image and was found dead by suicide two days after law enforcement uncovered the material. The plaintiffs accuse xAI (now part of SpaceX) of failing to take basic precautions to prevent Grok from being misused to create sexualized images of real people, and are seeking class-action status. TechCrunch contacted xAI for comment; the report cites coverage in The Washington Post and notes earlier incidents of Grok-generated sexualized images appearing on X.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.