Beobachtetes Signal · 24. März 2026 · Lawsuit · Quelle: CNBC Technology · Relevanz: 4/5 · Sentiment: Negativ
Baltimore verklagt xAI wegen Deepfake-Pornografie durch Grok
Baltimore hat am 24. März Klage gegen Elon Musks xAI eingereicht. Dem Unternehmen wird vorgeworfen, gegen Verbraucherschutzgesetze verstoßen und unfaire sowie täuschende Geschäftspraktiken angewendet zu haben, indem Grok und X als sicher vermarktet wurden, während die Tools die massenhafte Erstellung sexueller Deepfakes ermöglichten. Die Klage verweist auf einen Trend zur Manipulation von Fotos und führt an, dass Musk selbst entsprechende Funktionen befürwortet habe. Die Stadt fordert maximale gesetzliche Strafen sowie gerichtliche Verfügungen, um Änderungen an X und Grok zur Eindämmung von nicht einvernehmlichen intimen Bildern und Darstellungen sexuellen Kindesmissbrauchs zu erzwingen. xAI, das nach einer Fusion nun zu SpaceX gehört, sieht sich bereits behördlichen Ermittlungen und einer separaten Sammelklage von Anwälten aus Tennessee ausgesetzt. Ein Bericht der Internet Watch Foundation von 2025 ergab, dass Mädchen 97 % der untersuchten illegalen KI-generierten sexualisierten Bilder ausmachten.
Rechtliche Schritte einer US-Großstadt gegen eine prominente Social- und KI-Plattform werfen gravierende Fragen zur Brand Safety, Content-Moderation und Plattformregulierung auf, die direkt Auswirkungen auf Advertiser, Publisher und die Governance von Plattformen haben.
MARKTSIGNALE
Marktsignale und strategische Veränderungen zu SpaceX verfolgen
Polaris7 verknüpft Pflichtmitteilungen, Primärquellen, Führungswechsel und M&A-Aktivitäten in strukturierten Dossiers. Richte deinen Polaris7-Workspace ein, um relevante Unternehmen in deinem Executive Briefing zu beobachten.
- Verifizierte Primärquellen
- Automatisierte Briefings
- Sofortiges Watchlist-Setup
Wichtigste Kernpunkte & Evidenz
- Der Bürgermeister und der Stadtrat von Baltimore reichten am 24. März Klage gegen Elon Musks xAI wegen Verstößen gegen den Verbraucherschutz ein.
- Die Klage fordert maximale gesetzliche Strafen und gerichtliche Verfügungen, um Maßnahmen gegen nicht einvernehmliche intime Bilder und Missbrauchsmaterial auf X und Grok zu erzwingen.
- Die Klageschrift beruft sich auf einen viralen Trend zur Erstellung entkleideter Bilder über Grok und verweist auf einen von Musk geteilten Beitrag als angebliche Promotion dieser Funktion.
- xAI ist nach einer Fusion Teil von SpaceX und steht in mehreren Ländern wegen der Erstellung sexueller Deepfakes unter behördlicher Beobachtung.
- Eine separate Sammelklage betroffener Teenager sowie ein Bericht der Internet Watch Foundation unterstreichen die massiven Risiken von KI-generierten sexualisierten Bildern, insbesondere für minderjährige Mädchen.
Verknüpfte Unternehmen
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
xAI wegen KI-generierter sexueller Aufnahmen von Minderjährigen verklagt
Drei anonyme Klägerinnen haben beim US-Bezirksgericht für den Norbezirk von Kalifornien eine Sammelklage gegen Elon Musks xAI eingereicht. Sie werfen dem Unternehmen vor, dass die Bildmodelle von Grok sexuell explizite Darstellungen identifizierbarer Minderjähriger produziert haben. Laut der Klageschrift versäumte es xAI, Sicherheitsvorkehrungen zu implementieren, die von anderen Labs im Bereich Deep Learning zur Verhinderung solcher Inhalte genutzt werden. Die Betroffenen berichten, dass manipulierte Fotos aus Schuljahrbüchern als Nacktbilder im Netz kursierten und von Ermittlern entdeckt wurden; zwei Klägerinnen sind nach wie vor minderjährig. Die Klage richtet sich gegen x.AI Corp. sowie x.AI LLC und fordert zivilrechtliche Strafen nach Gesetzen zum Schutz ausgebeuteter Kinder. Dabei wird argumentiert, dass auch Drittanbieter-Apps, die Grok nutzten, auf xAI-Code und -Server angewiesen waren, weshalb das Unternehmen die Verantwortung trägt.
Frau wirft xAI vor, Grok für Missbrauch von Kindheitsfotos genutzt zu haben
Eine als Jane Doe 4 identifizierte Frau hat sich einer Klage von drei Teenagern aus Tennessee gegen Elon Musks xAI angeschlossen. Sie wirft dem Unternehmen vor, dass der Chatbot Grok ein Foto aus ihrer Kindheit in Tausende explizite Bilder verwandelt habe. Der Stiefvater der Klägerin soll das Tool für die Manipulation missbraucht haben und beging Suizid, nachdem die Behörden das Material sicherstellten. Die Klage wirft xAI – das mittlerweile zu SpaceX gehört – vor, elementare Sicherheitsvorkehrungen gegen die Erstellung sexualisierter Darstellungen realer Personen unterlassen zu haben, und strebt den Status einer Sammelklage an. Berichten zufolge gab es bereits in der Vergangenheit Vorfälle mit Grok-generierten Inhalten auf X, was die regulatorischen Risiken für generative KI-Plattformen und deren Content-Moderation massiv erhöht.
xAI verklagt Minnesota wegen Verbot von KI-Nudify-Anwendungen
Das von Elon Musk geführte Unternehmen xAI hat vor einem Bundesgericht Klage gegen Minnesotas Generalstaatsanwalt Keith Ellison eingereicht, um das Gesetz HF 1606 anzufechten. Das Gesetz verbietet Software, die mithilfe von KI Nacktbilder aus Aufnahmen bekleideter Personen generiert, und sieht Strafen von bis zu 500.000 US-Dollar pro generiertem Bild vor. Das am 1. August 2026 in Kraft tretende Gesetz soll gegen nicht einvernehmliche sexualisierte Darstellungen vorgehen. xAI argumentiert, das Gesetz sei eine verfassungswidrige und übermäßige Einschränkung der Meinungsfreiheit sowie der visuellen Expression. Plattformen drohten dadurch Milliardenstrafen. Während die Behörden das Gesetz verteidigen, sieht sich xAI zudem mit einer Sammelklage wegen angeblicher CSAM-Inhalte konfrontiert. Das Unternehmen kündigte an, Grok Imagine für Nutzer in Minnesota zu deaktivieren, falls keine einstweilige Verfügung erlassen wird.
WATCHLIST & BRIEFINGS
Künftige Signale zu SpaceX & Wettbewerbern im Briefing erhalten
Behalte relevante M&A-Transaktionen, Führungswechsel, Kunden-Etats und Produkt-Launches im Blick. Polaris7 verknüpft Primärquellen, Pflichtmitteilungen und Fachmedien direkt in deinem Executive Briefing.
- Regelmäßige Primärquellen-Prüfung
- Strukturierte Watchlist-Briefings
- Kontext wird übernommen
Marktsignale beobachten
Verfolge betroffene Unternehmen in Polaris7 mit regelmäßiger Quellenprüfung und strukturierten Watchlist-Briefings.
SpaceX beobachten
Verfolge betroffene Unternehmen in Polaris7 mit regelmäßiger Quellenprüfung und strukturierten Watchlist-Briefings.
