Beobachtetes Signal · 31. Juli 2026 · Policy Update · Quelle: persoenlich.com News · Relevanz: 4/5 · Sentiment: Neutral
EU kündigt Vorgehen gegen Hugging Face wegen KI-Entkleidungs-Tools an
Die Europäische Kommission hat angekündigt, gegen die Plattform Hugging Face vorzugehen, nachdem die NGO AI Forensics enthüllt hatte, dass dort bildbearbeitende KI-Modelle gefördert werden, die unaufgefordert Nacktdarstellungen von Personen erzeugen können. Der EU-Digitalsprecher Thomas Regnier erklärte, die Kommission prüfe die Untersuchung und sei bereit, geeignete Maßnahmen zu ergreifen. Die französische Staatssekretärin für Kinder, Sarah El Haïry, forderte nach den Berichten ebenfalls ein sofortiges Eingreifen. Laut AI Forensics ermöglichen sieben von neun stark beworbenen Bildmodellen auf Hugging Face das sogenannte 'Entkleiden' von Menschen über einfache Text-Prompts. Der Vorfall fällt in eine Zeit, in der die EU Gesetze gegen nicht-einvernehmliche Deepfake-Nacktbilder verschärft und Teile des EU AI Act unmittelbar vor dem Inkrafttreten stehen, was den Behörden neue Durchsetzungsbefugnisse verleiht.
Die Ermittlungen der EU-Kommission und das bevorstehende Inkrafttreten scharfer Vorschriften des EU AI Act schaffen neue Regulierungsbefugnisse, die Anbieter generativer Bildmodelle wie Hugging Face unmittelbar betreffen und europaweite Compliance-Präzedenzfälle setzen.
Marktsignale zu Hugging Face in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Die EU-Kommission hat angekündigt, gegen die Plattform Hugging Face vorzugehen.
- Laut AI Forensics ermöglichen sieben von neun prominent beworbenen Bildbearbeitungsmodellen auf Hugging Face das Generieren von Nacktbildern ohne Einwilligung via Text-Prompts.
- EU-Digitalsprecher Thomas Regnier bestätigte, dass die Kommission die Untersuchung kennt und bereit ist, Maßnahmen zu ergreifen.
- Die französische Kinderschutzbeauftragte Sarah El Haïry forderte die EU-Kommission nach den Enthüllungen zum Handeln auf.
- Die EU hat Gesetze erlassen, die KI-Dienste zum unerlaubten 'Entkleiden' von Personen verbieten, wobei anstehende Bestimmungen des EU AI Act neue Durchsetzungsmacht verleihen.
Verknüpfte Unternehmen
1 verknüpfte Unternehmen“Die EU-Kommission hat sich am Donnerstag entschlossen gezeigt, gegen die Plattform Hugging Face vorzugehen....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
EU plant Verbot von Nudifier-Deepfake-Anwendungen
Das EU-Parlament hat für ein Verbot sogenannter Nudifier-Anwendungen gestimmt, die mithilfe von KI sexuell explizite Bilder oder intime Körperteile realer Personen ohne deren Zustimmung erzeugen oder manipulieren. Dieser Schritt ist eine Reaktion auf den jüngsten Grok-Skandal und die öffentliche Empörung über KI-generierte Nacktbilder, wie sie etwa in Deutschland durch den Fall von Collien Fernandes debattiert wurden. Unabhängig davon plant Bundesjustizministerin Stefanie Hubig einen nationalen Gesetzentwurf zur Kriminalisierung pornografischer Deepfakes, der Opfern die Möglichkeit von Account-Löschungen und eine kurzfristige IP-Adress-Speicherung zur Strafverfolgung bieten soll. Im Artikel zitierte Expertinnen warnen vor massiven psychologischen Schäden für die Betroffenen digitaler sexueller Gewalt.
EU beschließt Verbot von sexualisierten Deepfakes ab Dezember 2026
Vertreter der EU-Mitgliedstaaten und das Europäische Parlament haben eine vorläufige Einigung zur Änderung des EU AI Act erzielt, um KI-Anwendungen zur Erstellung sexualisierter Deepfakes, einschließlich Darstellungen von sexuellem Kindesmissbrauch, zu verbieten. Die provisorische Einigung bedarf noch der Bestätigung durch das Plenum des Parlaments und des Rates. Bei Annahme übernimmt das EU AI Office (KI-Amt der EU) die Durchsetzung ab dem 2. Dezember 2026. Zudem sieht die Einigung eine Staffelung weiterer KI-Vorgaben vor: Die Pflicht zur Kennzeichnung und Wasserzeichengenerierung für erstellte Bilder und Videos gilt ab Dezember 2026, während weitere Bestimmungen bis Dezember 2027 stufenweise eingeführt werden. Dieser Schritt folgt auf breite öffentliche Debatten über Chatbot-Vorfälle und nationale Diskussionen zur digitalen sexuellen Gewalt, die Plattformen und KI-Anbieter vor neue Compliance-Herausforderungen stellen.
EU-Kommission ermittelt gegen X wegen Grok-Deepfakes
Die EU-Kommission hat im Rahmen des Digital Services Act ein formelles Verfahren gegen X eingeleitet. Auslöser sind Berichte über die Verbreitung von KI-generierten sexuellen Deepfakes, darunter Inhalte mit Frauen und Minderjährigen, die über das KI-Tool Grok erstellt wurden. Die Untersuchung prüft, ob Funktionen wie Grok Imagine und Edit Images über ausreichende Schutzvorkehrungen für EU-Nutzer verfügen und illegale Inhalte effektiv moderiert wurden. Zudem wurde eine Anordnung zur Aufbewahrung interner Dokumente bis Ende 2026 verlängert. Während die britische Regierung ebenfalls regulatorische Schritte prüft, zeigt der Fall den anhaltenden Konflikt zwischen rasanter KI-Produktinnovation und strengen Compliance-Anforderungen im europäischen Raum.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.