Beobachtetes Signal · 6. Juli 2026 · Technical Release · Quelle: t3n · Relevanz: 3/5 · Sentiment: Positiv
BSI und Fraunhofer entwickeln erklärbare KI zur Deepfake-Erkennung
Das Bundesamt für Informationstechnik (BSI) und das Fraunhofer-Institut IOSB haben ein hybrides Verfahren zur Deepfake-Erkennung namens „Real Or Render“ entwickelt. Die Methode rekonstruiert ein Eingangsbild mithilfe eines vortrainierten, diffusionsbasierten Bildgenerators, um eine mathematische Rauschkarte zu erzeugen. Ein Klassifikator berechnet daraufhin einen hybriden Rekonstruktionsfehler, um festzustellen, ob eine Manipulation vorliegt. Das System wurde mit rund 120.000 Bildern aus 18 Generatoren trainiert und erzielt eine Erkennungsleistung von 85 bis 91 Prozent. Zudem generiert „Real Or Render“ sogenannte Explainability-Heatmaps, die manipulierte Bildbereiche wie Gesichter, Haare oder Hintergründe visuell hervorheben. Das System läuft beim BSI bereits als technischer Demonstrator und bietet signifikantes Potenzial für Content-Verifizierung, Brand Safety und Moderations-Workflows, auch wenn es sich aktuell um eine Forschungsanwendung und keinen branchenweiten Standard handelt.
Die Entwicklung einer praxisnahen und erklärbaren Deepfake-Erkennung durch das BSI und Fraunhofer bietet wertvolle Ansätze für verbesserte Content-Verifizierung, Brand Safety und Moderationsprozesse, agiert derzeit jedoch als technischer Demonstrator statt als plattformübergreifender Industriestandard.
Marktsignale zu t3n in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Das BSI und das Fraunhofer IOSB entwickelten die Deepfake-Erkennungsmethode „Real Or Render“.
- Das System rekonstruiert Bilder über ein Diffusionsmodell und errechnet einen hybriden Rekonstruktionsfehler.
- Das Training basierte auf circa 120.000 Bildern aus 18 unterschiedlichen Bildgeneratoren.
- Die Erkennungsleistung liegt bei rund 85 bis 91 Prozent inklusive visueller Heatmaps zur Erklärung.
- Das BSI betreibt „Real Or Render“ bereits als funktionsfähigen Demonstrator.
Verknüpfte Unternehmen
2 verknüpfte Unternehmen“The article reporting on the research was published on the German technology news site t3n.de....”
“The webpage includes external content from TargetVideo GmbH that supplements the editorial offering....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Deepfake-Betrug verdreifacht sich auf 1,1 Mrd. USD; Forensik muss sich wandeln
Eine Analyse der DEV Community zeigt, dass sich die Verluste durch Deepfake-Betrug in den USA auf 1,1 Milliarden US-Dollar verdreifacht haben. Der Autor argumentiert, dass sich die Bedrohungslage grundlegend gewandelt hat: Kostengünstige generative Tools erzeugen in Minuten überzeugende Deepfakes für wenige Dollar, während Voice Spoofing bereits nach wenigen Sekunden Audio eine hohe Ähnlichkeit erreicht. Dies macht manuelle, pixelbasierte forensische Analysen unzureichend. Der Beitrag fordert einen Übergang zu vektorbasierter, automatisierter Analyse – insbesondere Gesichtsvergleich mittels euklidischer Abstände von Face-Embeddings – sowie Liveness Detection, temporale Batch-Analysen und APIs auf Enterprise-Niveau, die gerichtsfeste Berichte liefern. Der Anstieg ist ein klares Signal für Entwickler von Authentifizierungs-, Biometrie- und Untersuchungstools, datenintegrierte Ansätze und skalierbare Verifikations-Stacks zu priorisieren.
Red Points lanciert Deepfake-Schutzdienst für Social-Media-Plattformen
Red Points hat mit Deepfake Protection einen neuen Service zur Erkennung und Entfernung von betrügerischen, KI-generierten Videos vorgestellt, die prominente Persönlichkeiten imitieren. Die Lösung kombiniert Honeypot-Discovery-Agenten, Computer Vision mittels Gesichtserkennung, Stimm- und Verhaltensanalyse, NLP sowie Risikomodelle, um Identitätsdiebstahl bei bezahlten und organischen Videoinhalten auf führenden Social-Media-Plattformen aufzudecken. Laut Red Points ist die Technologie in das breitere Brand-Protection-Portfolio integriert, wird monatlich mit Milliarden von Datenpunkten trainiert und zielt darauf ab, Fehlalarme zu minimieren und automatisierte Löschungen zu ermöglichen. Das Unternehmen verweist auf ein wachsendes Spektrum an Zielpersonen – von Politikern und Prominenten über Führungskräfte bis hin zu Influencern – und betont Skalierbarkeit sowie kontextbezogene Validierung als Kernherausforderungen, die das Produkt adressiert. Der Dienst stärkt die Maßnahmen zur Absicherung der Brand Safety und zur Betrugsbekämpfung im Video-Advertising.
Neues Forensic-Tool spürt Quelle von KI-Videos auf
Die EU führt am 2. August 2026 eine Kennzeichnungspflicht für kommerziell genutzte, vollständig oder teilweise durch generative KI erstellte Videos ein. Parallel dazu haben Forscher der University of California ein forensisches Tool namens SAGA (Source Attribution of Generative AI) entwickelt, das Deepfakes erkennt, deren Echtheit überprüft und das verwendete generative KI-Modell identifiziert. Das Team veröffentlichte ein entsprechendes Whitepaper über die Computer Vision Foundation (CVPR 2026). SAGA basiert auf einem Foundation Model, um auch bei Abweichungen von den Trainingsdaten robust zu bleiben, und nutzt subtile temporale Signaturen über einzelne Frames hinweg, um das erzeugende Modell zu bestimmen. Rohit Kundu, Research Intern bei YouTube und Doktorand an der UC Riverside, betont die Notwendigkeit, neben der reinen Fake-Erkennung auch die genauen Quellen zu identifizieren. Diese Entwicklungen sind von hoher Relevanz für das gesamte AdTech- und Media-Ökosystem.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.