Beobachtetes Signal · 6. Aug. 2026 · Security Incident · Quelle: t3n · Relevanz: 3/5 · Sentiment: Negativ
Data Poisoning gefährdet zunehmend KI-Systeme und LLMs
Der Artikel beschreibt Data Poisoning – die gezielte Einspeisung manipulierter oder fehlerhafter Daten – als wachsende Bedrohung für die IT-Sicherheit von KI-Systemen. Ein von der KI-Sicherheitsfirma Aurascape Ende 2025 aufgedeckter Vorfall zeigte, dass manipulierte Metadaten Chat- und Suchassistenten wie Perplexity dazu brachten, bei Service-Hotline-Anfragen für Emirates und British Airways betrügerische Callcenter-Kontakte auszuspielen. Experten warnen, dass das Vergiften von Trainingsdaten oder Metadaten Modellausgaben korrumpieren, Recommender-Systeme verzerren, Bias erzeugen oder unsicheres Verhalten triggern kann. Die Erkennung und der Nachweis solcher Angriffe sind technisch anspruchsvoll, dokumentierte Vorfälle bislang selten. Professor Stephan Günnemann von der TU Munich betont jedoch die politischen und wirtschaftlichen Motive hinter diesen Angriffen. Dies unterstreicht die Dringlichkeit für Unternehmen, Daten- und Metadaten-Pipelines abzusichern.
Data Poisoning untergräbt die Zuverlässigkeit und Sicherheit von LLMs und Conversational Interfaces, was ein erhebliches Risiko für das Vertrauen in digitale Produkte, die Content-Integrität sowie nachgelagerte Anwendungen wie Search, Recommendation und Kundensupport darstellt.
Marktsignale zu Perplexity in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Data Poisoning bezeichnet die gezielte Verbreitung manipulierter oder fehlerhafter Daten zur Beeinflussung von KI-Modellen.
- Die KI-Sicherheitsfirma Aurascape deckte Ende 2025 einen konkreten Data-Poisoning-Fall auf.
- Manipulierte Metadaten veranlassten Chat- und Suchassistenten (u. a. Perplexity), bei Fluggesellschaften-Anfragen betrügerische Callcenter-Kontakte zu liefern.
- Das Vergiften von Trainingsdaten oder Metadaten kann Modellausgaben korrumpieren, Recommender-Systeme verzerren und unsichere Aktionen auslösen.
- Der Nachweis ist technisch schwierig; Stephan Günnemann (TU Munich) warnt vor mächtigen wirtschaftlichen und politischen Motiven.
Verknüpfte Unternehmen
3 verknüpfte Unternehmen“When a user asked the AI search engine Perplexity for the service hotline of Emirates Airlines or the phone number to make a reservation wit...”
“This text appears in issue 6/2026 of MIT Technology Review....”
“The article was published on the technology publisher t3n (t3n.de)....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
KI-Vergiftung gefährdet Markenruhe in LLM-basierten Suchergebnissen
Marketer richten ihr Augenmerk verstärkt darauf, wie Large Language Models und KI-generierte Suchantworten Marken darstellen. Der Artikel beleuchtet die sogenannte „AI Poisoning“ – koordinierte oder manipulative Inhalte wie Fake-Bewertungen, Forenbeiträge und Sponsored Pieces, die gezielt in LLMs eingespeist werden, um negative oder irreführende Aussagen über Wettbewerber zu erzeugen. Eine Studie zeigt, dass nur wenige Verbraucher Fakten in KI-Antworten überprüfen, während eine Skyword-Umfrage belegt, dass Verbraucher Marken misstrauen, wenn KI-Antworten den Markenversprechen widersprechen. Branchenexperten empfehlen defensive Maßnahmen wie die Optimierung der Content-Konsistenz, die Veröffentlichung von Produkt- und Service-Guides (die laut ZeroClick Labs bis zu 28 Prozent der KI-Suchzitate ausmachen) sowie den Einsatz von Tools zur Überwachung der KI-Sichtbarkeit wie Profound und Peec. Einige Experten bleiben jedoch skeptisch, wie realistisch flächendeckende Manipulationen angesichts der Aggregation zahlreicher Quellen und bestehender digitaler Markenanbiete tatsächlich sind.
KI erhöht Cyberangriffsrisiken und Supply-Chain-Bedrohungen drastisch
Der Artikel analysiert, wie Künstliche Intelligenz das Cybersicherheitsrisiko auf zweifache Weise verschärft: Erstens vergrößert die Integration von KI in Plattformen – durch neue Daten-Pipelines, APIs, Drittanbieter-Modelle und Echtzeit-Datenflüsse – die Angriffsfläche. Zweitens dient KI Angreifern als skalierbares Werkzeug für Phishing, Voice Cloning und Deepfakes. Exemplarisch genannt werden ein Vorfall im Juni 2026, bei dem Angreifer KI-gestützte Account-Wiederherstellungsprozesse von Meta manipulierten, sowie ein Supply-Chain-Angriff vom 11. Mai 2026 auf 42 @tanstack/* npm-Pakete, der Anmeldedaten abgreifen konnte und downstream unter anderem Grafana Labs, OpenAI und Vercel betraf. Zudem generierte die von Microsoft überwachte Plattform Tycoon2FA monatlich Dutzende Millionen Phishing-Emails. Entwickler werden aufgefordert, Abhängigkeiten streng zu prüfen, CI/CD-Pipelines abzusichern und KI-Integrationen wie kritische Drittanbieter-Komponenten zu behandeln.
KI-Vergiftung: Betrüger nutzen ChatGPT für gefälschte Online-Shops
Britische Verbraucherschutzorganisationen und Betrugserkennungsdienste haben Fälle aufgedeckt, in denen Kriminelle große Sprachmodelle und konversationelle Suchergebnisse manipulieren, um betrügerische E-Commerce-Websites zu platzieren, die echte Händler imitieren. Unter anderem wurden in ChatGPT-Suchergebnissen gefälschte Shops von Russell & Bromley sowie Dunelm identifiziert, die mit massiven Rabatten locken, Vorauszahlungen einfordern, keine Ware liefern und sensible Zahlungsdaten abgreifen. OpenAI hat die betroffenen betrügerischen Websites inzwischen aus dem Index von ChatGPT entfernt. Expertinnen und Experten bezeichnen diese Taktik als 'AI Poisoning', bei der Angreifer manipulierte Inhalte in das Datenökosystem von Large Language Models einspeisen. Sie warnen, dass sich diese Methode – verstärkt durch agentischen Handel und Paid-Media-Signale – voraussichtlich auch auf den deutschen Markt ausweiten wird, was die Integrität von KI-gestützten Commerce- und Discovery-Kanälen massiv gefährdet.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.