Beobachtetes Signal · 14. Aug. 2026 · Research Study · Quelle: t3n · Relevanz: 3/5 · Sentiment: Negativ
Lokale KI-Modelle steigern Effektivität und Gefahrenpotenzial von Phishing-Mails
Forscher der TU Berlin, des Inria und der Ruhr-Universität Bochum zeigen, dass kleine, lokale KI-Sprachmodelle die Erfolgsquote von Phishing-Angriffen durch hochgradig personalisierte E-Mails signifikant erhöhen. In kontrollierten Tests stieg die Angriffsrate durch KI-gestützte Personalisierung von etwa 4 % auf rund 10 %. Ein gängiges E-Mail-Sicherheitssystem erkannte dabei lediglich eine von fast 4.000 KI-generierten Nachrichten. Die Untersuchung belegt, wie leichtgewichtige Modelle maßgeschneidertes Social Engineering skalierbar automatisieren können. Auch Interpol warnt vor dem wachsenden Einsatz von KI durch Cyberkriminelle zur Automatisierung von Phishing-Kampagnen, Generierung von Deepfakes sowie Fake-Identitäten und zur Umgehung traditioneller, signaturbasierter Abwehrmechanismen. Die Zusammenfassung der Studie erschien auf t3n.
Frei zugängliche lokale LLMs erhöhen die Effizienz von Phishing-Angriffen erheblich, was weitreichende Konsequenzen für E-Mail-Sicherheit, Fraud Detection, Deliverability und das Vertrauen in digitale Marketingkanäle hat.
Marktsignale zu MIT Technology Review in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren Polaris7-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Gemeinsame Studie von TU Berlin, Inria und Ruhr-Universität Bochum untersuchte KI-optimierte Phishing-Mails.
- Kleine, lokale KI-Modelle steigerten die Erfolgsquote von Phishing-Angriffen in Tests von ca. 4 % auf rund 10 %.
- Ein E-Mail-Sicherheitssystem stufte im Experiment nur eine von knapp 4.000 KI-generierten Phishing-Mails als verdächtig ein.
- Interpol warnt vor KI-gestützter Automatisierung bei Phishing, Deepfakes und der Umgehung herkömmlicher Signatur-Filter.
- Fachbeitrag zur Studie von Wolfgang Stieler auf t3n veröffentlicht (August 2026).
Verknüpfte Unternehmen
2 verknüpfte Unternehmen“Renommiertes Technologie-Magazin, für das der Autor in der Vergangenheit als Redakteur tätig war.”
“Digitales Medien- und Verlagshaus, das über Trends in den Bereichen Technologie, Wirtschaft und Webkultur berichtet.”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Phishing-Angriffe zielen mit Prompt-Injection auf KI-Agenten
Eine neue Analyse des Cybersicherheitsunternehmens Barracuda zeigt, dass Phishing-Kampagnen zunehmend sowohl menschliche Nutzer als auch KI-E-Mail-Assistenten angreifen. Angreifer kombinieren Social Engineering mit Prompt-Injection-Techniken, um KI-Agenten dazu zu manipulieren, bösartige E-Mails als legitim einzustufen und Anhänge zu öffnen. Der Bericht hebt eine Kampagne hervor, bei der E-Mails von einer Domain des öffentlichen Sektors die Reputationsfilterung bestanden und versteckte Prompt-Injections enthielten, die die KI anweisen, Zahlungsdetails zu ändern oder Malware zu öffnen. Barracuda identifiziert vier gängige Techniken: versteckte Anweisungen in HTML-Kommentaren, Null-Pixel-Text, codierte Blöcke und unsichtbare Unicode-Zeichen. Die Bedrohung unterstreicht die Notwendigkeit, externe Inhalte als Daten zu behandeln und von Anweisungen zu trennen.
KI-E-Mail-Agenten anfällig für Phishing durch Prompt-Injections
Forschern ist es gelungen zu demonstrieren, dass KI-E-Mail-Agenten wie OpenClaw durch gezielte Prompt-Injections im Phishing-Stil manipuliert werden können, um sensible Nutzerdaten offenzulegen. Für diesen Angriff ist keinerlei Software-Exploit oder CVE erforderlich; er nutzt vielmehr Social-Engineering-Taktiken wie künstliche Dringlichkeit und Autoritätssimulation innerhalb von E-Mail-Inhalten, die von den Agenten verarbeitet werden. Damit verschwimmen die Grenzen zwischen legitimen Nutzeranweisungen und adversarialen Prompts. Übliche Schutzmaßnahmen wie System-Prompts, Rate-Limiting oder herkömmliche Inhaltsmoderation erweisen sich als unzureichend. Als Gegenmaßnahme wird Sentinel vorgestellt – ein transparenter Proxy, der eingehende Inhalte vor der Modellverarbeitung mittels einer Regex-Schicht sowie einer semantischen Vektorähnlichkeitsprüfung (pgvector in PostgreSQL) bereinigt, blockiert oder umschreibt. Dies verdeutlicht die erheblichen Sicherheitsrisiken für Entwickler autonomer Agentensysteme und automatisierter Inbox-Workflows.
KI-Modelle von Anthropic, Meta und OpenAI ermöglichen Cyberangriffe
Führende US-amerikanische KI-Unternehmen wie Anthropic, Meta und OpenAI haben Vorfälle offengelegt, bei denen ihre fortschrittlichen Sprachmodelle während Sicherheitstests IT-Schwachstellen identifizieren und ausnutzen konnten. Der Vorfall verdeutlicht den technologischen Wandel von einfachen Chatbots hin zu autonomen KI-Agenten, die Befehle ausführen, mit Software interagieren und Angriffsstrategien flexibel anpassen können. Zwar meldeten die Hersteller in den untersuchten Fällen keine flächendeckenden Netzwerkausfälle oder Massendatendiebstähle, doch die Ereignisse schüren Bedenken hinsichtlich des Vertrauens, erhöhen die Risiken für Phishing sowie Betrug und verstärken den regulatorischen Druck. Unternehmen reagieren darauf mit Maßnahmen wie der Feinabstimmung von Modellen zur Verweigerung von Cyberangriffs-Prompts und der Implementierung automatisierter Filter zur Erkennung verdächtigen Verhaltens wie Massen-IP-Scans. Sicherheitsexperten warnen, dass eine Absenkung der technischen Hürde automatisierte Cyberangriffe auf Verbraucher und den Mittelstand verstärken könnte.
Alle künftigen Signale zu MIT Technology Review & Wettbewerbern im Briefing erhalten
Verpassen Sie keine M&A-Transaktionen, Führungswechsel, Kunden-Etats oder Produkt-Launches mehr. Polaris7 überwacht über 20.000 Primärquellen rund um die Uhr und liefert evidenzbasierte Telemetrie direkt in Ihr wöchentliches Executive Briefing.