Beobachtetes Signal · 9. Apr. 2026 · Technical Release · Quelle: DEV Community · Relevanz: 2/5 · Sentiment: Positiv
RedSOC: Adversarial Benchmark für LLM-gestützte SOC-Umgebungen
RedSOC ist ein Open-Source-Evaluierungsframework zur Analyse adversarialer Angriffe auf Security Operations Centers (SOCs), die LLMs und RAG-Pipelines integrieren. Es implementiert drei Angriffsklassen: Korpus-Poisoning, direkte Prompt-Injection sowie indirekte Prompt-Injection. Zudem verfügt es über eine Detektionsschicht, die semantische Anomalie-Scorings, Provenance-Tracking und Konsistenzprüfungen parallel ausführt, ohne Einblicke in Modellinterna zu benötigen. In einem Benchmark mit 15 Szenarien (unter Verwendung von Llama 3.2 via Ollama) verzeichnete RedSOC Angriffserfolgsraten von 80 Prozent beim Korpus-Poisoning, 60 Prozent bei direkten Injections und 100 Prozent bei indirekten Injections. Gleichzeitig erzielte die Detektionsschicht in allen Szenarien eine Erkennungsrate von 100 Prozent. Der Quellcode ist auf GitHub verfügbar, ein begleitendes Research-Paper ist auf arXiv in Vorbereitung.
Bietet ein Open-Source-Benchmark sowie effektive Detektionstechniken gegen Angriffe auf LLM- und RAG-Systeme. Dies ist besonders für Organisationen relevant, die konversationelle KI einsetzen, hat jedoch keine unmittelbar disruptiven Auswirkungen auf das Kerngeschäft von AdTech oder MarTech.
Marktsignale zu Benchmark in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- RedSOC ist ein Open-Source-Evaluierungsframework für LLM-integrierte SOC-Umgebungen.
- Das System implementiert Corpus Poisoning (PoisonedRAG), direkte Prompt-Injection und indirekte Prompt-Injection.
- Die Detektionsschicht kombiniert semantisches Anomalie-Scoring, Provenance-Tracking und Konsistenzprüfungen ohne Modellinterna.
- Benchmarks mit 15 lokalen Szenarien (Llama 3.2 via Ollama) zeigten Angriffserfolgsraten zwischen 60% und 100%, während die Detektionsrate bei 100% lag.
- Der Code ist auf GitHub veröffentlicht; ein begleitendes Paper wurde für arXiv eingereicht.
Verknüpfte Unternehmen
4 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Sicherheits-Audit eines LLM-Gateways: Ergebnisse aus vier Angriffsschleifen
Der Autor beschreibt die Entwicklung und das Red-Teaming eines transparenten, OpenAI-kompatiblen LLM-Sicherheitsgateways, das Anfragen und Antworten auf preisgegebene Geheimnisse, PII, Jailbreaks, Prompt Injection und Exfiltration untersucht. Über vier iterative Durchläufe – von Ingress-Umgehungen über härtere Anfragemethoden und Egress-Prüfungen bis hin zu Streaming-Egress – wurden Erkennungslücken katalogisiert, Korrekturen implementiert und False Positives validiert. Zu den wichtigsten Verbesserungen zählen die Normalisierung von Unicode-Tag-Zeichen, intent-gesteuerte Exfiltrationsregeln, die Wiederverwendung von Request-Regeln für Secrets auf der Egress-Seite, ein optionaler RESPONSE_BLOCK-Modus sowie ein gleitender SSE-Streaming-Scanner gegen fragmentierte Secrets. Verbleibende Limitationen wie Regex-Grenzen oder die Unmöglichkeit, bereits gestreamte Präfixe zurückzuziehen, werden offengelegt. Das Repository ist unter Apache-2.0 veröffentlicht.
Agent-Probe deckt Sicherheitslücken in der Tool-Schicht von LLM-Agenten auf
Ein Praxistest mit einem echten LangGraph ReAct-Agenten (LangChain) und Groq llama-3.3-70b hat kritische Schwachstellen in der Tool-Schicht offengelegt. Obwohl das LLM bösartige Eingaben korrekt erkannte, leitete das Framework unsichere Argumente ungeprüft an die Tools weiter, wodurch SQL-Injections und Path-Traversal-Angriffe möglich wurden. Der Test ergab einen Gesamtwert von 92/100 Punkten, jedoch zwei kritische Ausfälle im Bereich Tool-Missbrauch. Als Reaktion veröffentlichte das Projekt agent-probe die Version 0.6.0 mit einer neuen Kategorie für Eingabevalidierung und vier zusätzlichen Tests für kodierte SQL-Injections, SSRF über Tool-Parameter, Argument-Boundary-Abuse und verkettete Tool-Exfiltration. Das Tool unterstützt SARIF-Ausgaben für die CI-Integration und ist über GitHub sowie PyPI verfügbar.
Statische Analyse für LLM-Prompt-Sicherheit und Schwachstellenerkennung
Meghal Parikh stellt mit PromptSonar eine Methodik und Tooling zur statischen Analyse von LLM-Prompt-Strings vor, um Sicherheitslücken vor dem Deployment zu erkennen. Der Ansatz nutzt Tree-sitter-basiertes AST-Parsing zur Extraktion von Prompts über mehrere Programmiersprachen hinweg, eine auf Normalisierung ausgelegte Pipeline zur Abwehr von Evasionsversuchen wie Homoglyphen und Base64 sowie ein Regelwerk mit 21 Regeln in Version 1.0.26, die den OWASP LLM Top 10 (2025) zugeordnet sind. PromptSonar generiert nach Schweregrad bewertete Ergebnisse mit CI/CD-Exit-Codes, bietet eine Governance-DSL für Ausnahmen und Richtlinien, integriert sich über CLI, GitHub Action sowie VS Code und erstellt eine Prompt-SBOM im CycloneDX v1.4-Format zur kryptografischen Dokumentation. Der Artikel beleuchtet die Grenzen der statischen Analyse und plädiert für ein mehrschichtiges Sicherheitskonzept, das Build-Time-Scanning mit Laufzeit-Interzeption kombiniert.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.