Beobachtetes Signal · 15. Juli 2026 · Technical Release · Quelle: DEV Community · Relevanz: 2/5 · Sentiment: Positiv
Sicherheits-Audit eines LLM-Gateways: Ergebnisse aus vier Angriffsschleifen
Der Autor beschreibt die Entwicklung und das Red-Teaming eines transparenten, OpenAI-kompatiblen LLM-Sicherheitsgateways, das Anfragen und Antworten auf preisgegebene Geheimnisse, PII, Jailbreaks, Prompt Injection und Exfiltration untersucht. Über vier iterative Durchläufe – von Ingress-Umgehungen über härtere Anfragemethoden und Egress-Prüfungen bis hin zu Streaming-Egress – wurden Erkennungslücken katalogisiert, Korrekturen implementiert und False Positives validiert. Zu den wichtigsten Verbesserungen zählen die Normalisierung von Unicode-Tag-Zeichen, intent-gesteuerte Exfiltrationsregeln, die Wiederverwendung von Request-Regeln für Secrets auf der Egress-Seite, ein optionaler RESPONSE_BLOCK-Modus sowie ein gleitender SSE-Streaming-Scanner gegen fragmentierte Secrets. Verbleibende Limitationen wie Regex-Grenzen oder die Unmöglichkeit, bereits gestreamte Präfixe zurückzuziehen, werden offengelegt. Das Repository ist unter Apache-2.0 veröffentlicht.
Praktische, reproduzierbare Hardening-Maßnahmen für LLM-Ingress, -Egress und Streaming verbessern die operative Sicherheit von Deployments, spiegeln jedoch ein einzelnes Open-Source-Gateway und keine branchenweite Plattformänderung wider.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Der Autor entwickelte ein OpenAI-kompatibles, transparentes Proxy-Gateway, das LLM-Anfragen und -Antworten mittels deterministischer Mustererkennung auf Secrets, PII, Jailbreaks, Prompt Injection und Exfiltration scannt.
- In vier Red-Team-Durchläufen (Anfrage-Warmup, fortgeschrittene Anfragetechniken, Response/Egress und Streaming-Egress) wurden Erkennungslücken iterativ behoben und Gutests zur Vermeidung von False Positives validiert.
- Wichtige Fixes umfassen die Normalisierung von Unicode-Tag-Zeichen, intent-verankerte Exfil-Regeln, die Wiederverwendung von Secret-Regeln bei Antworten, ein opt-in RESPONSE_BLOCK sowie einen gleitenden 500-Zeichen-SSE-Streaming-Scanner.
- Nach den Korrekturen wurde eine Parität bei der Secret-Erkennung auf Request- und Response-Seite erreicht; Streaming-Prüfungen hielten Chunks mit vervollständigten Secrets zurück, ohne neue False Positives zu erzeugen.
- Das Repository wurde unter github.com/akav-labs/agentsentry-gateway als Open Source unter der Apache-2.0-Lizenz veröffentlicht.
Verknüpfte Unternehmen
6 verknüpfte Unternehmen“It sits in front of the model as a transparent OpenAI-compatible proxy — one env var, `OPENAI_BASE_URL` — and scans every request (and respo...”
“It missed OpenAI project keys, Anthropic keys, Stripe keys, private-key blocks, every system-prompt-disclosure phrasing, every exfil link, a...”
“It missed OpenAI project keys, Anthropic keys, Stripe keys, private-key blocks, every system-prompt-disclosure phrasing, every exfil link, a...”
“Plus Twilio account SIDs, and PII _values_ (US SSN, credit-card numbers) — context-anchored so a git SHA or an order number doesn't look lik...”
“The AWS IMDS IP (`169.254.169.254`) was caught by accident (numeric-IP rule)....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
LLM Gateway Proxy für zentrale Security, Compliance und Observability
Ein Open-Source-Entwickler hat einen LLM Gateway Proxy vorgestellt, der zwischen Client-Applikationen und der OpenAI-API geschaltet wird, um Sicherheits-, Compliance- und Observability-Funktionen zentral zu bündeln. Die Architektur implementiert mehrstufige Guardrails: Regex-basierte PII-Sanitization, heuristische Erkennung von Prompt Injections sowie Response-Validierungen, bevor Anfragen weitergeleitet werden. Zudem erfasst das System granulare Metriken auf Request-Ebene – darunter Latenz, Token-Verbrauch und kalkulierte API-Kosten –, die in einem CSV-Ledger protokolliert und über ein interaktives Streamlit-Dashboard visualisiert werden. Die Lösung ist via Docker containerisiert und verfügt über eine GitHub-Actions-CI-Pipeline für statische Code-Analysen. Als künftige Erweiterungen nennt der Entwickler NER-gestützte PII-Filterung, semantische Embedding-Guardrails, Caching, persistente Datenbanken und Distributed Tracing für den produktiven Produktiveinsatz.
Agent Security: Schutz vor Prompt Injection, Tool-Missbrauch und Datenlecks
Dieser Fachartikel analysiert die erweiterte Angriffsfläche agentischer LLM-Architekturen und definiert praxisnahe Schutzmechanismen gegen Prompt Injection, Tool-Parameter-Injection sowie unbefugten Datenabfluss. Im direkten Vergleich zwischen ungesicherten und gehärteten Agenten wird gezeigt, wie strikt rollenbasierte System-Prompts die Systemintegrität wahren. Für Tool-Schnittstellen – demonstriert anhand eines Rechners – werden zeichenbasierte Allowlists und isolierte Sandboxed Evals vorgestellt, um Code-Injections effektiv zu unterbinden. Als Kernarchitektur empfiehlt der Beitrag eine dreistufige Defense-in-Depth-Pipeline: Input-Validierung, eine gehärtete Agentenebene mit Role Locking und automatisierte Output-Filterung via Regex-Redacting. Ergänzt durch Codebeispiele und eine Design-Checkliste für Entwickler verweist der Leitfaden auf die OWASP Top 10 for LLM Applications sowie LangGraph-Implementierungen, um robuste agentische Workflows produktionsreif abzusichern.
AI Guard Gateway v0.1.0 für LLM-Endpoint-Security veröffentlicht
AI Guard Gateway v0.1.0 ist ein Open-Source-Reverse-Proxy zum Schutz exponierter AI- und LLM-Inferenz-Endpoints vor Angriffen wie Endpoint-Hijacking und Prompt-Injection. Das Gateway basiert auf einem Spec-Driven-Development-Ansatz (SDD) und implementiert eine obligatorische Authentifizierung mittels API-Keys und JWT, ein Sliding-Window-Rate-Limiting, Prompt-Injection-Erkennung, automatisierte PII-Redaction sowie statische Richtlinien über den Open Policy Agent (OPA). Das Projekt umfasst eine pytest-Testsuite für kritische Routen, einen Bandit-Sicherheits-Scan ohne Schwachstellen mit hoher oder mittlerer Kritikalität sowie eine in SonarCloud integrierte CI/CD-Pipeline. Der Quellcode ist unter der AGPL-3.0-Lizenz auf GitHub verfügbar. Der Beitrag wurde am 05.07.2026 von MagoPredator (Fenix) auf der DEV Community veröffentlicht.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.