Beobachtetes Signal · 19. Aug. 2026 · Technical Release · Quelle: DEV Community · Relevanz: 3/5 · Sentiment: Positiv
Open-Source-Sicherheitsarchitektur schützt autonome KI-Agenten vor Prompt-Injection-Angriffen
Ein neues Open-Source-Framework bietet ein vierstufiges Defense-in-Depth-Sicherheitsmodell, um autonome KI-Agenten und LLM-Deployments vor Prompt Injections, Tool-Poisoning und unkontrollierter Fugitivität zu schützen. Die Architektur gliedert Schutzmechanismen in vier Schichten: 1. Input-Sanitization für Text- und Bilddaten, 2. Gateway- und Sandboxing-Kontrollen mit strikter Richtliniendurchsetzung, 3. Runtime-Monitoring bei jedem Tool-Aufruf sowie 4. Supply-Chain-Schutz für MCP-Server und Datenquellen. Das System integriert spezialisierte Module wie hermes-shield, ai-guard-gateway, agent-shield-runtime und mcp-schema-sentinel sowie Post-hoc-Validierungen via Conformal Prediction. Die gesamte Codebasis ist für CPU-basierte lokale Deployments optimiert und unter permissiven Lizenzen auf GitHub verfügbar. Sie adressiert damit zentrale Schwachstellen beim produktiven Einsatz agentischer KI-Workflows.
Das quelloffene Framework adressiert kritische Angriffsvektoren wie Prompt Injection und Tool-Poisoning direkt und bietet Unternehmen eine praxisnahe Sicherheitsarchitektur für den produktiven Rollout autonomer KI-Agenten.
MARKTSIGNALE
Marktsignale und strategische Veränderungen zu GitHub verfolgen
Polaris7 verknüpft Pflichtmitteilungen, Primärquellen, Führungswechsel und M&A-Aktivitäten in strukturierten Dossiers. Richte deinen Polaris7-Workspace ein, um relevante Unternehmen in deinem Executive Briefing zu beobachten.
- Verifizierte Primärquellen
- Automatisierte Briefings
- Sofortiges Watchlist-Setup
Wichtigste Kernpunkte & Evidenz
- Das Framework definiert eine vierstufige Defense-in-Depth-Architektur gegen Prompt Injections, Tool-Poisoning und unkontrolliertes Agentenverhalten.
- Schicht 1 (Ingress) nutzt Module wie hermes-shield, vision-injection-guard und corpus-scrub zur Input-Bereinigung und PII-Redaktion.
- Schicht 2 (Gateway & Sandbox) umfasst ai-guard-gateway, seblight (Sovereign Execution Broker) und einen Misdirection Proxy zur Validierung externer Aufrufe.
- Schicht 3 (Runtime-Sensoren) überwacht Tool-Aufrufe über agent-shield-runtime mittels Sensoren wie scope-lib, adi-shield, wallet-guard und trajectory-sentinel.
- Schicht 4 (MCP & Supply Chain) erkennt mit mcp-schema-sentinel und skill-auditor Tool-Schema-Manipulationen; der Code ist via GitHub (amurlaniakea) verfügbar.
Verknüpfte Unternehmen
“Die vollständige Architektur ist auf GitHub unter der angegebenen URL einsehbar.”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Agent Security: Schutz vor Prompt Injection, Tool-Missbrauch und Datenlecks
Dieser Fachartikel analysiert die erweiterte Angriffsfläche agentischer LLM-Architekturen und definiert praxisnahe Schutzmechanismen gegen Prompt Injection, Tool-Parameter-Injection sowie unbefugten Datenabfluss. Im direkten Vergleich zwischen ungesicherten und gehärteten Agenten wird gezeigt, wie strikt rollenbasierte System-Prompts die Systemintegrität wahren. Für Tool-Schnittstellen – demonstriert anhand eines Rechners – werden zeichenbasierte Allowlists und isolierte Sandboxed Evals vorgestellt, um Code-Injections effektiv zu unterbinden. Als Kernarchitektur empfiehlt der Beitrag eine dreistufige Defense-in-Depth-Pipeline: Input-Validierung, eine gehärtete Agentenebene mit Role Locking und automatisierte Output-Filterung via Regex-Redacting. Ergänzt durch Codebeispiele und eine Design-Checkliste für Entwickler verweist der Leitfaden auf die OWASP Top 10 for LLM Applications sowie LangGraph-Implementierungen, um robuste agentische Workflows produktionsreif abzusichern.
Google ADK: Fünf Sicherheitsebenen schützen KI-Agenten vor Prompt-Injection
Ein aktueller Fachbeitrag beleuchtet die Sicherheitsarchitektur des Google Agent Development Kit (ADK), die gezielt KI-Agenten vor indirekter Prompt-Injection – einem der kritischsten OWASP-Risiken für Large Language Models – abschirmt. Das ADK-Framework definiert hierfür fünf zentrale Verteidigungsebenen: Identitäts- und Autorisierungsmanagement, Ein- und Ausgabeschutz, sandkastenbasierte Codeausführung, Evaluierung und Tracing sowie Netzwerkkontrollen. Ein besonderer Schwerpunkt liegt auf Runner-basierten Plugins, die globale Callbacks für Agenten, Tools und LLM-Aufrufe ermöglichen. Insbesondere der after_tool_callback-Hook erlaubt es, manipulierte Werkzeugantworten frühzeitig abzufangen und zu bereinigen, bevor der Agent darauf reagiert. Die ADK-SDKs stehen für Python, TypeScript, Go, Java und Kotlin zur Verfügung, während umfassende Dokumentationen und Codebeispiele auf adk.dev bereitstehen.
KI-Agenten in Produktion absichern: Die Grenzen des Model Context Protocol
Der Artikel analysiert, warum das Model Context Protocol (MCP) zwar die Kommunikation zwischen Agenten und Tools standardisiert, aber nicht die notwendigen Sicherheitskontrollen für produktive KI-Agenten liefert. Er beschreibt die „lethale Trifecta“ der Risiken – Zugriff auf private Daten, Exponierung gegenüber nicht vertrauenswürdigen Eingaben und externe Aktionsfähigkeit – sowie typische Fehler wie Prompt Injection, Tool-Permission-Creep und Shadow-MCP-Server. Zur Absicherung empfiehlt sich eine AI-Gateway-Control-Plane, die Least-Privilege-Zugriffe, agentenspezifisches RBAC, Input- und Output-Guardrails, Human-in-the-Loop-Freigaben sowie unveränderliche Audit-Trails durchsetzt. Deployment-Optionen müssen zudem sicherstellen, dass Daten in der Kundeninfrastruktur verbleiben. Als Implementierungsbeispiel wird TrueFoundry genannt.
WATCHLIST & BRIEFINGS
Künftige Signale zu GitHub & Wettbewerbern im Briefing erhalten
Behalte relevante M&A-Transaktionen, Führungswechsel, Kunden-Etats und Produkt-Launches im Blick. Polaris7 verknüpft Primärquellen, Pflichtmitteilungen und Fachmedien direkt in deinem Executive Briefing.
- Regelmäßige Primärquellen-Prüfung
- Strukturierte Watchlist-Briefings
- Kontext wird übernommen
Marktsignale beobachten
Verfolge betroffene Unternehmen in Polaris7 mit regelmäßiger Quellenprüfung und strukturierten Watchlist-Briefings.
GitHub beobachten
Verfolge betroffene Unternehmen in Polaris7 mit regelmäßiger Quellenprüfung und strukturierten Watchlist-Briefings.
