Beobachtetes Signal · 18. Juli 2026 · Technical Release · Quelle: DEV Community · Relevanz: 2/5 · Sentiment: Positiv
AL-MUNAA: Kollektives Immunsystem für AI-Agenten
AL-MUNAA ist eine Open-Source-Sicherheitsebene für AI-Agenten, die von Farhan Almutairi für die OpenAI Build Week entwickelt wurde. Das System implementiert vier Schutzmechanismen: Eingabe- und Speicher-Scanning, ein Tool- und Aktions-Gate, Ausgabeverifikation sowie ein signiertes Threat Antibody Protocol. Damit können Agenten einander vor Prompt-Injection-Angriffen schützen, ohne sensible Rohdaten preiszugeben. Die Architektur nutzt HMAC-basierte Fingerprints über normalisierte Zeichentabellen, die mit Ed25519 signiert sind, und umfasst eine robuste Eindämmungslogik mit 74 erfolgreichen Tests. Der Quellcode sowie eine Live-Demo wurden öffentlich zugänglich gemacht, und erste Benchmarks belegen die erfolgreiche Blockierung kritischer Aktionen vor deren Ausführung.
Open-Source-Sicherheitstools für AI-Agenten sind für die Agenten-Sicherheit relevant, allerdings handelt es sich hierbei um ein technisches Einzelprojekt mit begrenzter Validierung und noch keinen branchenweiten Standard.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- AL-MUNAA ist eine Open-Source-Sicherheitsebene für AI-Agenten aus der OpenAI Build Week.
- Das System kombiniert vier Schutz-Gates für Eingaben, Tools, Ausgaben und ein Threat Antibody Protocol.
- Bedrohungs-Antikörper nutzen HMAC-Fingerprints und Ed25519-Signaturen zur verifizierbaren Erkennung.
- Die Testsuite umfasst 74 erfolgreiche Tests inklusive Kalibrierungstools und Success-Gates.
- Das Repository ist öffentlich verfügbar und wird durch eine YouTube-Demo ergänzt.
Verknüpfte Unternehmen
9 verknüpfte Unternehmen“I built AL-MUNAA for OpenAI Build Week: a local security layer that wraps AI agents before they read untrusted content......”
“DEV Community — A space to discuss and keep up software development and manage your software career...”
“Demo video: https://youtu.be/mlAxp2UJaFg...”
“Build, Ship, See It All: MCP Monitoring with Sentry...”
“3 reasons why developers scale faster on MongoDB Atlas....”
“Powered by Algolia...”
“Neon is the official database partner of DEV...”
“Built on Forem — the open source software that powers DEV...”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Open-Source-Sicherheitsarchitektur schützt autonome KI-Agenten vor Prompt-Injection-Angriffen
Ein neues Open-Source-Framework bietet ein vierstufiges Defense-in-Depth-Sicherheitsmodell, um autonome KI-Agenten und LLM-Deployments vor Prompt Injections, Tool-Poisoning und unkontrollierter Fugitivität zu schützen. Die Architektur gliedert Schutzmechanismen in vier Schichten: 1. Input-Sanitization für Text- und Bilddaten, 2. Gateway- und Sandboxing-Kontrollen mit strikter Richtliniendurchsetzung, 3. Runtime-Monitoring bei jedem Tool-Aufruf sowie 4. Supply-Chain-Schutz für MCP-Server und Datenquellen. Das System integriert spezialisierte Module wie hermes-shield, ai-guard-gateway, agent-shield-runtime und mcp-schema-sentinel sowie Post-hoc-Validierungen via Conformal Prediction. Die gesamte Codebasis ist für CPU-basierte lokale Deployments optimiert und unter permissiven Lizenzen auf GitHub verfügbar. Sie adressiert damit zentrale Schwachstellen beim produktiven Einsatz agentischer KI-Workflows.
Import AI: fast16-Malware, Muon-Schwachstellen und positive Ausrichtung
Import AI fasst aktuelle Forschungen zusammen: SentinelOne untersuchte den veralteten Virus fast16.sys, der präzise wissenschaftliche Software wie LS-DYNA und MOHID durch Manipulation von Gleitkommacode im Arbeitsspeicher beeinträchtigt. Tilde Research deckte bei der Evaluierung des Muon-Optimizers persistente Neuronen-Ausfälle in MLP-Schichten auf und stellte mit Aurora einen neuen, leverage-basierten Optimizer auf GitHub vor, der in Tests bessere Verlustwerte als Muon und NorMuon erzielte. Ein institutionsübergreifendes Positionspapier plädiert für eine „positive Alignment“-Strategie, um KI aktiv auf menschliches und ökologisches Wohlergehen auszurichten. Zudem berichtete Prime Intellect, dass autonome Agenten (unter anderem basierend auf GPT-5.5 und Claude Code) das Training von nanoGPT eigenständig optimiert und menschliche Benchmarks in umfangreichen Testläufen übertroffen haben.
Open-Source-Sicherheits-Layer für KI-Agenten: Capability-basierte Autorisierung via Agent Firewall
Ein unabhängiger Entwickler hat mit „Agent Firewall“ eine quelloffene, Capability-basierte Autorisierungsschicht für autonome KI-Agenten vorgestellt. Die Lösung ersetzt statische, binäre API-Keys durch kryptografisch signierte, feingranulare Berechtigungen, die den Tool-Zugriff auf APIs, Datenbanken oder Payment-Gateways absichern. Das Framework unterstützt Lifecycle-Tracking, Attenuation (Rechteabschwächung), Delegation, sofortigen Widerruf (Revocation) sowie Replay-Schutz. Mit dem Release v0.8 integriert die Bibliothek eine SQLite-basierte Persistenzschicht, um Neustarts von Services ohne Datenverlust zu überstehen. Das Projekt umfasst 1.438 erfolgreiche Tests, eine detaillierte Architektur-Dokumentation und ein Threat Model. Eine Version 1.0 soll die API stabilisieren und das Tooling produktionsreif machen. Die Bibliothek adressiert zentrale Sicherheitsherausforderungen bei der Implementierung autonom agierender Systeme in Unternehmens- und Entwicklerumgebungen.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.