Beobachtetes Signal · 6. Apr. 2026 · Technical Release · Quelle: DEV Community · Relevanz: 2/5 · Sentiment: Positiv
Llamail: Privater, lokaler KI-E-Mail-Agent auf Basis von Llama 3.1
Ein Entwickler hat Llamail entwickelt, einen privaten, lokalen KI-E-Mail-Agenten mit der konfigurierbaren Persona Sable, der vollständig auf eigener Hardware läuft und eine Telegram-Bot-Schnittstelle bereitstellt. Das Projekt nutzt llama.cpp mit einem Llama 3.1 8B Modell (Q8_0) für die Inferenz, Nomic Embed v2 MoE für Embeddings, FastAPI als Anwendungsschicht, n8n in Docker als leichtgewichtigen Orchestrator für Gmail- und Telegram-Ereignisse sowie SQLite im WAL-Modus und ChromaDB für Speicherung und semantische Suche. Zu den Workflows gehören RAG-basierte Suche, Live-Verarbeitung eingehender E-Mails, Entwurfserstellung, Kampagnen-Personalisierung und Antwortverfolgung. Die gemessene Performance liegt bei der E-Mail-Zusammenfassung bei 2 bis 3,5 Sekunden, Embeddings bei unter 0,1 Sekunden, beim Massenimport bei rund 5 E-Mails pro Minute und bei RAG-Fragen bei circa 7 Sekunden. Der Quellcode ist auf GitHub unter github.com/sviat-barbutsa/llamail veröffentlicht.
Demonstriert eine praxisnahe, datenschutzorientierte lokale LLM-Anwendung für E-Mail-Workflows und RAG-Suche. Dies ist relevant für Teams, die On-Device-Inferenz, Kostenabwägungen und den Umgang mit First-Party Data untersuchen, stellt jedoch kein wesentliches Plattform-Update dar.
Marktsignale zu Telegram in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Entwickler baut Llamail, einen privaten, lokalen E-Mail-Agenten mit der konfigurierbaren Persona Sable.
- Inferenz erfolgt über llama.cpp und Llama 3.1 8B (Q8_0); Embeddings nutzen Nomic Embed v2 MoE (Q6_K).
- Architektur: FastAPI-Backend, n8n in Docker für Gmail/Telegram-Event-Briding, SQLite (WAL) + ChromaDB sowie Telegram-Bot-Schnittstelle.
- Berichtete Performance: Zusammenfassung ~2–3,5s, Embedding <0,1s, Massenimport ~5 E-Mails/Min., RAG-Fragen ~7s.
- Quellcode-Repository ist verfügbar unter github.com/sviat-barbutsa/llamail.
Verknüpfte Unternehmen
7 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
LLM-as-Router für einen lokalen Telegram E-Mail-Agenten
Ein technischer Leitfaden beschreibt eine Architektur, die ein lokales LLM als Intent-Router für einen privaten Telegram-basierten E-Mail-Agenten namens Llamail nutzt. Der Autor erläutert einen dreistufigen Router aus Slash-Befehlen, sicheren direkten Kombibefehlen und einer LLM-Klassifizierung für natürliche Sprache, ferner ein Jinja2-Prompt für JSON-Intents sowie ein Dispatch-Register zur Abbildung auf deterministische Python-Handler. Die Implementierung stützt sich auf hybrides Retrieval mit ChromaDB und SQLite FTS5 sowie llama.cpp für lokale Inferenz. UX-Details umfassen sofortige Telegram-Benachrichtigungen zur Analyse und die Skalierbarkeit neuer Intents bei synchronem Prompt- und Dispatch-Design. Der Quellcode ist auf GitHub verfügbar.
Prävalenter lokaler KI-Assistent für Git- und Projektdaten
Ein Entwickler hat einen privaten, offlinefähigen KI-Assistenten konzipiert, der natürlichsprachliche Abfragen zu Git-Historien und Projektmanagement-Daten durch Text-to-SQL-Übersetzung beantwortet. Das System erfasst Commits und Projektboard-Daten über Python-Collector in einer zentralen SQLite-Datenbank. Anstelle eines speicherintensiven Vector RAG-Ansatzes nutzt die Architektur eine automatische Wertermittlung und ein lokales LLM, konkret Ollama mit dem Modell qwen2.5-coder:7b, um SQL-Abfragen zu generieren und Ergebnisse zusammenzufassen. Die Lösung läuft vollständig ohne Cloud-Anbindung oder API-Schlüssel, ist auf Datendatenschutz ausgelegt und umfasst eine kompakte Codebasis von rund 400 Zeilen Python-Code verteilt auf acht Dateien. Geplante Erweiterungen umfassen stündliche Aktualisierungen per Cron-Job, die Integration der Chathistorie als Datenquelle sowie eine einfache Web-UI. Das Projekt demonstriert einen hocheffizienten, datenschutzkonformen Ansatz für strukturierte Daten im Engineering-Umfeld.
Lokalen LLM-Chatbot mit Ollama und Python entwickeln
Ein praxisnahes Tutorial zeigt, wie sich ein lokales Large Language Model (LLM) als Chatbot auf einem eigenen Rechner mithilfe von Ollama und Python betreiben lässt. Die Anleitung beschreibt die Installation von Ollama, das Laden eines Open-Source-Modells wie Llama 3.2, die Einrichtung einer Python-Umgebung sowie die Installation relevanter Pakete wie LangChain und liefert ein vollständiges Skript zur Aufrechterhaltung des Chatverlaufs. Zudem werden Anpassungsoptionen wie Modellwechsel zu Phi-3, Mistral oder Gemma, die Integration von Web-UIs mittels Streamlit oder Flask sowie die Implementierung von RAG mit LangChain und ChromaDB aufgezeigt. Der Beitrag betont die Datenschutzvorteile lokaler Inferenz und bietet wertvolle Tipps zur Fehlerbehebung bei Leistung und Speicherauslastung.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.