Beobachtetes Signal · 25. Apr. 2026 · Open Source Release · Quelle: DEV Community · Relevanz: 1/5 · Sentiment: Positiv
TraceLM: Open-Source-Tool für LLM Observability in Java
Ein Entwickler hat ein neues Open-Source-Projekt namens TraceLM vorgestellt, das speziell auf LLM Observability für Java-Anwendungen ausgerichtet ist. Das Repository 'tracelm-java-agent' auf GitHub ermöglicht die Erfassung wichtiger LLM-Telemetriedaten wie Token-Kosten, Token-Länge und Latenzen bei API-Aufrufen. Zusätzlich bietet TraceLM ein Dashboard zur visuellen Aufbereitung dieser Metriken, für das ein Login erforderlich ist. Das Tool befindet sich derzeit in aktiver Entwicklung. Der Autor plant, den Funktionsumfang kontinuierlich zu erweitern und die Unterstützung neben Java auf weitere Programmiersprachen auszudehnen, um das Tool langfristig Enterprise-ready zu machen. Für Entwicklungsteams, die Java-basierte KI-Workloads skalieren, bietet diese Lösung nützliche Einblicke in Performance und Ressourcennutzung, hat zum aktuellen Zeitpunkt jedoch einen eher überschaubaren Markteinfluss.
Ein kompaktes Open-Source-Entwicklertools zur Erfassung von LLM-Telemetriedaten für Java-Anwendungen. Es bietet nützliche Einblicke für Engineering-Teams, verfügt jedoch über einen begrenzten Scope und ist nicht branchenverändernd.
Marktsignale zu GitHub in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren Polaris7-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Entwickler veröffentlicht Open-Source-Projekt für LLM Observability namens "TraceLM".
- Repository: https://github.com/unnivm/tracelm-java-agent
- TraceLM erfasst Token-Kosten, Token-Länge und Latenzen für LLM-Aufrufe.
- Das Tool unterstützt derzeit ausschließlich Java mittels eines Java-Agenten und beinhaltet ein login-pflichtiges Dashboard.
- Das Projekt befindet sich in der Entwicklung; Unterstützung weiterer Programmiersprachen und Enterprise-Features sind geplant.
Verknüpfte Unternehmen
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
LLM-Aufrufe mit OpenTelemetry nachverfolgen und debuggen
Ein praxisorientiertes Entwickler-Tutorial erläutert, wie sich Large Language Model-Aufrufe instrumentieren und nachverfolgen lassen, um Prompts, Antworten, Latenzen und Kosten transparenter zu machen. Der Autor empfiehlt eine OpenTelemetry-basierte Instrumentation über kompakte Wrapper-Bibliotheken, um Interaktionen systematisch aufzuzeichnen. Der Beitrag listet etablierte Observability-Tools für LLMs wie LangSmith, Langfuse, Helicone, PromptLayer, Braintrust und Arize Phoenix auf und hebt Enprompta als einsteigerfreundliche Lösung hervor. Ein begleitendes GitHub-Projekt veranschaulicht die praktische Umsetzung. Zudem verdeutlicht ein kompakter Code-Snippet die automatische Tracing-Funktionalität anhand eines Anthropic-Instrumentors, was Ingenieuren bei der Fehlerbehebung von KI-Agenten hilft.
Entwickler baut LLMeter zur Überwachung von LLM-Kosten
Ein Entwickler hat das Open-Source-Tool LLMeter entwickelt, ein Dashboard, das stündlich die Usage-APIs verschiedener LLM-Anbieter abfragt, unterschiedliche Nutzungsformate in ein einheitliches Postgres-Schema normalisiert und die tatsächlichen Kosten nach Anbieter und Modell aufschlüsselt. Der Tech-Stack basiert auf Inngest für stündliche Jobs, Supabase Postgres für Datenspeicherung und Authentifizierung sowie einem Next.js- und Shadcn-UI-Frontend. LLMeter unterstützt OpenAI, Anthropic, DeepSeek und OpenRouter, verschlüsselt API-Schlüssel im Ruhezustand mit AES-256-GCM und bietet Budgetwarnungen. Der Betrieb von LLMeter ergab, dass rund 70 % der Ausgaben des Autors von einem einzigen Hintergrundjob mit gpt-4o stammten; die Optimierung senkte die Kosten um schätzungsweise 200 US-Dollar pro Monat. Das Projekt steht unter der AGPL-3.0 auf GitHub sowie über llmeter.org für das Self-Hosting oder als kostenlose Tarifoption zur Verfügung.
Agenttap: Das Erfassen exakter HTTP-Requests von LLM SDKs
Ein Entwickler hat agenttap veröffentlicht, einen Open-Source httpx Transport zur Interpunktion und Aufzeichnung exakter HTTP-Request-Bytes und -Responses von LLM SDKs. Das Tool ermöglicht Ingenieuren die Erfassung vollständiger Request-URLs und Header mit geschwärzten Zugangsdaten, präzisen Request-Bodys als JSON, Response-Status, Dauer und Sequenznummern. Agenttap unterstützt das Replaying aufgezeichneter Bytes, das Vergleichen von Aufzeichnungen zur Regressionserkennung sowie eine speicherinterne Erfassung mit rund 0,4 ms Overhead pro 2 KB Aufruf. Es nutzt standardmäßig einen Ringpuffer für 500 Datensätze mit Optionen zur Persistenz auf der Festplatte. Der Transport agiert providerunabhängig für Anthropic, OpenAI sowie Google Clients, ist auf GitHub und PyPy verfügbar und dient als Debugging- und Observability-Hilfe für Teams, die LLMs integrieren.
Alle künftigen Signale zu GitHub & Wettbewerbern im Briefing erhalten
Verpassen Sie keine M&A-Transaktionen, Führungswechsel, Kunden-Etats oder Produkt-Launches mehr. Polaris7 überwacht über 20.000 Primärquellen rund um die Uhr und liefert evidenzbasierte Telemetrie direkt in Ihr wöchentliches Executive Briefing.