Beobachtetes Signal · 4. Mai 2026 · Technical Release · Quelle: DEV Community · Relevanz: 3/5 · Sentiment: Positiv
KODA: Schema-basiertes Datenformat reduziert LLM-Token-Verbrauch drastisch
KODA (Knowledge-Oriented Data Abstraction) ist ein schema-basiertes Transportformat, das speziell entwickelt wurde, um den Token-Verbrauch bei der Übertragung strukturierter Daten an Large Language Models zu minimieren. Anstatt JSON-Schlüssel pro Datensatz wiederholt zu übertragen, definiert KODA Schemata einmalig und kodiert Werte positionell, wodurch redundanter Overhead entfällt. Benchmarks mit dem gpt-4o-mini Tokenizer belegen erhebliche Einsparungen bei repetitiven Datensätzen wie Logs (61,5 %) oder GitHub-Issues (37,7 %), während sehr kleine Datensätze aufgrund des Schema-Overheads weniger profitieren. Das Projekt ist auf GitHub verfügbar und richtet sich gezielt an hochvolumige LLM-Anwendungsfälle wie RAG-Pipelines, Tool-Calling-Systeme und autonome Agenten-Workflows, bei denen Token-Effizienz über Latenz und API-Kosten entscheidet.
Eine entwicklerfokussierte Veröffentlichung, die das Token-Volumen und damit API-Kosten, Latenzen sowie die Kontexteffizienz für hochvolumige LLM-Pipelines in RAG- und Agenten-Workflows signifikant optimieren kann.
Marktsignale zu GitHub in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- KODA ist ein schema-basiertes Datenformat zur Reduzierung des Token-Verbrauchs bei strukturierten LLM-Inputs.
- Das Format kodiert Werte positionell und eliminiert redundante JSON-Schlüssel durch einmalige Schemadefinition.
- Benchmarks mit einem gpt-4o-mini Tokenizer zeigten deutliche Token-Reduktionen bei großen Datensätzen (u. a. 61,5 % bei Logs, 37,7 % bei GitHub Issues), jedoch negative Effekte bei sehr kleinen Datensätzen.
- Das Projekt ist unter https://github.com/Om7035/koda veröffentlicht und als pip-Paket verfügbar.
- KODA ist optimiert für RAG-Pipelines, Tool-Calling-Systeme, Agenten-Workflows und hochvolumige LLM-Integrationen.
Verknüpfte Unternehmen
2 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Structured JSON Output from Local LLMs with Ollama & Zod
A technical guide explaining how to produce reliable, validated JSON from small local LLMs using Ollama and Zod. The article shows two Ollama JSON modes — format: "json" for syntactic validity and passing a full JSON Schema to format to constrain structure — and recommends converting Zod schemas to JSON Schema with zod-to-json-schema so one schema serves both generation and runtime validation. It documents strategies for handling truncated output (raise num_predict, repair by closing open brackets), streaming (accumulate newline-delimited envelopes and parse when complete), and retry loops that feed Zod validation errors back into the model while lowering temperature. The author provides a reusable generateStructured<T>(schema) helper combining schema-constrained generation, repair, and converging retries, and notes this pattern is used in spectr-ai for local smart-contract audits.
Deterministische SCP-Serialisierung reduziert LLM-Token drastisch
Ein Entwickler hat ein deterministisches, positionelles ASCII-Serialisierungsprotokoll (SCP) für Multi-Agent LLM-Sessions veröffentlicht, das strukturierte Nachrichten anhand eines externen, versionierten Wörterbuchs kodiert. Benchmarks mit dem cl100k_base Tokenizer zeigen, dass der SCP ASCII ID-Stack lediglich 11 Token benötigt, verglichen mit 38 Token für Standard JSON (3,45x weniger) und 49 Token für russischen Fließtext. Bei nicht-lateinischen Sprachen wie Hindi steigen die Einsparungen auf das bis zu 9,89-Fache. Der Ansatz erfordert ein festes, enumarables Schema anstelle von Freitext, ist in Python implementiert und unter der AGPLv3 verfügbar. Der Beitrag beleuchtet zudem Caching-Ökonomien bei Anthropic und OpenAI durch rabattierte Cached-Input-Token, weist jedoch auf Einschränkungen bei bestimmten Tokenizern und Modellfamilien hin.
Google's Open Knowledge Format simplifies knowledge sharing
Google’s Open Knowledge Format (OKF) is a file-based packaging standard for curated organizational knowledge that Google published with a specification and examples. OKF packages context as directories of Markdown files with YAML frontmatter so tools, agents and humans can index, version, and consume metadata and narrative content reliably. The format defines building blocks such as Knowledge Bundles, one-concept-per-file Markdown documents, and concept IDs derived from file paths. Google highlights OKF’s fit for developer workflows, agent grounding (reducing hallucinations), and for content teams as a portable “LLM‑wiki” pattern. The article explains adoption patterns, practical CI/validation gates, integration with catalog ingestion (Google Cloud Knowledge Catalog), and tradeoffs such as the need for shared conventions and freshness enforcement.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.