Beobachtetes Signal · 3. Juli 2026 · Technical Guide · Quelle: DEV Community · Relevanz: 1/5 · Sentiment: Positiv
Token-Bucket-API-Rate-Limiting mit Bucket4j und Redis
Ein Entwicklerbericht beschreibt die Implementierung eines verteilten Token-Bucket-Rate-Limiters für OrderHub unter Verwendung der JVM-Bibliothek Bucket4j und Redis. Der Beitrag erläutert das Token-Bucket-Modell hinsichtlich Kapazität und Nachfülirate, zeigt Konfigurationsbeispiele mit refillGreedy und setzt mandantenbezogene Buckets um, die über X-API-Key oder Client-IP identifiziert werden. Die Durchsetzung erfolgt in einem Servlet-Filter (OncePerRequestFilter), der bei Überschreitung den Status 429 samt Retry-After-Header zurückgibt und X-RateLimit-Remaining bereitstellt. Für eine clusterweite Begrenzung nutzt der Autor den Lettuce-basierten Proxy-Manager von Bucket4j, welcher den Bucket-Zustand in Redis speichert und mittels eines atomaren Compare-and-Swap-Lua-Skripts steuert. Bei Ausfall von Redis beim Systemstart greift ein Fallback auf instanzlokale Buckets. Die Konfiguration erfolgt über @ConfigurationProperties, während Integrationstests das Verhalten validieren.
Praxisnahes Engineering-Tutorial zur Erhöhung der Backend-Robustheit, das vor allem für Backend- und Plattform-Ingenieure von Interesse ist.
Marktsignale zu Redis in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren Polaris7-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Implementierung eines Token-Bucket-Rate-Limiters für OrderHub mittels Bucket4j auf der JVM.
- Beispielkonfiguration mit einer Kapazität von 20 und refillGreedy über eine Minute.
- Mandantenbezogene Buckets basieren auf X-API-Key oder Caller-IP und werden in einem OncePerRequestFilter durchgesetzt.
- Clusterweite Durchsetzung über Redis und Bucket4j ProxyManager mit atomarem CAS-Lua-Skript sowie Fallback-Mechanismus.
- Konfiguration über @ConfigurationProperties und Validierung durch Integrationstests.
Verknüpfte Unternehmen
“Redis dient zur Speicherung der Bucket-Zustände über den LettuceBasedProxyManager von Bucket4j mittels eines atomaren CAS-Lua-Skripts.”
“Hosting-Plattform für den Quellcode des Projekts.”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Rate Limiting in Spring Boot mit Bucket4j und Redis
Ein technisches Tutorial vom 4. Juni 2026 beschreibt die Implementierung von Rate Limiting in Spring Boot REST-APIs mithilfe der Java-Bibliothek Bucket4j und Redis als verteiltes Backend. Der Autor Shubham Bhati, Backend Engineer bei AlignBits LLC, dokumentiert eine produktive Implementierung unter Verwendung von Java 21 und Spring Boot 3.2. Er teilt Codebeispiele für eine Token-Bucket-Konfiguration und einen Servlet-Filter, der bei Überschreitung der Grenzwerte den HTTP-Statuscode 429 zurückgibt. Zudem erläutert er die Nutzung von Spring Data Redis und Lettuce für die Anbindung an Redis. Die Überwachung erfolgt über in Redis gespeicherte Zähler und das Scraping von Metriken mit Prometheus. Nach der Implementierung des Rate Limitings meldet der Autor eine Verbesserung der Latenz im p99-Bereich in der Produktion von 800 Millisekunden auf 120 Millisekunden.
Token-basiertes Rate Limiting für LLM-Anwendungen
Dieser technische Leitfaden erläutert, warum herkömmliches, anfragenbasiertes Rate Limiting für Anwendungen mit Large Language Model (LLM)-APIs nicht ausreicht, und zeigt die Implementierung token-bewusster Limits. LLM-Anbieter berechnen Kosten nach Token und nicht nach Anfragen, weshalb lange Kontextfenster trotz geringer Anfragezahlen Budgets erschöpfen können. OpenAI setzt hierbei auf Tokens-per-Minute (TPM) und Requests-per-Minute (RPM) als Limits. Der Beitrag definiert vier Produktionstypen – Anfragetrate, Token-Rate, Budgetobergrenze und Scope – und vergleicht zwei Implementierungsmuster: anwendungsspezifische Middleware (mit Redis zur Vorab-Token-Schätzung) sowie Gateway-Proxys zur zentralen Durchsetzung. Er beleuchtet Gateways wie Bifrost, LiteLLM und das Kong AI Gateway, diskutiert Trade-offs bezüglich Latenz und Mandantenfähigkeit und empfiehlt kundenspezifische Token- sowie Budget-Caps.
Rate-Limiting-Strategien in Go: Token Bucket, Leaky Bucket und Sliding Window
Ein technisches Tutorial erläutert drei gängige Rate-Limiting-Algorithmen – Token Bucket, Leaky Bucket und Sliding Window – und deren Implementierung in Go. Der Artikel demonstriert die Nutzung von golang.org/x/time/rate für Token-Bucket-Semantik, go.uber.org/ratelimit für gleichmäßig getaktete Leaky-Bucket-Ausgaben sowie eine einfache In-Process-Sliding-Log-Implementierung für exakte Rolling-Window-Limits. Zudem werden mandantenbasierte Limiter, Bereinigungsmuster für Maps, die korrekte Platzierung von Wait() für Outbound-Throttling sowie Abwägungen zwischen Genauigkeit und Speicherbedarf behandelt. Für verteilte Limits empfiehlt der Beitrag Redis und das Paket github.com/go-redis/redis_rate auf Basis des GCRA-Algorithmus. Der Beitrag wurde am 20.05.2026 veröffentlicht.
Alle künftigen Signale zu Redis & Wettbewerbern im Briefing erhalten
Verpassen Sie keine M&A-Transaktionen, Führungswechsel, Kunden-Etats oder Produkt-Launches mehr. Polaris7 überwacht über 20.000 Primärquellen rund um die Uhr und liefert evidenzbasierte Telemetrie direkt in Ihr wöchentliches Executive Briefing.
