Beobachtetes Signal · 3. Juli 2026 · Technical Guide · Quelle: DEV Community · Relevanz: 1/5 · Sentiment: Positiv

Token-Bucket-API-Rate-Limiting mit Bucket4j und Redis

Zusammenfassung des Signals

Ein Entwicklerbericht beschreibt die Implementierung eines verteilten Token-Bucket-Rate-Limiters für OrderHub unter Verwendung der JVM-Bibliothek Bucket4j und Redis. Der Beitrag erläutert das Token-Bucket-Modell hinsichtlich Kapazität und Nachfülirate, zeigt Konfigurationsbeispiele mit refillGreedy und setzt mandantenbezogene Buckets um, die über X-API-Key oder Client-IP identifiziert werden. Die Durchsetzung erfolgt in einem Servlet-Filter (OncePerRequestFilter), der bei Überschreitung den Status 429 samt Retry-After-Header zurückgibt und X-RateLimit-Remaining bereitstellt. Für eine clusterweite Begrenzung nutzt der Autor den Lettuce-basierten Proxy-Manager von Bucket4j, welcher den Bucket-Zustand in Redis speichert und mittels eines atomaren Compare-and-Swap-Lua-Skripts steuert. Bei Ausfall von Redis beim Systemstart greift ein Fallback auf instanzlokale Buckets. Die Konfiguration erfolgt über @ConfigurationProperties, während Integrationstests das Verhalten validieren.

Polaris7 AgentStrategische Einordnung
Hohe Konfidenz

Praxisnahes Engineering-Tutorial zur Erhöhung der Backend-Robustheit, das vor allem für Backend- und Plattform-Ingenieure von Interesse ist.

SIGNAL RADAR

Marktsignale zu Redis in Echtzeit verfolgen

Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren Polaris7-Workspace, um automatisierte Executive Briefings zu erhalten.

Monitoring starten
Verifizierte PrimärquellenAutomatisierte BriefingsSofortiges Watchlist-Setup

Wichtigste Kernpunkte & Evidenz

  • Implementierung eines Token-Bucket-Rate-Limiters für OrderHub mittels Bucket4j auf der JVM.
  • Beispielkonfiguration mit einer Kapazität von 20 und refillGreedy über eine Minute.
  • Mandantenbezogene Buckets basieren auf X-API-Key oder Caller-IP und werden in einem OncePerRequestFilter durchgesetzt.
  • Clusterweite Durchsetzung über Redis und Bucket4j ProxyManager mit atomarem CAS-Lua-Skript sowie Fallback-Mechanismus.
  • Konfiguration über @ConfigurationProperties und Validierung durch Integrationstests.

Verknüpfte Unternehmen

Ontologie & Marktkonzepte

#Bucket4j Lettuce-based ProxyManager (casBasedBuilder)#refillGreedy token refill strategy
Primäre Quellenbasis & Herkunftsnachweis
Verifizierter Herkunftsnachweis
Primärquelle: DEV Community•Veröffentlicht: 3. Juli 2026
Ursprünglicher Berichttitel: “One client shouldn't be able to drown your API: rate limiting with Bucket4j and Redis”

Verwandte Marktsignale & Trends

Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.

Application Performance Monitoring4. Juni 2026

Rate Limiting in Spring Boot mit Bucket4j und Redis

Ein technisches Tutorial vom 4. Juni 2026 beschreibt die Implementierung von Rate Limiting in Spring Boot REST-APIs mithilfe der Java-Bibliothek Bucket4j und Redis als verteiltes Backend. Der Autor Shubham Bhati, Backend Engineer bei AlignBits LLC, dokumentiert eine produktive Implementierung unter Verwendung von Java 21 und Spring Boot 3.2. Er teilt Codebeispiele für eine Token-Bucket-Konfiguration und einen Servlet-Filter, der bei Überschreitung der Grenzwerte den HTTP-Statuscode 429 zurückgibt. Zudem erläutert er die Nutzung von Spring Data Redis und Lettuce für die Anbindung an Redis. Die Überwachung erfolgt über in Redis gespeicherte Zähler und das Scraping von Metriken mit Prometheus. Nach der Implementierung des Rate Limitings meldet der Autor eine Verbesserung der Latenz im p99-Bereich in der Produktion von 800 Millisekunden auf 120 Millisekunden.

Signal analysieren
Large Language Models (LLM) & AI28. Apr. 2026

Token-basiertes Rate Limiting für LLM-Anwendungen

Dieser technische Leitfaden erläutert, warum herkömmliches, anfragenbasiertes Rate Limiting für Anwendungen mit Large Language Model (LLM)-APIs nicht ausreicht, und zeigt die Implementierung token-bewusster Limits. LLM-Anbieter berechnen Kosten nach Token und nicht nach Anfragen, weshalb lange Kontextfenster trotz geringer Anfragezahlen Budgets erschöpfen können. OpenAI setzt hierbei auf Tokens-per-Minute (TPM) und Requests-per-Minute (RPM) als Limits. Der Beitrag definiert vier Produktionstypen – Anfragetrate, Token-Rate, Budgetobergrenze und Scope – und vergleicht zwei Implementierungsmuster: anwendungsspezifische Middleware (mit Redis zur Vorab-Token-Schätzung) sowie Gateway-Proxys zur zentralen Durchsetzung. Er beleuchtet Gateways wie Bifrost, LiteLLM und das Kong AI Gateway, diskutiert Trade-offs bezüglich Latenz und Mandantenfähigkeit und empfiehlt kundenspezifische Token- sowie Budget-Caps.

Signal analysieren
Infrastructure20. Mai 2026

Rate-Limiting-Strategien in Go: Token Bucket, Leaky Bucket und Sliding Window

Ein technisches Tutorial erläutert drei gängige Rate-Limiting-Algorithmen – Token Bucket, Leaky Bucket und Sliding Window – und deren Implementierung in Go. Der Artikel demonstriert die Nutzung von golang.org/x/time/rate für Token-Bucket-Semantik, go.uber.org/ratelimit für gleichmäßig getaktete Leaky-Bucket-Ausgaben sowie eine einfache In-Process-Sliding-Log-Implementierung für exakte Rolling-Window-Limits. Zudem werden mandantenbasierte Limiter, Bereinigungsmuster für Maps, die korrekte Platzierung von Wait() für Outbound-Throttling sowie Abwägungen zwischen Genauigkeit und Speicherbedarf behandelt. Für verteilte Limits empfiehlt der Beitrag Redis und das Paket github.com/go-redis/redis_rate auf Basis des GCRA-Algorithmus. Der Beitrag wurde am 20.05.2026 veröffentlicht.

Signal analysieren
Executive Briefing & Watchlist

Alle künftigen Signale zu Redis & Wettbewerbern im Briefing erhalten

Verpassen Sie keine M&A-Transaktionen, Führungswechsel, Kunden-Etats oder Produkt-Launches mehr. Polaris7 überwacht über 20.000 Primärquellen rund um die Uhr und liefert evidenzbasierte Telemetrie direkt in Ihr wöchentliches Executive Briefing.

Tägliche Primärquellen-ScansKuratierte Executive BriefingsJederzeit abbestellbar