Beobachtetes Signal · 21. Juli 2026 · Partnership · Quelle: The Pragmatic Engineer · Relevanz: 2/5 · Sentiment: Positiv
Napkin Math: Wie Turbopuffer mit First-Principles-Berechnungen die Suche optimiert
Dieser Newsletter-Beitrag von The Pragmatic Engineer fasst ein Interview mit Simon Eskildsen, Mitgründer und CEO von turbopuffer, zusammen. Im Fokus steht die Methode der sogenannten Napkin Math – schnelle Überschlagskalkulationen von Latenz und Kosten auf Basis erster Prinzipien –, um theoretische Systemgrenzen zu bestimmen und enorme Leistungs- sowie Kostenlücken zu identifizieren. Eskildsen erläutert, wie seine langjährige Tätigkeit bei Shopify und die Entwicklung des Open-Source-Tools toxiproxy seine Herangehensweise an Infrastruktur geprägt haben. Motiviert durch übermäßige Kosten bestehender Lösungen entwickelte er turbopuffer, eine S3-basierte Vector-Search-Architektur. Cursor wurde der erste Kunde, wobei turbopuffer drastische Einsparungen bei den Stückkosten erzielte. Der Beitrag beleuchtet zudem die frühe Finanzierungsphase mit rund 700.000 US-Dollar, architektonische Designentscheidungen wie S3, Clustering und NGINX-Caching sowie generelle Beweggründe von Gründern für Venture Capital.
Ingenieurfokussiertes Profil über eine Startup-Architektur für Vector Search sowie Kosten- und Leistungsoptimierung. Das Thema ist für Cloud-Infrastrukturen und Vector Databases relevant, weist jedoch keinen direkten Bezug zu zentralen AdTech- oder MarTech-Produktänderungen auf.
Marktsignale zu Shopify in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Simon Eskildsen ist Mitgründer und CEO von turbopuffer.
- Simon arbeitete fast ein Jahrzehnt bei Shopify und schuf das 2014 veröffentlichte Open-Source-Tool toxiproxy.
- Turbopuffer nutzte einen S3-basierten Clustering-Ansatz und einen NGINX-Cache als einfache initiale Architektur zur Reduzierung von Suchlatenz und -kosten.
- Cursor wurde der erste Kunde von turbopuffer; laut dem Artikel senkte turbopuffer die Indexierungs- und Suchkosten von Cursor von rund 80.000 USD auf etwa 4.000 USD pro Monat (ca. 95 % Reduktion).
- Turbopuffer nahm initial rund 700.000 US-Dollar auf, um zwei Ingenieure einzustellen; laut dem Artikel überschritt das Unternehmen später einen ARR von 100 Millionen US-Dollar bei einer anfänglichen Finanzierung von unter 1 Million US-Dollar.
Verknüpfte Unternehmen
7 verknüpfte Unternehmen“While at Shopify, Simon became interested in figuring out the theoretical limits of certain computer operations....”
“Cursor migrated their local code-base search over to this brand new product....”
“Cursor migrated their local code-base search over to this brand new product....”
“For the first version, I didn’t even implement a dedicated caching layer. I just put the reverse proxy (NGINX) in front of S3, and that was ...”
“Growing up in Denmark, he dabbled in HTML with tools like Microsoft FrontPage and Adobe’s Dreamweaver....”
“In 2024, the company was valued at $400M, and then its valuation surged to $29.3B. It was sold to SpaceX for $60B this year....”
“Growing up in Denmark, he dabbled in HTML with tools like Microsoft FrontPage and Adobe’s Dreamweaver....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Turbopuffer Builds Search Engine for AI Retrieval
Turbopuffer — founded by Simon Hørup Eskildsen from work that began at Readwise — is positioning itself as a search engine for unstructured data by combining object storage (S3/GCS) with NVMe and memory tiering. The company’s architecture intentionally avoids a traditional consensus layer and relies on modern cloud primitives (object-store consistency, compare-and-swap on object storage, NVMe SSDs) to reduce cost and operational complexity. Early customers (Cursor, Notion) used Turbopuffer to cut costs and improve semantic/code search; the company reports heavy vector and full‑text workloads and is optimizing for agentic retrieval patterns that produce high concurrency. The interview covers origin stories, architectural tradeoffs, tiered storage strategy, pricing evolution, hiring philosophy (‘P99 engineer’), and roadmaps for ANN/ANNV versions and full-text search feature expansion.
Google erzielt 6-fache KV-Cache-Kompression ohne Training
Diese Ausgabe von The Tokenizer beleuchtet aktuelle KI- und ML-Forschung mit Fokus auf Geschwindigkeit und Effizienz. Zu den Highlights gehört TurboQuant von Google Research, eine trainingsfreie KV-Cache-Kompression mittels Polarkoordinaten-Transformationen und Zufallsprojektionen. Dies ermöglicht eine 3-Bit-KV-Quantisierung, eine 6-fache Reduzierung des KV-Speichers und bis zu 8-fache Leistungssteigerungen auf H100 GPUs. Weitere Themen umfassen einen diffusionsbasierten OCR-Ansatz für bis zu 3,2-fach höheren Durchsatz, SkillNet als npm-ähnlichen Paketmanager für Agenten-Skills, Stripes interne KI-Coding-Agenten mit rund 1.300 PRs pro Woche, ByteDances Dateisystem-basierte Context-DB OpenViking sowie das Engram-Speichermodul von DeepSeek für Transformers. Der Newsletter fasst wegweisende Papers, Implementierungen und praxisnahe Walkthroughs zu Inferenz- und Agenteneffizienz zusammen.
Profiling-First-Ansatz senkt E-Commerce-Latenz um 30 %
Eine technische Fallstudie beschreibt, wie ein Team die Latenz einer hochfrequentierten E-Commerce-Plattform innerhalb von rund zweieinhalb Jahren um etwa 30 Prozent reduzieren und gleichzeitig eine Verfügbarkeit von 99,9 Prozent während Spitzenzeiten aufrechtcuerhalten konnte. Die Verbesserungen basieren auf einem wiederholbaren, datengestützten Prozess: Vor jeder Code-Änderung wird unter produktionsnahem Traffic ein Profiling durchgeführt, echte Engpässe statt vermuteter Probleme werden behoben, und gezielte Optimierungen erfolgen in drei Bereichen. Dazu gehören Query-Optimierung durch Batching und selektive Denormalisierung, zielgerichtete Refactorings kritischer Code-Pfade sowie Infrastruktur-Tuning mittels Right-Sizing von Cloud-Instanzen und Funktionskonfigurationen. Zudem automatisierte das Team interne Abläufe, wodurch manuelle Datenprozesse um 80 Prozent reduziert wurden, und setzte auf schrittweise Rollouts mit konsequenter Überwachung der Metriken p50, p95 und p99 inklusive Rollback-Optionen.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.