Beobachtetes Signal · 21. Okt. 2026 · Technical Release · Quelle: a16z · Relevanz: 2/5 · Sentiment: Positiv
Hardware-Spezialisierung kehrt für KI-Inferenz zurück
Der a16z-Newsletter-Artikel greift die historische Debatte zwischen Allzweck- und spezialisierten Chips auf und argumentiert, dass das Pendel für KI-Inferenz zugunsten spezialisierter Hardware ausgeschlagen ist. Er beschreibt, wie allgemeine CPUs in den 1990er Jahren aufgrund volumengetriebener Leistungssteigerungen gewannen, aber die Verschiebung zu GPUs und das Ende der Dennard-Skalierung die Landschaft veränderten. Der Artikel hebt hervor, dass spezialisierte Chips wie Nvidias LPU (ehemals Groq), Cerebras und d-Matrix jetzt GPUs ergänzen und eine bessere Leistung pro Watt für heterogene Inferenz-Workloads liefern. Es wird berichtet, dass GPUs die CPUs beim Umsatz überholt haben und dass die Inferenznachfrage bis 2030 um das 24-fache steigen wird, während die verfügbare Leistung nur um das Zweifache. Der Autor von Gimlet plädiert für die Orchestrierung verschiedener Beschleuniger, um die Effizienz zu maximieren.
Dieser Artikel diskutiert die strategische Verlagerung hin zu spezialisierter KI-Inferenz-Hardware und die Orchestrierung heterogener Beschleuniger, was für die AdTech-Infrastruktur relevant ist, die zunehmend auf KI für Targeting, Personalisierung und Optimierung setzt. Es handelt sich jedoch nicht um eine direkte Ankündigung eines großen Produkts oder eines branchenverändernden Ereignisses, sondern eher um einen analytischen Kommentar.
Marktsignale zu NVIDIA in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren Polaris7-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- GPUs erzielten mehr Umsatz als CPUs für Chiphersteller.
- Nvidia übernahm Groq, jetzt bekannt als Nvidias LPU.
- Die Inferenznachfrage wird von 2026 bis 2030 um das 24-fache steigen, während die verfügbare Leistung nur um das Doppelte.
- Nvidias Dally berichtete über einen 1000-fachen Leistungsgewinn bei Single-Chip-Inferenz in zehn Jahren.
- Gimlet-Analysen zeigen, dass disaggregierte Techniken bei gleicher Leistung eine 2- bis 10-fache schnellere Leistung erzielen.
Verknüpfte Unternehmen
7 verknüpfte Unternehmen“Nvidias LPU, ehemals Groq, ist ein SRAM-zentrierter Chip; Nvidia orchestriert Inferenz über GPUs und LPUs.”
“Groq, jetzt bekannt als Nvidias LPU, ist ein SRAM-zentrierter Chip mit Near-Memory-Compute-Architektur.”
“Near-Memory-Compute-Chips wie Groq, Cerebras und d-Matrix platzieren den Speicher direkt auf dem Die neben der Recheneinheit.”
“Andere Hardware wie Googles TPU, Cerebras-Wafer, d-Matrix Corsair, Trainium, AMD GPUs.”
“Andere Hardware wie Googles TPU, Cerebras-Wafer, d-Matrix Corsair, Trainium, AMD GPUs.”
“Intel und Softwareanbieter konnten stark in Betriebssystem- und Compiler-Seite investieren.”
“Robert Dennard bei IBM veröffentlichte, dass ein kleinerer Transistor schneller, billiger und stromsparender war.”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Multi-Silicon-Ära: NVIDIA forciert disaggregierte AI Inference
Auf der GTC 2026 präsentierte NVIDIA umfassende Infrastruktur-Updates und neue Systeme für eine Multi-Silicon- und disaggregierte Inference-Strategie. Zu den Kernankündigungen gehören die Systeme Groq LPX, Vera ETL256 und STX, Erweiterungen der Kyber-Rack-Familie sowie Multi-Rack-Formate wie Rubin Ultra NVL576 und Feynman NVL1152. Nach einer 20-Milliarden-Dollar-Lizenzierung von Groq-IP und der Übernahme von Schlüsseltalenten integriert NVIDIA Groq-LPUs (LP30/LP35) in seine Vera- und Rubin-Stacks; ein LP40-Chip auf TSMC-N3P-Basis mit CoWoS-R und NVLink ist in Planung. NVIDIA treibt zudem die Disaggregation von Attention- und FFN-Layern (AFD) voran, um Latenzen beim Decode-Prozess via LPUs zu minimieren. Ergänzt wird die Roadmap durch flüssigkeitsgekühlte CPU-Racks (Vera ETL256), NVMe-Speicherdesigns (STX/CMX) und neue CPO-/Optik-Konzepte für massives Scale-up.
Etched entwickelt spezialisierte Hardware für KI-Inference
Laut einem a16z-Meinungsbeitrag entwickelt sich KI-Inference zum größten und stabilsten Computing-Workload, was spezialisierte Hardware gegenüber universellen GPUs begünstigt. Im Fokus steht das Startup Etched, gegründet von Gavin Uberti, Robert Wachen und Chris Zhu. Das Unternehmen entwickelt Full-Stack-Inferenzsysteme (Chips, Boards, Interconnects, Racks), die durch „Low-Voltage Inference“ und „Cluster-Scale Memory“ auf maximale Tokens-per-Watt optimiert sind. Etched hat seinen ersten Produktionschip im N4P-Verfahren von TSMC erfolgreich auf Anhieb gefertigt (First-Pass Silicon), über 400 Ingenieure führender Hardware-Konzerne rekrutiert und plant, erste Racks im Sommer an Kunden auszuliefern. a16z gab zudem eine Partnerschaft mit Etched bekannt.
Inference-Wendepunkt: KI-Markt treibt Nachfrage nach CPU- und Serving-Infrastruktur
Eine Branchenanalyse von Latent.Space prognostiziert einen strukturellen Wendepunkt im KI-Markt („Inference Inflection“): Inference-Compute löst das reine GPU-Training als primären strategischen Engpass ab. Unter Verweis auf Branchenführer wie Sam Altman und Noam Brown wird verdeutlicht, dass Unternehmen ihren Fokus zwingend auf Inference ausrichten müssen. Auch NVIDIA meldet exponentiell steigenden Token-Bedarf. Parallel quantifizierte Intel-CEO Lip-Bu Tan im Q1-Earnings-Call die wachsende Auslastung von CPUs. Treiber dieser Verschiebung sind Agentic AI und Long-Context-Workloads, die tiefgreifende technische Anpassungen im Model-Serving erzwingen. Dazu zählen Prefill/Decode-Disaggregation, spezialisierte Kernel-Optimierungen (etwa Alibabas FlashQLA, vLLM-Co-Design auf Blackwell) sowie neue Modellarchitekturen wie Mistral Medium 3.5 und IBM Granite 4.1. Diese Neugewichtung von GPU- und CPU-Workloads transformiert bestehende Rechenzentrums- und Cloud-Architekturen fundamental.
Alle künftigen Signale zu NVIDIA & Wettbewerbern im Briefing erhalten
Verpassen Sie keine M&A-Transaktionen, Führungswechsel, Kunden-Etats oder Produkt-Launches mehr. Polaris7 überwacht über 20.000 Primärquellen rund um die Uhr und liefert evidenzbasierte Telemetrie direkt in Ihr wöchentliches Executive Briefing.