Beobachtetes Signal · 10. Mai 2026 · Technical Release · Quelle: DEV Community · Relevanz: 3/5 · Sentiment: Positiv
Qwen 3.5 gewinnt lokales Benchmark dank direktem llama.cpp-Einsatz
In einer unabhängigen Benchmark-Runde 3 wurde Ollama durch einen direkten llama.cpp-Server ersetzt, um die lokale LLM-Performance präziser zu messen. Getestet wurden fünf Modelle (Qwen 3.5, Gemma 4, Devstral, Codestral und DeepSeek R1) anhand einer automatisierten Suite mit 12 Aufgaben in fünf Kategorien auf einem NVIDIA RTX 5090 System. Qwen 3.5 dominierte das Leaderboard bei Coding, Agenten-Performance und gewichtetem Gesamtscore mit rund 206,7 Tokens pro Sekunde und einem Score von 85,3. Die Migration setzte rund 44 GB Speicherplatz frei, ermöglichte granulare Inferenz-Flags und verdeutlichte den Durchsatzvorteil von Mixture-of-Experts-Modellen bei lokalen Deployments.
Demonstriert, dass direkte llama.cpp-Implementierungen und Mixture-of-Experts-Modelle einen signifikant höheren lokalen Durchsatz und mehr operative Kontrolle bieten. Dies liefert wertvolle Einblicke für Teams, die On-Premise- oder hybride LLM-Infrastrukturen evaluieren.
Marktsignale zu Ollama in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Migration von Ollama zu einem direkten llama.cpp-Server zur Vermeidung von Verzerrungen durch Ollama-Laufzeitentscheidungen.
- Test von fünf lokalen Modellen über 12 Aufgaben in den Bereichen Coding, Reasoning, Tool-Nutzung, agentisches Multi-File-Coding und Geschwindigkeit.
- Qwen 3.5 erreichte einen Spitzendurchsatz von 206,7 Tokens/Sek. sowie einen gewichteten Gesamtscore von 85,3 und belegte den ersten Platz.
- Hardware-Setup: NVIDIA RTX 5090 (32 GB), AMD Ryzen 9 9950X3D, 64 GB RAM, Samsung 9100 Pro 2 TB NVMe unter Ubuntu 24.04.
- Einsparung von ca. 44 GB Speicherplatz durch Entfernnen von Ollama; Nutzung feingranularer Server-Flags wie --reasoning-budget und --chat-template.
Verknüpfte Unternehmen
5 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Lokale LLMs erreichen praktische Alltagstauglichkeit auf Consumer-Hardware
Ein Entwickler berichtet über signifikante Fortschritte bei der lokalen Ausführung von Large Language Models auf Consumer-Hardware mit zwei RX6800 GPUs und 64 GB RAM. Neuere Qwen-Modelle bieten nun eine überzeugende Performance: Das dichte Modell Qwen3.6-27B überzeugt durch hohe Genauigkeit, während die Mixture-of-Experts-Variante Qwen3.6-35B-A3B durch Geschwindigkeit für agentenbasierte Aufgaben punktet und Qwen-Coder-Next-80B speziell für Programmieraufgaben optimiert ist. Auf Infrastrukturebene verbessern Neuerungen wie der experimentelle Router-Modus von llama.cpp sowie optimierte Attention-Checkpoints und Kontext-Slots die Handhabung erheblich. Ergänzt durch Harnesses wie Hermes und Pi ermöglichen diese lokalen Inferenz-Lösungen eine datenschutzkonforme, netzwerkunabhängige und kosteneffiziente Entwicklung ohne kommerzielle Inferenz-Anbieter. Dies erlaubt Teams eine flexible Evaluierung von On-Premise-Szenarien und Datenschutzanforderungen abseits zentralisierter Cloud-Infrastrukturen.
Neun lokale LLM-Schnittstellen im Praxistest auf einer GPU
Eine praxisnahe Untersuchung evaluierte neun Schnittstellen für lokale Large Language Models auf derselben GPU über einen Zeitraum von rund zwei Wochen. Im Fokus standen dabei Zuverlässigkeit, Offload-Verhalten, Datei-I/O und Kontextverarbeitung statt reiner Tokens pro Sekunde. Die Ergebnisse zeigen erhebliche Varianzen, die primär durch die Runtime beziehungsweise das Framework statt durch die Modellgewichte verursacht werden: Ollama erwies sich als zuverlässiger Standard (32,9 Tokens/Sekunde bei einem 30B Mixture-of-Experts-Modell mit 443 Tokens/Sekunde Prefill), während llama.cpp nach gezieltem Tuning noch höhere Geschwindigkeiten erreichte. LM Studio überzeugte bei der strukturierten Datenextraktion, wohingegen andere Tools wie Unsloth deutliche Kontext-Limits aufwiesen oder wie Claude Code mangels System-Prompt-Parsing scheiterten. Der Autor schließt daraus, dass Benchmarks reale Anwendungsfälle abbilden müssen, da das Verhalten der Tools und nicht nur die Modellwahl die Praxistauglichkeit bestimmt.
Qwen 3.6-35B-A3B auf heterogenem 30GB-GPU-Setup ausgeführt
Ein Entwickler beschreibt das Upgrade einer autonomen Minecraft-KI namens „Kiwi-chan“, die auf einem heterogenen 30GB-Consumer-GPU-Rig (bestehend aus RTX 3060, RTX 3050, GTX 1660 Ti und GTX 1660 Super) betrieben wird, auf das MoE-Modell Qwen 3.6-35B-A3B-Instruct. Die Active 3 Billion-Architektur von Qwen, die etwa 3,5 Milliarden Parameter pro Token aktiv nutzt, übertrifft dichte Modelle auf gemischten PCIe-Systemen durch geringere Rechen- und Bandbreitenengpässe. In Kombination mit dem Split Mode Graph Tensor-Parallelismus von ik_llama.cpp und einer 8-Bit-Quantisierung des KV-Caches (-ctk q8_0 -ctv q8_0) erreicht das Setup unter Ubuntu Server 24.04 LTS mit CUDA 13.0 einen höheren Durchsatz von rund 70–90 Token/s gegenüber 20–35 Token/s bei dichten Modellen sowie ein nutzbares Kontextfenster von 32K bis 64K. Der Beitrag liefert konkrete Deployment-Flags und Empfehlungen für das Tensor-Splitting auf unterschiedlichen GPUs.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.