Beobachtetes Signal · 22. Sept. 2026 · Technical Guide · Quelle: Lennys Newsletter · Relevanz: 3/5 · Sentiment: Positiv
Advanced Evals: Verborgene KI-Fehler in Produkten systematisch beheben
Dieser Leitfaden von Hamel Husain und Shreya Shankar bietet ein Framework für fortgeschrittene Evaluationen (Evals) in KI-Produkten. Die Autoren betonen, dass die strukturierte Fehlererkennung noch vor der Definition von Metriken erfolgen muss, analog zum Product Discovery. Vorgestellt wird ein dreistufiger Prozess zur Fehleranalyse mithilfe von Coding Agents wie Codex oder Claude, wobei Risiken wie Automation Bias und Criteria Drift adressiert werden. Ein neues Open-Source-Plugin ('evals skills') unterstützt dabei beim Trace Review und Clustering. Praxisbeispiele von Unternehmen wie Shopify, Cursor, Ramp und Harvey belegen, wie fundierte Evals zu massiven Effizienz- und Qualitätsgewinnen führen. Der Beitrag thematisiert zudem synthetische Datengenerierung sowie Human-in-the-Loop-Annotationen und empfiehlt einen Richtwert von mindestens 100 Traces für belastbare Analysen.
Das Framework bietet AdTech- und MarTech-Entwicklern entscheidende Methoden zur Qualitäts- und Kostenoptimierung von KI-Systemen, was angesichts des wachsenden Einsatzes von generativer KI für Kampagnenautomatisierung und Targetingsysteme geschäftskritisch ist.
Marktsignale zu Shopify in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren Polaris7-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Shopify entwickelte mittels Evals einen KI-Workflow-Builder, der 2,2-mal schneller und 68 % kostengünstiger agiert als das bisherige Frontier-Model-System.
- Cursor optimierte das Routing via 'Auto Balance' durch Evals und senkte die Kosten um 41 %.
- Ramp steigerte die Genauigkeit der automatisierten Belegerfassung nach Eval-Investitionen von 35 % auf 83 %.
- Harvey überarbeitete seinen KI-Vertragsprüfer auf Eval-Basis und verdoppelte den internen Qualitäts-Score nahezu.
- Die Autoren stellen auf GitHub ein Open-Source-Plugin ('evals skills') zur Unterstützung des Error Discovery bereit.
Verknüpfte Unternehmen
9 verknüpfte Unternehmen“Shopify nutzte Evals zur Entwicklung eines KI-Workflow-Builders, der deutlich schneller und kostengünstiger arbeitete als das Altsystem.”
“Cursor optimierte seine Routing-Performance mit Evals, was zu höherer Kundenzufriedenheit und geringeren Kosten führte.”
“Ramp steigerte die Genauigkeit seiner automatischen Belegerfassung durch gezielte Evaluationen massiv.”
“Harvey verbesserte die Qualität seines KI-Vertragsprüfers durch den Einsatz von Evals signifikant.”
“Anthropic hob hervor, dass das Schreiben von Evals zu den wichtigsten Aufgaben für Produktteams geworden ist.”
“Y Combinator bezeichnet Evals als den entscheidenden Burggraben für erfolgreiche KI-Start-ups.”
“Glean nutzt Evals zur kontinuierlichen Optimierung seiner KI-Anwendungen.”
“Robinhood setzt Evaluierungsmethoden ein, um die Zuverlässigkeit seiner KI-Features zu sichern.”
“ElevenLabs wendet Evals an, um die Leistungsfähigkeit seiner Audiotechnologien zu maximieren.”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Prüfen Ihre AI-Agent-Eval-Sets eigentlich echte Funktionalität?
Der Artikel argumentiert, dass ein Evaluations-Set (Eval-Set) das nachhaltige Kernprodukt ist, das definiert, ob ein AI Agent produktionsreif ist. Eval-Sets bleiben über Modellwechsel, Prompt-Überarbeitungen, Tool-Erweiterungen und Anbieterwechsel hinweg aussagekräftig, da sie die Definition von „Funtionstüchtigkeit“ unabhängig von der Implementierung kodieren. Der Autor empfiehlt, Eval-Sets aus realen Produktionsfehlern zu erstellen (wobei jeder Vorfall zu einem permanenten Testfall wird), Tests auf ausschlussrelevante Fehlermodi zu gewichten, die Verteilung des normalen Traffics abzubilden und Verhaltensweisen statt exakter Output-Strings zu validieren. Das Stück verweist auf offene Evaluierungs-Frameworks (z. B. OpenAI Evals) und beleuchtet Zuverlässigkeitsherausforderungen für nondeterministische Agents. Zudem wird erwähnt, dass Sentry Sitzungen für Claude Code überwachen kann.
KI-Agenten im Produktivcode: Fehlende Fehlertoleranz offenbart Evaluierungsengpass
Ein Software-Ingenieur, der monatelang von KI-Agenten generierten Code evaluierte, identifiziert ein systematisches Fehlermuster: Der Output ist zwar syntaktisch korrekt, vernachlässigt jedoch kritische Produktivanforderungen wie Retries, Timeouts, IAM-Berechtigungen, Concurrency und Distributed States. Die Ursache liege primär in unzureichenden Evaluierungsframeworks statt in den Basismodellen selbst. Phänomene wie Reward Hacking und reine Golden-Path-Annahmen verdeutlichen die Notwendigkeit spezialisierter Rollen wie AI Evaluators sowie fortschrittlicher LLMOps- und RL-Umgebungen. Als Lösungsansatz entwickelt der Autor ein quelloffenes Fault-Injection-Harness, das Prinzipien des Chaos Engineering mit KI-Evaluierungen kombiniert, um agentengenerierten Infrastruktur-Code über deterministische Pass/Fail-Kriterien unter realen Fehlerbedingungen zu testen. Das Projekt soll zeitnah via GitHub und Portfolio veröffentlicht werden.
Erstellung einer ersten KI-Eval in Claude
Dieser Leitfaden (veröffentlicht am 28.07.2026) beschreibt eine praxisnahe Methode zur Erstellung einer Offline-Evaluierung für KI-Funktionen vor dem Vorhanden sein von Produktionsdaten. Gestützt auf Einblicke von Daniel McKinnon (ehemaliger PM für Llama bei Meta) erläutert der Artikel die Einrichtung eines Eval-Projekts in Claude oder ChatGPT, die Definition einer einseitigen Funktionsspezifikation und die Erstellung von Testfällen. Dabei werden Best- und Worst-Case-Szenarien definiert, mittels KI rund 100 Testfälle generiert und die Ergebnisse durch einen kalibrierten binären Bewerter anhand von drei Kriterien bewertet. Der Ansatz empfiehlt iterative Anpassungen zur Definition von Leitplanken für die Entwicklung und betont, dass das Urteilsvermögen des Product Managers bei der Eval-Konstruktion zentral ist.
Alle künftigen Signale zu Shopify & Wettbewerbern im Briefing erhalten
Verpassen Sie keine M&A-Transaktionen, Führungswechsel, Kunden-Etats oder Produkt-Launches mehr. Polaris7 überwacht über 20.000 Primärquellen rund um die Uhr und liefert evidenzbasierte Telemetrie direkt in Ihr wöchentliches Executive Briefing.