Beobachtetes Signal · 11. März 2026 · Technical Release · Quelle: https://martechseries.com/feed/ · Relevanz: 3/5 · Sentiment: Positiv
Appier veröffentlicht risikobewusstes Agentic-AI-Framework zur Verbesserung der Entscheidungszuverlässigkeit
Appier hat eine neue Untersuchung mit dem Titel „Answer, Refuse, or Guess?“ vorgestellt, die ein risikobewusstes Entscheidungsframework zur Quantifizierung des LLM-Verhaltens unter variierenden Risikobedingungen einführt. Die Studie modelliert strukturierte Risikoparameter und zeigt eine strategische Imbalance bei führenden LLMs, die in Hochrisikoszenarien zu häufig raten und in Low-Risk-Situationen zu oft ablehnen. Zur Lösung schlägt Appier einen Ansatz zur Kompetenzaufteilung vor: Task Execution, Confidence Estimation und Expected-Value Reasoning. Diese Methodik soll Enterprise-Bedenken hinsichtlich Halluzinationen adressieren und die Entscheidungszuverlässigkeit erhöhen. Die Erkenntnisse wurden bereits in die Plattformen Ad Cloud, Personalization Cloud und Data Cloud integriert. Laut einer McKinsey-Studie aus dem Jahr 2025 experimentieren derzeit 62 % der Unternehmen mit AI Agents.
Die Forschung verbessert die Messbarkeit und Entscheidungszuverlässigkeit von Agentic AI und LLMs, adressiert zentrale Enterprise-Adoptionsbarrieren und unterstreicht die Produktintegration in Appiers MarTech-Ökosystem.
Marktsignale zu Appier in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Appier veröffentlichte das Research-Paper „Answer, Refuse, or Guess? Investigating Risk-Aware Decision Making in Language Models“.
- Das Framework konvertiert LLM-Entscheidungen unter verschiedenen Risikobedingungen in quantifizierbare Metriken wie Rewards, Penalties und Refusal Costs.
- Die Studie identifizierte eine strategische Imbalance: Modelle neigen zu Over-Guessing bei hohem Risiko und Over-Refusing bei niedrigem Risiko.
- Appier schlägt einen Skill-Decomposition-Ansatz vor, der Task Execution, Confidence Estimation und Expected-Value Reasoning kombiniert.
- Die Forschungsergebnisse wurden direkt in die Agentic-AI-gestützten Produkte Ad Cloud, Personalization Cloud und Data Cloud integriert.
Verknüpfte Unternehmen
2 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Study: AI Models Learn to Refuse Answers When Uncertain
Researchers at Google DeepMind conducted a study on large language models (LLMs) including GPT-4o, Gemma 3 27B, Deepseek-V3, and Qwen3-Next-80B-A3B-Instruct to investigate how these models decide whether to answer a query or abstain due to uncertainty. Using an experimental paradigm with four phases, they found that models apply implicit confidence thresholds, and that steering their internal confidence levels causally affects abstention rates. The findings suggest that models can be made to refuse answers when their confidence is low, potentially reducing hallucinations. This ability is considered crucial for autonomous AI agents that must recognize their own uncertainty. The study was published in Nature Machine Intelligence.
Enterprise-Adoption von KI-Agenten birgt unerkannte Risiken und Governance-Lücken
Der zunehmende Einsatz von KI-Agenten in Unternehmens-Workflows schafft ein wachsendes, oft unsichtbares Haftungsrisiko, das als „Shadow Ledger“ bezeichnet wird: automatisierte Agentenentscheidungen ohne kodifizierte Autorisierung, Nachvollziehbarkeit oder konsistente Markenidentität. Vor dem Hintergrund des rasanten Marktwachstums, wie der kolportierten 30-Milliarden-Dollar-Umsatz-Run-Rate von Anthropic, geben laut Berichten 82 % der CIOs an, das Verhalten ihrer eingesetzten KI-Agenten nicht adäquat steuern zu können. Drei fundamentale Architekturdefizite – die Governance-, Accountability- und Identity-Gaps – führen zu finanziellen, regulatorischen und Customer-Experience-Schäden. Angesichts steigender Vorfälle (233 dokumentierte KI-Incidents im Stanford AI Index 2025) prognostiziert Gartner, dass bis 2027 über 40 % der agentischen KI-Projekte wegen unzureichender Governance abgebrochen werden. Als Lösung wird ein vorgeschalteter Governance-Layer (Decision Gates und Decision Rights) empfohlen, der jede Agentenaktion vorab autorisiert.
KI halluziniert selbstbewusst: UX-Design muss Unsicherheiten zwingend transparent machen
Aktuelle Large Language Models (LLMs) liefern regelmäßig falsche Antworten mit hohem Selbstbewusstsein. Ursache hierfür sind Trainings- und Evaluierungsmethoden, die spekulative Behauptungen gegenüber dem Eingeständnis von Unsicherheit belohnen. Um diese Halluzinationsrisiken zu minimieren, wird die Implementierung eines „Harness“-Frameworks empfohlen. Diese Schutzschicht aus UI- und Runtime-Guardrails visualisiert Step-by-Step-Reasoning, zwingt Modelle zur Kennzeichnung von Unsicherheiten und ermöglicht selektive Vorhersagen, bei denen das System bei unzureichender Konfidenz die Antwort verweigert. Aktuelle Studien und Branchenanalysen belegen eine riskante, ungeprüfte Nutzung von KI-Outputs in Unternehmen bei gleichzeitig steigenden Halluzinationsraten in neueren Reasoning-Modellen. Produktteams sollten daher auf Design-Patterns wie kognitive Prüfschleifen setzen. Runtime-Toolkits wie NeMo Guardrails von NVIDIA ermöglichen die Durchsetzung solcher Sicherheitsregeln auf Systemebene, ohne dass Modifikationen am zugrundeliegenden Basismodell erforderlich sind.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.