Enterprise AI: Das Dilemma zwischen Token-Kosten und Personalbudgets

CFOs großer US-Unternehmen stehen vor einem neuen Budgetdilemma, da die Kosten für KI-Inferenz massiv steigen und sie zwischen Ausgaben für Modell-Token und Neueinstellungen abwägen müssen. CNBC sprach mit Branchenexperten darüber, dass viele Unternehmen ihre jährlichen KI-Budgets bereits nach wenigen Monaten aufbrauchen. Etwa 95 % der Nutzung entfallen nach wie vor auf die teuersten Frontier-Modelle. Unternehmen wandern derzeit von einer Phase des sogenannten ‚Tokenmaxxing‘ zu einer Neubewertung ab, ob Premium-Modelle für jede Aufgabe erforderlich sind. Die Umleitung einfacherer Aufgaben auf günstigere Modell-Stufen könnte erhebliche Einsparungen ermöglichen. Der Artikel warnt jedoch, dass die Nachfrage preissensitiver sein könnte als vom Markt angenommen, was direkte Auswirkungen auf die Bewertungen und das Umsatzwachstum von Anbietern wie OpenAI und Anthropic hat.