Looped Transformer-Reasoning: Die sichtbare KI-Spur ist nur Narration

Der Artikel beleuchtet die Implikationen von looped Transformer-Architekturen, wie sie beispielsweise in GPT-6 Astra zu finden sind, für die Evaluierung von KI-Agenten. Bei derartigen Modellen verteilt sich die Berechnung auf rekursive Durchläufe, wodurch der sichtbare Chain-of-Thought-Trace eher einer post-hoc-Zusammenfassung als einem exakten Protokoll des eigentlichen Denkprozesses entspricht. Diese Entkopplung von Rechenleistung und Narration erschwert Evaluierungsmethoden, die auf den textbasierten Trace als Nachweis vertrauen. Der Beitrag empfiehlt daher, den Fokus auf direkt beobachtbare Verhaltensweisen wie Tool-Nutzung, Dateiänderungen und Endergebnisse zu legen. Zudem wird gewarnt, dass die erzwungene Ausgabe des Reasoning-Prozesses das Modellverhalten verändert, weshalb Benchmarks solcher Varianten nicht direkt mit Versionen mit verstecktem Trace vergleichbar sind.