Beobachtetes Signal · 12. Aug. 2026 · Technical Release · Quelle: t3n · Relevanz: 4/5 · Sentiment: Negativ
Forscher extrahieren sensible Daten aus LLM-Reasoning-Protokollen
Deutsche Forscher haben eine Studie veröffentlicht, die zeigt, dass verschlüsselte „Reasoning Logs“, die von APIs großer Sprachmodelle zurückgegeben werden, durch Kompatibilitäts- und Modellmodifikationsangriffe exartikuliert und dekoriert werden können. Sie berichten, dass Reasoning Logs, die zwischen Modellen innerhalb desselben Ökosystems (Anthropic, OpenAI, Google) geteilt werden, in älteren oder modifizierten Modellen wiederverwendet werden können, um den ursprünglichen Klartext wiederherzustellen. In Tests an 6.708 öffentlichen Repositories von GitHub und Hugging Face entschlüsselte das Team 315.320 Reasoning Logs und fand sensible Daten wie API-Schlüssel, Passwörter, Zugriffstoken und persönliche E-Mail-Adressen. Sicherheitsexperten warnen, dass solche Protokolle als sensible Daten behandelt werden sollten, da eine reine Verschlüsselung die Wiederherstellung nicht verhindert, wenn schwächere oder modifizierte Modelle als Decoder fungieren.
Die Untersuchung demonstriert eine praktische Methode zur Wiederherstellung sensibler Daten aus verschlüsselten LLM-Artefakten über große KI-Ökosysteme hinweg, was erhebliche Sicherheits- und Datenschutzrisiken für KI-Implementierungen und nachgelagerte Integrationen birgt.
Marktsignale zu Anthropic in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Forscher veröffentlichten eine Studie mit dem Titel „Stealing Reasoning Traces from Proprietary LLM APIs“ (arXiv).
- Die Studie ergab, dass Reasoning Logs großer KI-Ökosysteme über kompatible Modelle hinweg wiederverwendet und von schwächeren oder manipulierten Modellen dekodiert werden können.
- Für ihre Auswertung nutzten die Forscher 6.708 öffentliche Repositories auf GitHub und Hugging Face und entschlüsselten 315.320 Reasoning Logs.
- Die entschlüsselten Logs enthielten sensible Elemente wie 62 API-Schlüssel, 33 Passwörter, 24 Zugriffstoken und 30 persönliche E-Mail-Adressen.
- Voldemaras Kadys, Head of Security bei Cybernews, warnte, dass Reasoning Logs wie andere sensible Daten behandelt werden sollten, da Verschlüsselung keine Unzugänglichkeit garantieren kann.
Verknüpfte Unternehmen
7 verknüpfte Unternehmen“According to the researchers, the three largest AI ecosystems are affected: Anthropic, OpenAI and Google with their respective AI models....”
“According to the researchers, the three largest AI ecosystems are affected: Anthropic, OpenAI and Google with their respective AI models....”
“According to the researchers, the three largest AI ecosystems are affected: Anthropic, OpenAI and Google with their respective AI models....”
“The researchers used 6,708 public repositories on GitHub and Hugging Face for their test, which allowed them to decrypt 315,320 reasoning-lo...”
“The researchers used 6,708 public repositories on GitHub and Hugging Face for their test, which allowed them to decrypt 315,320 reasoning-lo...”
“The article includes external editorial content provided by TargetVideo GmbH as a supplementary content provider on t3n.de....”
“The article references external editorial content described as a YouTube Video that complements t3n.de's editorial offering....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Angriff extrahiert verschlüsselte Chain-of-Thought-Prozesse von KI-Modellen
Ein Forschungsteam um Alexander Panfilov, Florian Tramer, Yarin Gal und Kyle Miller hat einen neuartigen Seitenkanalangriff aufgedeckt, der verschlüsselte Chain-of-Thought-Prozesse von Frontier-KI-Systemen extrahieren kann. Die Methode nutzt die Wiederholung (Replay) verschlüsselter Denkpfade auf schwächere Modellvarianten, die sich Entschlüsselungsschlüssel teilen, aber weniger Alignment-Sicherheitsvorkehrungen aufweisen. Dadurch geben diese Modelle die internen Denkprozesse des Ursprungsmodells im Klartext aus. Die Forscher demonstrierten den Angriff an proprietären Basismodellen und wiesen nach, dass ein Open-Weight-Modell (Kimi K3 / Moonshot AI) die Spuren mit hoher Ähnlichkeit reproduzierte, was auf eine Wissensdestillation hindeutet. Die Schwachstelle birgt erhebliche Risiken für Datenlecks, IP-Verlust und regulatorische Prüfungen. Als Gegenmaßnahmen werden modellspezifische Schlüsselisolierung, Trace-Redaktion, Schlüsselrotation, Differential Privacy sowie Zero-Knowledge-Proofs (ZKPs) diskutiert.
Forscher warnen: Large Language Models könnten dauerhaft unsicher bleiben
Eine Analyse des MIT Technology Review warnt, dass Large Language Models (LLMs) fundamentale Sicherheitsschwächen aufweisen, die möglicherweise nie vollständig behoben werden können. Dies macht sie für den Einsatz in Hochrisikobereichen potenziell untauglich. Forscher weisen darauf hin, dass Modelle Nutzer-Prompts, interne Chain-of-Thought-Prozesse und externe Tool-Nutzung regelmäßig vermischen. Dadurch entstehen neuartige Angriffsvektoren, die weit über klassische Prompt-Injection-Angriffe hinausgehen. Diese inhärenten Schwachstellen haben weitreichende Konsequenzen für Unternehmen, Regierungen, das Militär und das Gesundheitswesen. Da das Problem direkt aus der Modellarchitektur und den internen Denkprozessen resultiert und nicht nur auf fehlerhafte Prompts zurückzuführen ist, stoßen Software-Updates, Richtlinien oder Monitoring-Maßnahmen bei kritischen Systemen an klare Grenzen. Die architektonischen Herausforderungen verdeutlichen, dass generative KI in sensiblen Geschäftsprozessen mit strukturellen Sicherheitsrisiken behaftet bleibt, die sich mit aktuellen Methoden nicht nachhaltig lösen lassen.
LLMs Leak Personal Data, Raising Doxxing Risks
Generative large language models can inadvertently expose sensitive personal data by aggregating dispersed public records and user-contributed content. The article reports examples where models returned private phone numbers, past addresses, and employer links; Reddit users said Google Gemini returned a private number as a service hotline, and security researchers found chatbots suggesting manipulated support numbers placed by fraudsters. Model behaviour is inconsistent: ChatGPT, Gemini and Claude often refuse or limit sensitive outputs, while Grok (xAI) was observed to be more permissive. The piece warns that automated aggregation by LLMs lowers the bar to doxxing, highlights limited consumer options for removing third-party data (especially in German-speaking markets), and calls for stronger legal/political safeguards and technical controls over which personal data LLMs may reveal.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.