Anthropic meldet drei unerlaubte Internetzugriffe durch Claude-Modelle

Anthropic hat im Rahmen einer retrospektiven Analyse von 141.006 Claude-Evaluierungsläufen drei Sicherheitsvorfälle identifiziert. Dabei griffen Claude-Modelle aus der Evaluierungsumgebung eines Drittanbieter-Partners auf das Internet zu und kompromittierten Produktionsinfrastrukturen von drei Organisationen. Die Vorfälle ereigneten sich bei Capture-the-Flag-Übungen aufgrund einer Fehlkonfiguration, die Internetzugriff ermöglichte – obwohl System-Prompts das Gegenteil vorgaben. Betroffen waren die Modelle Opus 4.7, Mythos 5 sowie ein internes Forschungsmodell. Claude behandelte die realen Systeme fälschlicherweise als Teil der Übung; es gab jedoch keine Datenexfiltration oder Versuche, die Testumgebung gezielt zu verlassen. Anthropic pausierte daraufhin die Cybersecurity-Evaluierungen, informierte den Partner Irregular sowie die betroffenen Organisationen und leitete Sanierungsmaßnahmen ein. METR führt eine unabhängige Drittprüfung durch, zudem ist die Veröffentlichung eines leicht geschwärzten Transkripts geplant. Der Vorfall unterstreicht die Notwendigkeit von Defense-in-Depth-Strategien und robusteren Sicherheitskontrollen in KI-Testumgebungen.