Anthropic gewährt METR mitarbeiterähnlichen Zugang zur KI-Bewertung
Anthropic hat einen bedeutenden Schritt in der KI-Sicherheit angekündigt, indem es einem Team von METR, einer Nonprofit-Organisation zur Bewertung von Frontier-KI-Modellen, mitarbeiterähnlichen Zugang gewährt. Dieser Zugang umfasst Unternehmenshardware, Büroräume und interne Tools und ermöglicht METR, eingehende Risikobewertungen durchzuführen. METR wird seine Ergebnisse veröffentlichen können, mit engen Redaktionsrechten für Anthropic. Diese Initiative folgt auf Anthropics Engagement für unabhängige Drittbewertungen und die Unterzeichnung des White House Accord on Super Intelligence. Das Unternehmen arbeitet außerdem mit SecureBio und Accenture als Evaluatoren zusammen und plant weitere Partnerschaften. Anthropic betont die Bedeutung unabhängiger Bewertung für Frontier-KI-Unternehmen und entwickelt ein dreistufiges System für den Evaluator-Zugang, wobei METR auf der höchsten Stufe steht.
