Beobachtetes Signal · 15. Okt. 2026 · Partnership · Quelle: CNBC Technology · Relevanz: 4/5 · Sentiment: Positiv
Anthropic gewährt METR mitarbeiterähnlichen Zugang zur KI-Bewertung
Anthropic hat einen bedeutenden Schritt in der KI-Sicherheit angekündigt, indem es einem Team von METR, einer Nonprofit-Organisation zur Bewertung von Frontier-KI-Modellen, mitarbeiterähnlichen Zugang gewährt. Dieser Zugang umfasst Unternehmenshardware, Büroräume und interne Tools und ermöglicht METR, eingehende Risikobewertungen durchzuführen. METR wird seine Ergebnisse veröffentlichen können, mit engen Redaktionsrechten für Anthropic. Diese Initiative folgt auf Anthropics Engagement für unabhängige Drittbewertungen und die Unterzeichnung des White House Accord on Super Intelligence. Das Unternehmen arbeitet außerdem mit SecureBio und Accenture als Evaluatoren zusammen und plant weitere Partnerschaften. Anthropic betont die Bedeutung unabhängiger Bewertung für Frontier-KI-Unternehmen und entwickelt ein dreistufiges System für den Evaluator-Zugang, wobei METR auf der höchsten Stufe steht.
Diese Ankündigung spiegelt einen bedeutenden Wandel hin zu institutionalisierter Drittkontrolle von Frontier-KI-Modellen wider, was einen Präzedenzfall für die KI-Branche schaffen und die Entwicklung und den Einsatz von KI-Systemen in der Werbung und anderen Bereichen beeinflussen könnte.
Marktsignale zu METR in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Anthropic gewährt METR mitarbeiterähnlichen Zugang zu internen Systemen und Tools.
- Die Zusammenarbeit umfasst sechs METR-Mitarbeiter mit Unternehmenshardware und Büroräumen.
- METR wird seine Risikobewertungen ohne Vetorecht von Anthropic veröffentlichen, jedoch mit engen Redaktionsrechten.
- Anthropic arbeitet außerdem mit SecureBio und Accenture als unabhängige Evaluatoren zusammen.
- Dies folgt auf die Unterzeichnung des White House Accord on Super Intelligence durch Anthropic.
Verknüpfte Unternehmen
9 verknüpfte Unternehmen“METR ist ein gemeinnütziger Evaluator mit Zugriff auf der dritten Stufe.”
“Anthropic kündigte Partnerschaften mit METR und SecureBio an, um unabhängige Prüfer einzubinden.”
“Anthropic wählte Accenture als ersten Partner für Sicherheitsbewertungen aus.”
“Anthropic führt frühe Gespräche mit Hugging Face.”
“OpenAI sagte dasselbe zu, und beide Unternehmen haben seitdem zusammen mit Google, Meta, Nvidia und xAI ein Abkommen des Weissen Hauses unte...”
“Google gehört zu den Unternehmen, die das Abkommen des Weissen Hauses zur KI-Sicherheit unterzeichnet haben.”
“Meta ist Unterzeichner des Weisse-Haus-Abkommens zur verantwortungsvollen KI-Entwicklung.”
“Nvidia gehört zu den Technologiekonzernen, die das Abkommen des Weissen Hauses unterzeichnet haben.”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
KI-Sicherheitsprüfer gewinnen an Bedeutung in der freiwilligen Aufsicht
Der Artikel berichtet, dass KI-Sicherheitsprüfer wie METR, Apollo Research und Accenture an Bedeutung gewinnen, da Anthropic und OpenAI sich verpflichten, unabhängige Gutachter zu integrieren. Dies folgt auf ein Abkommen im Weißen Haus, das freiwillige externe Audits fördert, angesichts von Bedenken hinsichtlich der Selbstregulierung. Die Prüfer stehen vor Herausforderungen wie Finanzierung, Zugang und Unabhängigkeit, wobei Kritiker vor Interessenkonflikten warnen. OpenAI hat Mitarbeiter entlassen, die angeblich mit Prüfern kommuniziert haben, was Ängste vor unterdrücktem Widerspruch schürt. Gesetzesinitiativen wie der FRONTIER Act und kalifornische Gesetze zielen darauf ab, die Drittprüfung zu institutionalisieren. Die Branche bewegt sich in Richtung strukturierter externer Bewertung, aber Fragen zu Standards und finanzieller Unterstützung bleiben offen.
Hugging Face Politikchefin zweifelt an neutralen AI-Evaluatoren
Irene Solaiman, Chief Policy Officer bei Hugging Face, kritisierte auf dem TechCrunch Disrupt den aktuellen Zustand von KI-Modell-Benchmarks. Sie argumentierte, dass Evaluierungen eine sich entwickelnde Wissenschaft seien, der es an Standardisierung und Reproduzierbarkeit mangele und dass Tests schwer vergleichbar seien. Solaiman stellte die Vertrauenswürdigkeit eingebetteter Evaluatoren in Frage – externer Beobachter, die in KI-Labore platziert werden – und betonte, dass die Qualifikationen für effektive Evaluatoren standardisiert werden müssten. Sie hob hervor, dass sich die Bewertungen von reinen Modelltests hin zu Tests des gesamten Systems, einschließlich Harness und Agent, verschieben, die komplexer und teurer sind. Solaiman forderte einen einheitlichen, branchenweiten Ansatz für Benchmarks, um deren Nutzen zu erhalten. Der Artikel verweist auf die Kritik an der Entscheidung von Anthropic, Accenture als ersten Evaluator zu beauftragen.
Anthropic bestätigt Betrieb eines eigenen AI-Biologie-Labors
Anthropic hat bestätigt, dass das Unternehmen ein biologisches Nasslabor betreibt, in dem KI-Modelle physische Experimente durchführen können. Damit wird theoretische KI-Forschung direkt mit realen Labortests verknüpft. Geleitet von Eric Kauderer-Abrams, führt das Labor interne sowie externe Forschung durch, verzichtet jedoch bewusst auf die Medikamentenentwicklung, um eine Konkurrenz zu Pharmakunden wie Novo Nordisk zu vermeiden. Zeitgleich startete Anthropic ein Life Sciences Verification Program, das geprüften Forschern den Zugang zu fortschrittlichen Modellen ermöglicht. Diese Entwicklung folgt auf die Übernahme des Stealth-Biotech-Startups Coefficient Bio im April für rund 400 Millionen US-Dollar. Der Schritt erfolgt vor dem Hintergrund branchenweiter und interner Sicherheitsbedenken, die unter anderem zu einem Forscher-Rücktritt und Forderungen von CEO Dario Amodei nach strengerer Selbstregulierung geführt haben.
Alle künftigen Signale zu METR & Wettbewerbern im Briefing erhalten
Verpassen Sie keine M&A-Transaktionen, Führungswechsel, Kunden-Etats oder Produkt-Launches mehr. Polaris7 überwacht über 20.000 Primärquellen rund um die Uhr und liefert evidenzbasierte Telemetrie direkt in Ihr wöchentliches Executive Briefing.