Beobachtetes Signal · 17. Sept. 2026 · Partnership · Quelle: techcrunch · Relevanz: 3/5 · Sentiment: Positiv
Baseten, Hugging Face und Goodfire kooperieren für Open-Weight-KI-Sicherheit
Base Labs, der Forschungsarm von Baseten, hat eine strategische Partnerschaft mit Hugging Face und Goodfire AI geschlossen, um Sicherheitsstandards für Open-Weight-KI-Modelle zu etablieren. Die Kooperation zielt darauf ab, standardisierte Methoden für das Training und Monitoring von Modellen zu entwickeln und zu veröffentlichen, sodass Safety-Features direkt integriert statt nachträglich aufgesetzt werden. Die Initiative reagiert auf die Zunahme von 'Abliteration' – einer Technik, die bestehende Schutzmechanismen aus offenen Modellen entfernt –, wovon Hugging Face bereits über 6.000 Varianten listet. Zwar nannten die Partner noch keine technischen Details, doch Goodfires Expertise im Bereich KI-Interpretierbarkeit soll eine zentrale Rolle spielen. Ziel des Vorhabens ist es, Transparenz und Open-Source-Ansätze als strategischen Sicherheitsvorteil zu nutzen und transparente Kontrollmechanismen für die Entwickler-Community bereitzustellen.
Die Kooperation adressiert kritische Sicherheitsrisiken bei Open-Weight-Modellen und setzt frühzeitig Standards für die rasant wachsende KI-Infrastrukturbranche.
Marktsignale zu Hugging Face in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren Polaris7-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Baseten etabliert über Base Labs einen neuen Standard für KI-Sicherheitsinfrastruktur.
- Offizielle Partnerschaft mit Hugging Face und Goodfire AI angekündigt.
- Auf Hugging Face sind bereits über 6.000 abliterierte (entsicherte) Modelle gelistet.
- Baseten sicherte sich im Juni eine Series-F-Finanzierung über 1,5 Mrd. USD bei einer Bewertung von 13 Mrd. USD.
- Goodfire AI schloss eine Series B über 150 Mio. USD unter Führung von B Capital ab.
Verknüpfte Unternehmen
3 verknüpfte Unternehmen“Geht eine Partnerschaft mit Hugging Face ein, um Infrastrukturen zur Sicherheitsbewertung und -überwachung aufzubauen.”
“Baseten, ein Anbieter von KI-Inferenzlösungen, startete gemeinsam mit seinem Forschungsarm Base Labs einen neuen Sicherheitsinfrastruktursta...”
“Goodfire AI nahm in einer von B Capital geleiteten Series-B-Finanzierungsrunde 150 Millionen US-Dollar auf.”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Goodfire startet interne KI-Agenten-Überwachung
Goodfire, ein Start-up für KI-Interpretierbarkeit, hat am Donnerstag eine neue Art von KI-Agenten-Überwachung vorgestellt, die die internen Signale eines Modells statt seiner Ausgaben prüft, um fehlerhaftes Verhalten effizienter und zu einem Bruchteil der Kosten zu erkennen. Die Monitore sind für Kunden von Baseten, einer Plattform zum Hosten von KI-Modellen, verfügbar. Basetens Base Labs hatte zuvor eine Sicherheitspartnerschaft mit Goodfire und Hugging Face angekündigt. Goodfires Ansatz nutzt kleine Sonden, die die internen Aktivierungen des Modells bei jedem Schritt scannen und nur bei Auffälligkeiten eine genauere KI-Prüfung auslösen. In Tests mit dem Modell Kimi K3 erkannten die Monitore 94 % der bösartigen Hacking-Sitzungen und kosteten etwa 51 $ für 1.500 Sitzungen, verglichen mit 233 $ für ein günstigeres Modell und 10.000 $ für ein Spitzenmodell. Das Unternehmen richtet sich an offene Modelle, die von Sicherheitsvorkehrungen befreit werden können, und sieht die Lösung als entscheidend für Sicherheitsvorkehrungen zur Inferenzzeit.
OpenAI, Google und Anthropic verhandeln über gemeinsame KI-Sicherheitsstandards
OpenAI, Google DeepMind und Anthropic führen seit mehreren Wochen intensive Gespräche über eine engere Zusammenarbeit im Bereich der KI-Sicherheit. Auslöser war ein Essay von Anthropic-CEO Dario Amodei, der eine Verlangsamung der Entwicklung von Frontier-KI forderte. Wie Chris Lehane von OpenAI bestätigte, umfassen die Pläne ein gemeinsames Gremium für Branchenstandards sowie die Einbindung unabhängiger Drittprüfer zur Sicherheitsüberwachung. Führende Branchenköpfe wie Sam Altman, Demis Hassabis und Elon Musk befürworten die Initiative. Mögliche kartellrechtliche Bedenken wies Lehane zurück; eine staatliche Ausnahmegenehmigung sei nicht erforderlich. Zudem unterstützt OpenAI den FRONTIER Act, der eine unabhängige Verifizierung von KI-Modellen gesetzlich vorschreiben soll. Die Initiative unterstreicht das Bestreben, vor dem Hintergrund wachsender regulatorischer Risiken verbindliche, branchenweite Leitplanken zu etablieren.
OpenAI verschärft Sicherheitsvorkehrungen nach Vorfall bei Hugging Face
OpenAI hat neue Sicherheitsrichtlinien eingeführt, um Zwischenfälle während der Modellentwicklung und Testphasen einzudämmen. Die Maßnahmen umfassen ein detaillierteres Entwicklungsmonitoring, striktere Netzwerkisolierung sowie verstärkte Sicherheitsvorkehrungen beim Alignment und Post-Training. Laut OpenAI reagiert das Unternehmen damit auf den am 26. Juli bekannt gewordenen Sicherheitsvorfall bei Hugging Face sowie auf die Cybersecurity-Fähigkeiten des bevorstehenden Astra-Modells und das hohe Entwicklungstempo im KI-Sektor. Nach dem Vorfall fror OpenAI das Reinforcement Learning (RL) für zwei Wochen ein, nahm risikoärmere Modelle schrittweise wieder auf und pausierte den größten geplanten Frontier-RL-Trainingslauf zugunsten kleinerer Evaluierungen. Das neue Monitoring-System soll verdächtige Aktivitäten innerhalb von 30 Minuten melden, erhöht jedoch den Compute-Bedarf für überwachte Prozesse um schätzungsweise 20 Prozent.
Alle künftigen Signale zu Hugging Face & Wettbewerbern im Briefing erhalten
Verpassen Sie keine M&A-Transaktionen, Führungswechsel, Kunden-Etats oder Produkt-Launches mehr. Polaris7 überwacht über 20.000 Primärquellen rund um die Uhr und liefert evidenzbasierte Telemetrie direkt in Ihr wöchentliches Executive Briefing.