Beobachtetes Signal · 12. Mai 2026 · Product Launch · Quelle: t3n · Relevanz: 3/5 · Sentiment: Positiv
Goodfire stellt Silico vor: Neues Tool zur Untersuchung und Steuerung von LLM-Neuronen
Das San-Francisco-Startup Goodfire hat mit Silico ein neuartiges Tool vorgestellt, mit dem Forscher und Ingenieure Large Language Models während sämtlicher Entwicklungsphasen – von der Datensatzkonstruktion bis hin zum Training – untersuchen und gezielt eingreifen können. Silico basiert auf dem Ansatz der mechanistischen Interpretierbarkeit, der auch von Organisationen wie OpenAI, Google DeepMind und Anthropic verfolgt wird, um das Verhalten von LLMs transparenter und kontrollierbarer zu machen. Laut Goodfire ermöglicht Silico eine Inspektion und Anpassung auf Paramerebene im Modellinneren. Dies soll einen wissenschaftlichen statt eines rein skalierungsbasierten Ansatz zur Kontrolle unerwünschter Verhaltensweisen bieten. Der Artikel wurde am 12. Mai 2026 von Will Douglas Heaven für das MIT Technology Review verfasst und auf t3n republiziert.
Ein neues Entwicklertool für präzise Eingriffe auf Paramerebene in LLMs kann die Modellstransparenz, -sicherheit und -kontrollierbarkeit maßgeblich verbessern – essenzielle Faktoren für den breiten KI-Einsatz über Branchen hinweg, auch wenn die Ankündigung von einem Startup und nicht von einer Major-Plattform stammt.
Marktsignale zu Google DeepMind in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Das Startup Goodfire aus San Francisco hat das neue Tool Silico angekündigt.
- Silico ermöglicht die Inspektion von Modellinterna und Parameteranpassungen in allen Entwicklungsphasen.
- Goodfire bezeichnet Silico als das erste Tool seiner Art zur Fehlerbehebung in jeder Phase der KI-Modellentwicklung.
- Der verwendete Ansatz der mechanistischen Interpretierbarkeit wird ähnlich auch von OpenAI, Google DeepMind und Anthropic erforscht.
- Der Artikel erschien am 12.05.2026 von Autor Will Douglas Heaven (MIT Technology Review).
Verknüpfte Unternehmen
3 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Goodfire stellt Silico vor: Neues Tool zum Debuggen von LLMs
Das Startup Goodfire aus San Francisco hat mit Silico ein neues Tool vorgestellt, mit dem Forscher und Entwickler Large Language Models während der Entwicklung und des Trainings untersuchen und steuern können. Silico ermöglicht laut Angaben die Einsicht und Anpassung von Modellparametern über die gesamte Entwicklung hinweg – von der Datensatzkonstruktion bis zum Modelltraining –, um das Verhalten von LLMs erklärbarer und kontrollierbarer zu machen. Goodfire stützt diesen Ansatz auf die sogenannte „mechanistische Interpretierbarkeit“, eine Forschungsrichtung, die auch von OpenAI, Google DeepMind und Anthropic verfolgt wird. Eric Ho, CEO von Goodfire, stellte das Produkt in einem exklusiven Interview mit der US-Ausgabe des MIT Technology Review vor, das am 8. Mai 2026 von Will Douglas Heaven veröffentlicht wurde.
Goodfire sammelt 150 Millionen US-Dollar zur Entschlüsselung von KI ein
Das auf mechanistische Interpretierbarkeit spezialisierte KI-Forschungs-Startup Goodfire hat in einer Serie-B-Finanzierungsrunde 150 Millionen US-Dollar bei einer Bewertung von 1,25 Milliarden US-Dollar eingeworben. Das von Dan Balsam, Eric Ho und Tom McGrath mitgegründete Unternehmen entwickelt Tools, um neuronale Repräsentationen in Large Language Models zu untersuchen und gezielt einzugreifen. Goodfire hat bereits praxisnahe Ergebnisse erzielt: Gemeinsam mit Primmamenta wurden potenzielle epigenetische Biomarker zur Früherkennung von Alzheimer identifiziert. Zudem implementierte das Unternehmen gemeinsam mit Partnern wie Rakuten Interpretability-Guardrails zur Laufzeit und entdeckte neuronale Halluzinations-Signaturen, die als Trainingssignale zur Reduzierung von Halluzinationen dienen. Der Ansatz positioniert sich als sicherheits- und zuverlässigkeitsorientierte Ergänzung zu herkömmlichen LLM-Skalierungsstrategien.
Goodfire startet interne KI-Agenten-Überwachung
Goodfire, ein Start-up für KI-Interpretierbarkeit, hat am Donnerstag eine neue Art von KI-Agenten-Überwachung vorgestellt, die die internen Signale eines Modells statt seiner Ausgaben prüft, um fehlerhaftes Verhalten effizienter und zu einem Bruchteil der Kosten zu erkennen. Die Monitore sind für Kunden von Baseten, einer Plattform zum Hosten von KI-Modellen, verfügbar. Basetens Base Labs hatte zuvor eine Sicherheitspartnerschaft mit Goodfire und Hugging Face angekündigt. Goodfires Ansatz nutzt kleine Sonden, die die internen Aktivierungen des Modells bei jedem Schritt scannen und nur bei Auffälligkeiten eine genauere KI-Prüfung auslösen. In Tests mit dem Modell Kimi K3 erkannten die Monitore 94 % der bösartigen Hacking-Sitzungen und kosteten etwa 51 $ für 1.500 Sitzungen, verglichen mit 233 $ für ein günstigeres Modell und 10.000 $ für ein Spitzenmodell. Das Unternehmen richtet sich an offene Modelle, die von Sicherheitsvorkehrungen befreit werden können, und sieht die Lösung als entscheidend für Sicherheitsvorkehrungen zur Inferenzzeit.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.