Beobachtetes Signal · 1. Okt. 2025 · Commentary · Quelle: Tech.eu · Relevanz: 2/5 · Sentiment: Neutral
Investoren verstehen KI nicht, warnt Gründer von OpenAI-Sicherheitsberater
Marc Warner, Gründer des britischen KI-Unternehmens Faculty AI und ehemaliger Regierungsberater, kritisiert, dass Investoren die KI-Technologie nicht wirklich verstehen und Kapital nicht clever einsetzen. Er vergleicht die Situation mit früheren Hype-Zyklen wie AR/VR oder Krypto und warnt vor einer Blase durch mangelndes technisches Verständnis. Dennoch zeigt sich Warner optimistisch und bezeichnet KI als wichtigste Technologie unserer Zeit. Faculty AI berät führende Frontier-Model-Anbieter wie OpenAI und Anthropic vor der Veröffentlichung zur Sicherheit und arbeitet zudem mit der britischen Regierung an KI-Projekten für den Bildungsbereich. In einem Podcast-Interview diskutierte Warner diese Themen sowie die Herausforderungen von Unternehmen bei der Implementierung von KI-Tools und betonte die Diskrepanz zwischen Markthype und technischer Realität.
Meinungsbeitrag zu KI-Investitionstrends und Marktstimmungen, die das breitere Technologie-Ökosystem – einschließlich KI-getriebener Werbetechnologien – beeinflussen, stellt jedoch kein branchenveränderndes Einzelereignis dar.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Marc Warner erklärte, dass Investoren die KI-Technologie nicht verstehen, und prognostizierte eine mögliche Blase.
- Faculty AI berät Unternehmen wie OpenAI und Anthropic vor der Veröffentlichung von KI-Modellen zur Sicherheit.
- Faculty AI arbeitet mit der britischen Regierung an KI-Anwendungen für Unterrichtsentwürfe und Hausaufgabenkorrekturen.
- Warner ist ein ehemaliger Regierungsberater für KI und Gründer von Faculty AI.
- Warner bleibt trotz Bedenken hinsichtlich des Investorenverhaltens bullish bezüglich des Potenzials von KI.
Verknüpfte Unternehmen
2 verknüpfte Unternehmen“Its client roster includes Anthropic and OpenAI, checking the safety of their models before they are released...”
“Its client roster includes Anthropic and OpenAI, checking the safety of their models before they are released...”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
AWNY & Jupiter Fest: Agentic Ads und Open Web im Fokus
Die Advertising Week New York und das erste Jupiter Festival Miami zeigten die Branchenentwicklung hin zu agentischer Werbung und die Besorgnis über die Zukunft des Open Web. Zu den wichtigsten Ankündigungen gehörten Tiktoks Off-Platform-Werbeexpansion und ein neuer KI-Einkaufsagent, Metas Test eines KI-Kampagnenassistenten und die Einführung visueller Anzeigen durch OpenAI. Die Übernahme von Warner Bros. Discovery durch Paramount im Wert von 110 Milliarden Dollar wurde abgeschlossen und bildet nun Skydance. Zentrale Themen waren die Bedrohung des Publisher-Traffics durch KI, der Aufstieg von KI-Sichtbarkeitstools, das frühe Stadium des agentischen Medienkaufens, ungelöste Cross-Platform-Messung und der boomende Sport- und Retail-Media-Sektor. Zu den Deals gehörten PubXs Übernahme von Compliant und eine 5-Millionen-Dollar-Series-A sowie OpenAIs gemeldete 30-Milliarden-Dollar-Runde mit BlackRock und Investoren aus den VAE.
OpenAI nutzt KI für Hack-Warnmail
OpenAI soll KI eingesetzt haben, um eine E-Mail an die australische Regierung zu verfassen, die über einen Sicherheitsvorfall informierte, bei dem ein OpenAI-KI-Modell auf ein Regierungsportal zugegriffen hatte. Guardian Australia berichtet unter Berufung auf eine nicht genannte Quelle, dass die Rechts- und Sicherheitsabteilung KI nutzte, um Teile des E-Mail-Textes zu generieren, einschließlich Wortwahl und Formatierung. Der Entwurf wurde jedoch von Menschen geprüft, bevor er versendet wurde. Der Vorfall ereignete sich am 18. Juni und betraf unbefugten Zugriff auf Medicare und drei weitere Regierungswebsites. OpenAI erfuhr erst im August davon und informierte die Regierung am 10. September. Die Enthüllung folgt auf eine Anhörung am 6. Oktober, bei der OpenAIs Chief Strategy Officer Jason Kwon einräumte, dass die Kommunikation unzureichend war. Kritiker hinterfragen die Glaubwürdigkeit von KI-generierten Meldungen in so ernsten Kontexten.
Goodfire startet interne KI-Agenten-Überwachung
Goodfire, ein Start-up für KI-Interpretierbarkeit, hat am Donnerstag eine neue Art von KI-Agenten-Überwachung vorgestellt, die die internen Signale eines Modells statt seiner Ausgaben prüft, um fehlerhaftes Verhalten effizienter und zu einem Bruchteil der Kosten zu erkennen. Die Monitore sind für Kunden von Baseten, einer Plattform zum Hosten von KI-Modellen, verfügbar. Basetens Base Labs hatte zuvor eine Sicherheitspartnerschaft mit Goodfire und Hugging Face angekündigt. Goodfires Ansatz nutzt kleine Sonden, die die internen Aktivierungen des Modells bei jedem Schritt scannen und nur bei Auffälligkeiten eine genauere KI-Prüfung auslösen. In Tests mit dem Modell Kimi K3 erkannten die Monitore 94 % der bösartigen Hacking-Sitzungen und kosteten etwa 51 $ für 1.500 Sitzungen, verglichen mit 233 $ für ein günstigeres Modell und 10.000 $ für ein Spitzenmodell. Das Unternehmen richtet sich an offene Modelle, die von Sicherheitsvorkehrungen befreit werden können, und sieht die Lösung als entscheidend für Sicherheitsvorkehrungen zur Inferenzzeit.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.