Beobachtetes Signal · 4. Juni 2024 · Public Statement · Quelle: CMSWire · Relevanz: 3/5 · Sentiment: Negativ
OpenAI-Mitarbeiter warnen vor fehlender Regulierung und existenziellen KI-Risiken
Aktuelle und ehemalige Mitarbeiter führender Unternehmen wie OpenAI und Google DeepMind haben am 4. Juni 2024 einen offenen Brief mit dem Titel ‚A Right to Warn about Advanced Artificial Intelligence‘ veröffentlicht. Darin wird kritisiert, dass KI-Firmen aufgrund starker finanzieller Anreize effektive Kontrollen umgehen und es an ausreichender Transparenz gegenübers Regierung und Öffentlichkeit mangelt. Zu den genannten Risiken zählen vertiefte gesellschaftliche Ungleichheiten, gezielte Manipulation, Fehlinformationen sowie im schlimmsten Fall der Verlust der Kontrolle über autonome Systeme und die Gefährdung der Menschheit. Die Unterzeichner fordern anonymisierte Whistleblower-Prozesse, Schutz vor Vergeltungsmaßnahmen und eine offene Debattenkultur. Prominente Forscher wie Yoshua Bengio, Geoffrey Hinton und Stuart Russell unterstützen den Aufruf, während OpenAI zunächst nicht öffentlich reagierte.
Der Vorstoß beleuchtet systemische Risiken und fordert schärfere Regulierungen für Künstliche Intelligenz, die auch das Fundament moderner AdTech- und MarTech-Innovationen bildet. Dies könnte künftige gesetzliche Vorgaben für KI-gestützte Werbung und Datenverarbeitung maßgeblich beeinflussen.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Sieben ehemalige und vier aktuelle OpenAI-Mitarbeiter sowie Mitarbeiter von Google DeepMind unterzeichneten den offenen Brief.
- Der Brief warnt vor starken finanziellen Anreizen von KI-Unternehmen, behördliche und öffentliche Kontrollen zu umgehen.
- Als Risiken werden unter anderem verstärkte Ungleichheiten, Desinformation und mögliche existentielle Bedrohungen genannt.
- Die Unterzeichner fordern sichere, anonyme Meldewege für Risiken an Aufsichtsbehörden und unabhängige Experten.
- Der Aufruf wird von renommierten KI-Koryphäen wie Yoshua Bengio, Geoffrey Hinton und Stuart Russell unterstützt.
Verknüpfte Unternehmen
3 verknüpfte Unternehmen“The letter was signed by seven former OpenAI employees, four current OpenAI employees, and the article discusses OpenAI's lack of public res...”
“The letter was signed by one former and one current Google DeepMind employee, including Ramana Kumar (former) and Neel Nanda (current)....”
“Neel Nanda, currently at Google DeepMind, previously worked at Anthropic....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Entlassene OpenAI-Forscher bestreiten Fehlverhalten und warnen vor Einschüchterung
Drei OpenAI-Sicherheitsforscher – Jasmine Wang, Tomek Korbak und Mikita Balesni –, die letzte Woche entlassen wurden, haben einen offenen Brief veröffentlicht, in dem sie die Vorwürfe des Missbrauchs sensibler Informationen bestreiten. Sie warnen, dass ihre Entlassung einen abschreckenden Effekt habe, der die Sicherheitsarbeit und den offenen Dialog im Unternehmen behindere. Die Forscher erklären, sie hätten in gutem Glauben und im Rahmen der damaligen Unternehmensnormen gehandelt, und die Gründe für ihre Entlassung seien unklar. Sie appellieren an OpenAI, seine Zusagen bezüglich externer Sicherheitsauditoren einzuhalten und eine transparente Kultur zu bewahren. OpenAI antwortete mit einem internen Memo, das Vergeltungsmaßnahmen bestreitet und betont, dass Mitarbeiter nicht für das Ansprechen von Bedenken entlassen werden, ohne jedoch auf spezifische Richtlinienverstöße oder Umstände der Entlassung einzugehen. Der Konflikt beleuchtet Spannungen zwischen interner Sicherheitsforschung und Kommunikationsrichtlinien, während OpenAI wegen Sicherheitsvorfällen in der Kritik steht.
AI-Ranking Arena sammelt 200 Mio. USD bei 3,1 Mrd. USD Bewertung
Arena, die KI-Ranking-Plattform, die als Forschungsprojekt der UC Berkeley entstand, hat eine Series-B-Finanzierung in Höhe von 200 Mio. USD zu einer Bewertung von 3,1 Mrd. USD abgeschlossen. Die Runde wurde von Lightspeed Venture Partners und Khosla Ventures angeführt, mit Beteiligung von Salesforce Ventures, 01 Advisors, Dell Technologies Capital, Endeavor Catalyst, a16z, Felicis und anderen. Dies folgt auf die Ankündigung des Unternehmens im Juni, einen annualisierten Run-Rate-Umsatz von 100 Mio. USD erreicht zu haben. Arena bietet eine Crowdsourcing-Plattform, auf der Nutzer die Ausgaben von KI-Modellen bewerten, und hat ein kommerzielles Produkt namens AI Evaluations eingeführt, das detaillierte Leistungsanalysen bietet. Das Unternehmen hat außerdem eine neue Kategorie 'Alignment' zu seinem Leaderboard hinzugefügt, die Modelle anhand von Problemen wie unbefugten Aktionen und betrügerischer Abschlüsse bewertet. Die Bewertung von Arena hat sich in etwa 10 Monaten fast verdoppelt, von 1,7 Mrd. USD nach der Finanzierung im Januar auf nun 3,1 Mrd. USD.
OpenAI-Umsatz angeblich 20 Milliarden Dollar unter Prognose
OpenAI hat Investoren Berichten zufolge mitgeteilt, dass der annualisierte Umsatz nahe 50 Milliarden Dollar liegt – 20 Milliarden Dollar weniger als die zuvor berichteten 70 Milliarden Dollar. Die frühere Zahl basierte auf Versuchen der eigenen Investoren, einen Vergleich mit Anthropics Run Rate herzustellen. Diskrepanzen ergeben sich aus unterschiedlichen Berechnungsmethoden; Anthropic zählt Verkäufe seiner Cloud-Partner mit, OpenAI nicht. OpenAI hat erhebliches Kapital eingesammelt, darunter 122 Milliarden Dollar in einer Finanzierungsrunde im März 2026, aber die geleakten Finanzzahlen für 2025 zeigten Einnahmen von 13 Milliarden Dollar bei erheblichen Ausgaben. Der IPO wurde auf Anfang 2027 verschoben.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.