Beobachtetes Signal · 9. Sept. 2026 · Opinion / Analysis · Quelle: Gary Marcus · Relevanz: 2/5 · Sentiment: Negativ
KI-Forscher warnen vor drastischen Risiken und Datenmissbrauch
Gary Marcus beleuchtet zwei gravierende Warnungen im Bereich der KI. Der renommierte Mathematiker Terence Tao ist von einem Optimus zu tiefer Sorge bezüglich der Auswirkungen von KI auf Wissenschaft und Mathematik gelangt und verweist auf Risiken wie intellektuelle Stagnation sowie Datenmissbrauch. Tao spielt dabei auf die Kontroverse um OpenAI, NYU und Anthropic an, bei der OpenAI angeblich Forscherdaten ohne Einwilligung nutzte. Zudem warnt Jacob Coxon, der Anthropic kürzlich verlassen hat, dass KI bis zum Ende des Jahrzenzehnts die Menschheit auslöschen könnte – eine Einschätzung, die von Anthropic-Forschungsleiter Evan Hubinger geteilt wird. Marcus äußert zwar Skepsis bezüglich eines Extinktionsszenarios, moniert jedoch das Fehlen ernsthafter Sicherheitspläne. Der Beitrag verdeutlicht das wachsende Misstrauen gegenüber KI-Konzernen und das mögliche Ende der Open Science.
Der Artikel beleuchtet grundlegende KI-Sicherheitsrisiken und Bedenken zum Datenmissbrauch, besitzt jedoch starken Meinungscharakter und weist keinen direkten Bezug zu operativen AdTech- oder MarTech-Prozessen auf.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Terence Tao äußerte tiefe Bedenken hinsichtlich der Auswirkungen von KI auf Mathematik und Wissenschaft.
- OpenAI investierte 22,5 Millionen US-Dollar in die Navier-Stokes-Forschung und schließt die Nutzung anonymisierter Nutzerdaten zur Modellverbesserung nicht aus.
- Jacob Coxon warnte nach seinem Weggang von Anthropic vor einer potenziellen Auslöschung der Menschheit durch KI bis 2030.
- Evan Hubinger, Leiter der Alignment Science bei Anthropic, beziffert die Wahrscheinlichkeit eines KI-induzierten Existenzrisikos im nächsten Jahrzehnt auf über zehn Prozent.
- Der Artikel wurde am 9. September 2026 veröffentlicht.
Verknüpfte Unternehmen
2 verknüpfte Unternehmen“OpenAI rushed to scoop Alpöge and Buckmaster, spending $22.5 million in the process, possibly using their data....”
“Jacob Coxon, who just left Anthropic, warns about AI risks....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
KI-Pioniere warnen vor existenziellen Risiken und fordern Regulierung
Führende Forscher von Anthropic, OpenAI und Google DeepMind sowie Branchenpioniere wie Yoshua Bengio, Geoffrey Hinton und Aidan Gomez warnen eindringlich vor den existenziellen Risiken künstlicher Intelligenz. Bengio betont, dass KI-Systeme bereits über gefährliche Hacking-Fähigkeiten und Manipulationspotenzial verfügen, während derzeitige Sicherheitsmaßnahmen Fehlentwicklungen oft nur verschleiern. Hinton hält ein zehnprozentiges Risiko des menschlichen Aussterbens durch KI innerhalb des nächsten Jahrzehnts für realistisch – getrieben durch biologische Viren oder Cyberangriffe. Gomez bezeichnete KI-Modelle als die wirksamste Cyberwaffe der Geschichte und warnte vor Ausbrüchen durch unzureichende Container-Sicherheitsarchitekturen. Beide fordern, dass die Politik sich nicht allein von Big-Tech-Interessen leiten lassen darf. Die Warnungen befeuern die politische Debatte in Washington, wo Präsident Trump Initiativen zur KI-Regulierung bisher ablehnt.
KI-Sicherheitsforscher fordern Entwicklungsstopp angesichts existenzieller Risiken
Forscher von OpenAI und Anthropic drängen angesichts potenzieller Existenzrisiken verstärkt auf eine Verlangsamung der KI-Entwicklung. Anthropic-Forscher Jacob Coxon trat zurück und warf den Laboren vor, mit dem Leben der Menschen zu spielen; auch Mitarbeiter wie Julie Steele von OpenAI und Samuel Marks von Anthropic unterstützen diesen Aufruf öffentlich. Im Zentrum der Sorge steht die rekursive Selbstverbesserung (RSI), wobei Experten das Fehlen tragfähiger Sicherheitskonzepte bemängeln. OpenAIs Chef-Wissenschaftler Jakub Pachocki warnte vor rasanten Leistungssprüngen, während Paul Christiano, der dem OpenAI-Stiftungsrat beigetreten ist, vor einem katastrophalen Kontrollverlust warnt. Bereits im Juli forderten rund 1.400 KI-Forscher in einem offenen Brief die US-Regierung auf, das Tempo der KI-Entwicklung zu drosseln. Diese Warnungen erfolgen vor dem Hintergrund jüngster Cybersicherheitsvorfälle im Zusammenhang mit Modellen von Anthropic und OpenAI. Gesetzgeber prüfen derweil Gesetzesinitiativen wie den FRONTIER Act sowie den Ban Artificial Superintelligence Act, während Anthropic einen Börsianfang vorbereitet.
Anthropic-Forscher warnt vor existenziellen KI-Risiken nach spektakulärem Rücktritt
Der britische Forscher Jacob Coxon hat nach Stationen bei OpenAI und Anthropic seinen Rücktritt eingereicht und beide Unternehmen beschuldigt, durch rücksichtslose KI-Entwicklung die Menschheit zu gefährden. Sein viral gegangener Abschiedspost löste politische Forderungen nach strengeren Sicherheitsregeln aus. Coxon warnt, dass rekursive Selbstverbesserung bereits im kommenden Jahr zu unkontrollierbarer KI führen könnte. Auch Anthropic-Forscher Evan Hubinger schätzt die Wahrscheinlichkeit einer menschlichen Auslöschung durch KI innerhalb eines Jahrzehnts auf über zehn Prozent ein. OpenAI-Vertreter Jakub Pachocki plädiert zwar für extreme Vorsicht, befürwortet jedoch die Entwicklung defensiver KI. Der Vorfall spiegelt einen breiteren Trend wider, bei dem führende Forscher wie Ilya Sutskever und Mira Murati wegen existenzieller Bedenken abwandern. Auch der UN-Hochkommissar für Menschenrechte äußerte besorgte Stimmen zur aktuellen Entwicklung.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.