Beobachtetes Signal · 25. Feb. 2026 · Policy Update · Quelle: Gary Marcus · Relevanz: 4/5 · Sentiment: Negativ
Experte warnt vor gefährlichem militärischem Einsatz von Generative AI
Gary Marcus warnt vor einer akuten Sicherheitskrise durch den zunehmenden Druck auf Technologieanbieter wie Anthropic, generative KI-Modelle für militärische Zwecke und Massenüberwachung bereitzustellen. Angesichts der Tatsache, dass das Doomsday Clock-Manöver der Bulletin of the Atomic Scientists die Welt auf 85 Sekunden vor Mitternacht gesetzt hat, kritisiert Marcus die unzureichende Zuverlässigkeit aktueller Modelle, die zu Halluzinationen neigen. Er verweist auf Simulationen von Keith Payne, wonach KI-gestützte Systeme in Krisenszenarien mit hoher Wahrscheinlichkeit zu nuklearen Optionen eskalieren. Zudem wird kritisiert, dass generative KI bereits bei Operationen wie den Maduro-Razzien oder dem Entwurf von Zollvorschriften eingesetzt wurde. Der Beitrag verdeutlicht den brandgefährlichen Konflikt zwischen politischem Implementierungsdruck und den inhärenten technischen Grenzen heutiger KI-Architekturen bei lebenswichtigen Entscheidungen.
Staatlicher Druck zur Integration von Foundation Models in militärische Anwendungen birgt in Verbindung mit nachgewiesenen Eskalationsrisiken erhebliche regulatorische, sicherheitsspezifische und reputative Implikationen für das gesamte KI-Ökosystem.
Marktsignale zu Anthropic in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Am 27. Januar 2026 stellte das Bulletin of the Atomic Scientists die Doomsday Clock auf 85 Sekunden vor Mitternacht.
- Gary Marcus berichtet, dass die US-Regierung massiven Druck auf Anthropic ausübt, um einen breiten Zugriff auf KI-Systeme für mögliche Militäreinsätze zu erzwingen.
- Laut einer zitierten Modellierungsstudie von Keith Payne eskalieren KI-Modelle in simulierten Krisen zu einem hohen Prozentsatz hin zu nuklearen Optionen.
- Marcus warnt, dass generative KI bereits bei Operationen wie Maduro-Razzien sowie für Zollvorschriften genutzt wurde und für militärische Leben-und-Tod-Entscheidungen viel zu unzuverlässig ist.
Verknüpfte Unternehmen
2 verknüpfte UnternehmenVerwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Anthropic unter Druck: US-Verteidigungsministerium stuft KI-Anbieter als Risiko ein
Ein internes Memo von Anthropic-CEO Dario Amodei, das die Trump-Administration kritisiert, wurde von The Information inmitten laufender Verhandlungen mit dem US-Verteidigungsministerium veröffentlicht. Die deutlichen Worte schienen potenzielle Kompromisse in den Gesprächen zu gefährden. Das DoD stufte Anthropic daraufhin offiziell als nationales Lieferkettenrisiko ein. Anthropic betont, diese Einstufung sei rein statutenbedingt, unterscheide sich von üblichen Sanktionen, betreffe lediglich militärische Projekte und werde juristisch angefochten. Amodei entschuldigte sich für das Memo, bestritt jedoch eine gezielte Streuung. Gleichzeitig verzeichnet das Unternehmen einen massiven Nutzerboom: Laut Mike Krieger registrieren sich täglich über eine Million Menschen für Claude. Rechtsexperten und das Blog Lawfare bewerten die Pentagon-Einstufung als angreifbar vor Gericht. Der Konflikt unterstreicht gravierende politische und procurement-bezogene Risiken für Foundation-Model-Anbieter im Umgang mit staatlichen Beschaffern und militärischen Anwendungen.
Gary Marcus fordert öffentlichen Boykott von generativer AI
Gary Marcus argumentiert in einem Substack-Artikel für einen öffentlichen Boykott von generativer AI, bis Frontier-Labs wie Anthropic und OpenAI verlässliche Sicherheitsmaßnahmen implementieren. Er beruft sich auf Aussagen von Mitarbeitern beider Unternehmen, die signifikante existenzielle Risiken und das Fehlen einer Lösung für das Alignment-Problem einräumen. Marcus verweist auf reale katastrophale Gefahren wie AI-generierte Biowaffen, Desinformationskriege und Hacks kritischer Infrastrukturen. Er kritisiert die US-Regierung für Untätigkeit und intransparente Maßnahmen und schlägt ein Abkommen mit China als globale Lösung vor. Der Boykott soll Unternehmen wirtschaftlich unter Druck setzen, um die Sicherheit zu priorisieren, im Einklang mit seiner Forderung nach einer temporären Pause bei der Entwicklung von unverbesserlicher AI, bis vertrauenswürdige AI erreicht ist.
Autor warnt vor spekulativen Risiken bei generativer KI
Ein auf Substack veröffentlichter Meinungsbeitrag von Gary Marcus vergleicht bestimmte finanzielle Verhaltensweisen in der Branche für generative KI mit Scheckbetrug. Der Autor verweist auf zirkuläre Finanzstrukturen – etwa die Beleihung von OpenAI-Anteilen zum Kauf weiterer solcher Anteile – und bezweifelt, ob die im Sektor ausgegebenen Kredite letztlich zurückgezahlt werden können. Er bezeichnet die Investitionen als hochgradig spekulativ. Der Beitrag rahmt dies als strukturelles Risiko ein, geht jedoch nicht so weit, es als direkten Betrug zu bezeichnen, und plädiert für eine andere analytische Perspektive auf die finanzielle Dynamik der Industrie. Die Veröffentlichung beleuchtet kritische Aspekte der aktuellen Kapitalströme im KI-Ökosystem und hinterfragt die langfristige Tragfähigkeit der vorherrschenden Finanzierungsmodelle.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.