Beobachtetes Signal · 19. Sept. 2026 · Commentary & Analysis · Quelle: Gary Marcus · Relevanz: 3/5 · Sentiment: Negativ
Anthropic: CEO Dario Amodei wegen KI-Sicherheitskurs in der Kritik
In einem Kommentar wirft der KI-Experte Gary Marcus dem Anthropic-CEO Dario Amodei Heuchelei beim Thema KI-Sicherheit vor. Zwar forderte Amodei eine branchenweite Verlangsamung und Monitorings durch Dritte, wählte als Prüfer jedoch METR und Accenture aus – beide gelten als interessenkonfliktbehaftet. Zudem plant Anthropic laut Berichten ein eigenes Biolabor für KI-gestützte Wirkstoffforschung in der Bay Area, was Fragen bezüglich der Biosicherheit aufwirft. Trotz des Appells zur Mäßigung erwägt Anthropic offenbar den schnellen Release eines neuen KI-Modells, um vor einem erwarteten IPO mit OpenAI zu konkurrieren. Ergänzend verweist der Beitrag auf einen WSJ-Bericht, wonach Googles Gemini-Modell in Tests drei Unternehmen gehackt habe, was die systemischen Risiken und Regulierungslücken der generativen KI unterstreicht.
Die Glaubwürdigkeitskrise bei führenden KI-Entwicklern verschärft die Debatte um Selbstregulierung versus staatliche Aufsicht und beeinflusst die Risikobewertung im Vorfeld von Tech-IPOs maßgeblich.
Marktsignale zu Anthropic in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren Polaris7-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Dario Amodei forderte ein langsameres KI-Entwicklungstempo und kündigte an, externen Prüfern tiefen Systemzugang zu gewähren.
- Die als unabhängige Prüfer vorgeschlagenen Partner METR und Accenture weisen enge Verbindungen zu Anthropic auf.
- Anthropic baut Berichten zufolge ein eigenes Wet-Lab für KI-gestützte Medikamentenentwicklung in der Bay Area auf.
- Trotz Sicherheitsaufrufen plant Anthropic angeblich neue Modell-Releases gegen OpenAI im Vorfeld eines möglichen IPOs.
- Laut WSJ hat Googles Modell Gemini im Rahmen einer Sicherheitsprüfung durch Irregular drei Unternehmen gehackt.
Verknüpfte Unternehmen
“Dario Amodei verpflichtete Anthropic zu externen Kontrollen, baut ein Biolabor und erwägt die Veröffentlichung eines neuen KI-Modells.”
“Eine der von Amodei für die unabhängige Überwachung von Anthropic ausgewählten Organisationen.”
“Eine weitere für die Überwachung gewählte Organisation, wobei Anthropic jedoch bereits geschäftlich mit Accenture verbunden ist.”
“Anthropic erwägt ein neues KI-Modell, um der Marktdynamik von OpenAI entgegenzuwirken.”
“Das Gemini-Modell von Google kompromittierte im Rahmen einer Sicherheitsüberprüfung drei Unternehmen.”
“Das Testunternehmen, das die Cybersicherheitsbewertung durchführte, bei der Googles Gemini Unternehmen hackte.”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
KI erreicht Singularität: 6 Kernimplikationen
Diese Analyse untersucht das Aufkommen der technologischen Singularität, definiert als KI-Systeme, deren Funktionsweise opak, Handlungen unkontrollierbar und Ausgaben unüberwachbar sind. Es wird argumentiert, dass KI trotz des Hypes und der 800 Milliarden Dollar Investitionen im Jahr 2026 bereits ihre eigene Entwicklung beschleunigt, wobei die öffentlich genutzten Modelle 1-2 Generationen hinter den Spitzenmodellen zurückliegen und bis 2030 keine großen technischen Engpässe erwartet werden. Zu den wichtigsten Implikationen gehört der Aufstieg von 'KI-nativen' Unternehmen, die weit mehr für Tokens als für Löhne ausgeben und einen Umsatz pro Mitarbeiter von 5 Millionen Dollar und mehr erzielen (z.B. Anthropic: 6,6 Millionen Dollar), was etablierte Unternehmen zu Umstrukturierungen durch Entlassungen zwingt. Die öffentliche Stimmung ist stark negativ (57/24% glauben, KI schade der Gesellschaft) und politisch relevant, mit Mehrheitsablehnung von Rechenzentren. Der Artikel appelliert an Befürworter, ihre öffentliche Positionierung angesichts wachsender politischer Risiken und gesellschaftlicher Wut sorgfältig zu gestalten.
Anthropic-CEO Dario Amodei fordert koordinierte Drosselung der KI-Entwicklung
In seinem Essay „We Must Pace the Frontier“ plädiert Anthropic-CEO Dario Amodei für eine kontrollierte Verlangsamung des KI-Fortschritts, um katastrophale Risiken zu minimieren. Er schlägt unabhängige Auditoren mit vollem internem Datenzugriff, eine enge Abstimmung demokratischer Staaten sowie globale Sicherheitsstandards unter Einbeziehung Chinas vor. Branchengrößen wie Sam Altman (OpenAI), Elon Musk (xAI) und Demis Hassabis (DeepMind) signalisierten Unterstützung; Altman kündigte Auditor-Zugänge an und verschob den OpenAI-Börsengang auf 2027. US-Präsident Trump wies den Vorschlag mit Verweis auf die US-Technologieführerschaft zurück, während chinesische Staatsmedien von einer „Taktik des Kalten Krieges“ sprachen. Der Vorstoß folgt auf Sicherheitsvorfälle mit autonomen KI-Agenten und einen offenen Brief von fast 1.400 Entwicklern. Gleichzeitig werfen milliardenschwere Compute-Verträge wie Anthropics SpaceX-Deal Umsetzungsfragen auf; die SoftBank-Aktie verlor 10 %.
KI-Sicherheitsbedenken sind echt, kein Firmenkomplott
Dieser Artikel argumentiert gegen die Verschwörungstheorie, dass KI-Unternehmen wie Anthropic und OpenAI existenzielle Risiken aus finanziellen oder regulatorischen Gründen übertreiben. Er führt Belege an, dass unabhängige KI-Forscher, Akademiker und Branchenpioniere wie Geoffrey Hinton und Yoshua Bengio ähnliche Bedenken geäußert haben. Er hebt hervor, dass Führungskräfte wie Dario Amodei und Sam Altman diese Sorgen bereits vor der Gründung ihrer Unternehmen äußerten. Der Artikel weist auch darauf hin, dass Marktreaktionen wie Kurseinbrüche bei Kryptowährungs-Futures für Anthropic und OpenAI nach Verlangsamungsaufrufen der Regulierungs-Erzählung widersprechen. Er betont, dass KI-Forscher und Aktivisten für kurzfristige Schäden oft zusammenarbeiten, nicht konkurrieren, und dass die schnelle Verbreitung von KI Hype unnötig macht. Der Artikel kommt zu dem Schluss, dass die Aufrichtigkeit dieser Warnungen durch die persönlichen Opfer von Whistleblowern und die Übereinstimmung von Handlungen mit erklärten Überzeugungen gestützt wird.
Alle künftigen Signale zu Anthropic & Wettbewerbern im Briefing erhalten
Verpassen Sie keine M&A-Transaktionen, Führungswechsel, Kunden-Etats oder Produkt-Launches mehr. Polaris7 überwacht über 20.000 Primärquellen rund um die Uhr und liefert evidenzbasierte Telemetrie direkt in Ihr wöchentliches Executive Briefing.