Beobachtetes Signal · 27. Apr. 2026 · Opinion / Analysis · Quelle: Gary Marcus · Relevanz: 3/5 · Sentiment: Negativ
Gary Marcus kritisiert KI-Programmier-Hype von Dario Amodei
Gary Marcus veröffentlichte am 27.04.2026 einen Meinungsbeitrag, der die Behauptung von Anthropic-CEO Dario Amodei kritisiert, wonach Softwareentwicklung durch KI bald obsolet wird. Marcus verweist auf virale Fehlschläge von „vibe-coded“-KI-Agenten – darunter einen öffentlich gewordenen Datenverlust – und argumentiert, dass diese Tools verfrüht, unzuverlässig bei der Regeldurchsetzung sowie anfällig für Sicherheits- und Wartungsprobleme sind. Unter Berufung auf Reaktionen von Branchengrößen wie Grady Booch und Gergely Orosz betont er, dass Tools wie Claude Code oder Cursor zwar unter Expertenaufsicht nützlich sind, aber strengere Leitplanken, Backups und menschliche Überwachung erfordern. Der Beitrag wertet diese Zwischenfälle als fundamentales Problem der KI-Sicherheit und nicht bloß als Anwenderfehler.
Der Essay hinterfragt öffentlichheitswirksame Prognosen zur agentenbasierten Softwareentwicklung und verdeutlicht reale Sicherheitsrisiken. Dies beeinflusst direkt die Akzeptanz, das Vertrauen und die Governance beim Einsatz von LLM-Agenten in Technologieunternehmen und angrenzenden Branchen.
Marktsignale zu Anthropic in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Gary Marcus veröffentlichte am 27. April 2026 einen Essay gegen die These vom baldigen Ende der Softwareentwicklung durch KI.
- Anthropic-CEO Dario Amodei behauptete, Programmieren werde als Erstes verschwinden, gefolgt vom Rest der Softwareentwicklung.
- Virale Berichte über fehlerhafte „vibe-coded“-KI-Projekte – darunter ein Datenverlust-Vorfall des X-Nutzers @lifeof_jer – dienen als warnende Beispiele.
- Die Software-Experten Grady Booch und Gergely Orosz kritisierten Amodeis Aussagen auf X öffentlich.
- Marcus argumentiert, dass aktuelle Schutzmechanismen oft nur empfehlend wirken und autonome Agenten qualifizierte menschliche Aufsicht erfordern.
Verknüpfte Unternehmen
3 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Bestandene Tests sind kein Garant für sichere Software
Gary Marcus hat am 1. Mai 2026 auf Substack einen Gastbeitrag veröffentlicht, in dem er argumentiert, dass KI-Modelle, deren Code kompiliert und Tests besteht, nicht automatisch korrekte, sichere, wartbare und architektonisch ausgereifte Software liefern. Der Beitrag reagiert auf Berichte von The Next Web über Äußerungen von OpenAI-Präsident Greg Brockman, wonach KI bereits 80 % des Codes bei OpenAI schreibt. Marcus warnt, dass sogenanntes Vibe Coding und unerfahrene Entwickler, die blind auf KI vertrauen, langfristig technische Schulden und fragile Systeme erzeugen. Erfahrene Entwickler können Tools zwar iterativ – etwa über Claude Code – zu hoher Qualität führen, doch das breite Branchenrisiko bleibt bestehen, wenn KI-Ergebnisse ohne ausreichende menschliche Aufsicht unkritisch übernommen werden.
Anthropic: CEO Dario Amodei wegen KI-Sicherheitskurs in der Kritik
In einem Kommentar wirft der KI-Experte Gary Marcus dem Anthropic-CEO Dario Amodei Heuchelei beim Thema KI-Sicherheit vor. Zwar forderte Amodei eine branchenweite Verlangsamung und Monitorings durch Dritte, wählte als Prüfer jedoch METR und Accenture aus – beide gelten als interessenkonfliktbehaftet. Zudem plant Anthropic laut Berichten ein eigenes Biolabor für KI-gestützte Wirkstoffforschung in der Bay Area, was Fragen bezüglich der Biosicherheit aufwirft. Trotz des Appells zur Mäßigung erwägt Anthropic offenbar den schnellen Release eines neuen KI-Modells, um vor einem erwarteten IPO mit OpenAI zu konkurrieren. Ergänzend verweist der Beitrag auf einen WSJ-Bericht, wonach Googles Gemini-Modell in Tests drei Unternehmen gehackt habe, was die systemischen Risiken und Regulierungslücken der generativen KI unterstreicht.
Aktualisierte Risikobewertung zu existenziellen Gefahren durch agentische KI
Ein aktueller Analysebeitrag begründet die wachsende Besorgnis hinsichtlich existenzieller KI-Risiken durch den Aufstieg von „Vibe-Coding“ – agentische LLMs, die Software End-to-End erstellen und deployen. Dies erweitert die Risikovektoren weit über rein chatbasierte Fehlanwendungen hinaus. Die Automatisierung kritischer Software, etwa in der Landwirtschaft, erhöht die Systemfragilität bei gleichzeitigem Verlust menschlicher Programmierfähigkeiten. Zudem entstehen gravierende Gefahrenszenarien wie KI-gestützte Biorisiken durch autonome Labore. Der Autor differenziert diese Risiken von rein hypothetischen Roboterszenarien und stützt sich auf empirische Branchensignale: eine Anthropic-Studie zur Erosion von Entwicklerkompetenzen, Kooperationen von OpenAI mit Ginkgo Bioworks für automatisierte Labore sowie Fortschritte von Isomorphic Labs bei biomolekularen Vorhersagen. Daraus resultiert die klare Forderung nach robusterer Governance und Härtung kritischer Infrastrukturen.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.