Beobachtetes Signal · 1. Mai 2026 · Opinion / Analysis · Quelle: Gary Marcus · Relevanz: 2/5 · Sentiment: Negativ
Bestandene Tests sind kein Garant für sichere Software
Gary Marcus hat am 1. Mai 2026 auf Substack einen Gastbeitrag veröffentlicht, in dem er argumentiert, dass KI-Modelle, deren Code kompiliert und Tests besteht, nicht automatisch korrekte, sichere, wartbare und architektonisch ausgereifte Software liefern. Der Beitrag reagiert auf Berichte von The Next Web über Äußerungen von OpenAI-Präsident Greg Brockman, wonach KI bereits 80 % des Codes bei OpenAI schreibt. Marcus warnt, dass sogenanntes Vibe Coding und unerfahrene Entwickler, die blind auf KI vertrauen, langfristig technische Schulden und fragile Systeme erzeugen. Erfahrene Entwickler können Tools zwar iterativ – etwa über Claude Code – zu hoher Qualität führen, doch das breite Branchenrisiko bleibt bestehen, wenn KI-Ergebnisse ohne ausreichende menschliche Aufsicht unkritisch übernommen werden.
Die zunehmende KI-gestützte Codegenerierung beeinflusst Softwarequalität, technische Schulden und Entwickler-Workflows maßgeblich. Die damit verbundenen Risiken für Enterprise-Architekturen machen das Thema hochrelevant für Technologie- und Engineering-Entscheider.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Gary Marcus veröffentlichte am 1. Mai 2026 einen Substack-Beitrag zur Unterscheidung von funktionierendem und tatsächlich gutem, sicherem Softwarecode.
- Der Artikel reagiert auf Berichterstattung über die Aussage von OpenAI-Präsident Greg Brockman, dass KI 80 % des OpenAI-Codes schreibt.
- Marcus betont, dass kompilierbarer und getestet funktionierender Code eine niedrige Hürde darstellt und keine Korrektheit oder gute Architektur garantiert.
- Ein Kommentator beschrieb den iterativen Einsatz von Claude Code zur Erstellung von Produktionsqualität, was jedoch kontinuierliche menschliche Aufsicht erfordert.
Verknüpfte Unternehmen
1 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Gary Marcus kritisiert KI-Programmier-Hype von Dario Amodei
Gary Marcus veröffentlichte am 27.04.2026 einen Meinungsbeitrag, der die Behauptung von Anthropic-CEO Dario Amodei kritisiert, wonach Softwareentwicklung durch KI bald obsolet wird. Marcus verweist auf virale Fehlschläge von „vibe-coded“-KI-Agenten – darunter einen öffentlich gewordenen Datenverlust – und argumentiert, dass diese Tools verfrüht, unzuverlässig bei der Regeldurchsetzung sowie anfällig für Sicherheits- und Wartungsprobleme sind. Unter Berufung auf Reaktionen von Branchengrößen wie Grady Booch und Gergely Orosz betont er, dass Tools wie Claude Code oder Cursor zwar unter Expertenaufsicht nützlich sind, aber strengere Leitplanken, Backups und menschliche Überwachung erfordern. Der Beitrag wertet diese Zwischenfälle als fundamentales Problem der KI-Sicherheit und nicht bloß als Anwenderfehler.
KI-generierter Code: Fast richtig birgt weiterhin erhebliche Risiken
Patrick Cornelißen hat am 5. Mai 2026 auf der DEV Community einen Beitrag zu den Produktionsrisiken von KI-generiertem Code veröffentlicht. Der Artikel erläutert, dass KI-Ausgaben oft plausibel wirken, da sie kompilieren, Standardtests bestehen und sinnvolle Bezeichner verwenden, während sie kritische Randfälle wie Null-Prüfungen, Timeouts, schwache Autorisierung, unsichere Standards und oberflächliche Tests vernachlässigen. Es werden konkrete Review-Praktiken empfohlen: Modellannahmen explizit hinterfragen, Tests für Edge Cases schreiben, eine zweite Durchsicht zur Kritik des KI-Codes durchführen und KI-generierte Diffs klein halten, um die Überprüfbarkeit und Verantwortlichkeit zu währen. Der Beitrag basiert auf einem deutschsprachigen Original auf KIberblick.
AI Coding Tools Linked to Outages and Failures
The author warns that while generative AI can write code, maintaining that code over long horizons is far harder. He cites a Financial Times report that Amazon held an engineering meeting after AI-related outages and references a new benchmark study from Sun Yat-sen University and Alibaba which evaluated 18 AI coding agents across 100 real codebases over 233 days each, finding they failed to maintain code reliably over time. Social posts summarizing the research note that passing tests once is easy but sustaining correctness for months causes the systems to collapse. The piece argues mission-critical systems remain vulnerable to even small AI-generated errors and that human engineers will be needed for fixing and long-term maintenance for the foreseeable future.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.