Trump fordert von Anthropic lückenlose Blockade aller Jailbreaks

Gary Marcus hat in einem Substack-Beitrag auf einen WIRED-Bericht reagiert, demzufolge das Weiße Haus von Anthropic verlangt, die Manipulierbarkeit des Modells Fable 5 vor einer Neuzulassung vollständig auszuschließen. Von WIRED zitierte Sicherheitsexperten stufen die absolute Verhinderung von Jailbreaks als technisch unmöglich ein. Marcus argumentiert, dass dieser Vorfall ein grundlegendes Problem verdeutlicht: Die aktuellen Next-Token-LLM-Architekturen und bestehenden Sicherheitsvorkehrungen eignen sich von Natur aus nicht dazu, Umgehungen lückenlos zu unterbinden. Er wertet die Situation als systemisches Problem der Generative AI und betont, dass die Gesellschaft entweder den Einsatz von LLMs einschränken oder die damit verbundenen Risiken akzeptieren muss. Diese politische Intervention unterstreicht die wachsende Kluft zwischen behördlichen Sicherheitsforderungen und den realen technologischen Grenzen aktueller KI-Architekturen, was weitreichende Konsequenzen für die gesamte Branche nach sich ziehen kann.