Beobachtetes Signal · 20. Okt. 2026 · Policy Update · Quelle: techcrunch · Relevanz: 4/5 · Sentiment: Neutral
Anthropic schlägt KI-Sicherheitsgesetz mit Katastrophenrisiko-Schwellen vor
Anthropic hat einen Gesetzesentwurf zur KI-Sicherheit verfasst, der von Politico berichtet wurde und Szenarien beschreibt, in denen die Veröffentlichung eines KI-Modells blockiert werden könnte, um katastrophale Risiken zu verhindern. Diese Szenarien umfassen ein 'vorhersehbares, unmittelbares Risiko' von über 50 Todesfällen oder über 1 Milliarde US-Dollar Sachschaden, verursacht durch Biowaffen, Modellumgehung von Kontrollen oder Cyberangriffe. Der Entwurf sieht unabhängige Gutachter vor, die beim US-Handelsministerium registriert sind und von KI-Labors bezahlt werden können, sofern die Zahlung nicht von den Ergebnissen abhängt. Wenn Gutachter ein unmittelbares Risiko feststellen, haben sie 72 Stunden Zeit, das Handelsministerium zu benachrichtigen, das dann eine gerichtliche Anordnung zur Blockierung der Veröffentlichung beantragen kann. Der Entwurf verbietet Bundesbehörden ausdrücklich, ein Modell eigenständig zu blockieren. Ein Sprecher von Anthropic bestätigte den Entwurf und sagte, er entspreche dem Advanced AI Framework, das seit Juni befürwortet wird. Der Vorschlag kommt inmitten von Debatten über KI-Regulierung, wobei einige wie Nvidia-CEO gegen neue Gesetze argumentieren.
Anthropics vorgeschlagenes KI-Sicherheitsgesetz könnte einen Präzedenzfall für die KI-Regulierung schaffen und sich auf die Bereitstellung von KI-Modellen auswirken, was wiederum die Werbebranche bei der Nutzung von KI für Targeting und Personalisierung beeinflussen könnte. Die Schwellenwerte und das Gutachtersystem könnten neue Compliance-Anforderungen für KI-Entwickler mit sich bringen und das AdTech-Ökosystem beeinflussen.
Marktsignale zu Anthropic in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Anthropic hat einen Gesetzesentwurf zur KI-Sicherheit vorgeschlagen, der es erlaubt, ein Modell zu blockieren, wenn ein vorhersehbares unmittelbares Risiko von über 50 Todesfällen oder über 1 Milliarde US-Dollar Sachschaden besteht.
- Der Entwurf verlangt unabhängige Gutachter, die beim US-Handelsministerium registriert sind; sie haben 72 Stunden Zeit, unmittelbare katastrophale Risiken zu melden.
- Das Handelsministerium müsste eine gerichtliche Anordnung eines Bundesrichters einholen, um die Veröffentlichung eines Modells zu blockieren; Bundesbehörden ist es verboten, die Verteilung eigenmächtig zu stoppen.
- Ein Sprecher von Anthropic bestätigte den Entwurf und sagte, er entspreche dem Advanced AI Framework, das seit Juni befürwortet wird.
- Die vorgeschlagenen Schwellenwerte von 50 Personen und 1 Milliarde US-Dollar ähneln dem kalifornischen Senate Bill 53 zur KI-Sicherheit.
Verknüpfte Unternehmen
3 verknüpfte Unternehmen“Anthropic hat einen Gesetzesentwurf zur KI-Sicherheit verfasst und setzt sich bei Bundes- und Landesgesetzgebern dafür ein.”
“Demis Hassabis, Vorsitzender von DeepMind, stellte fest, dass eine selbstverwaltete KI-Regulierungsbehörde die FINRA nachahmen sollte.”
“Nvidia-CEO Jensen Huang argumentierte kürzlich, dass die KI-Branche überhaupt keine neuen Gesetze brauche.”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Anthropic-Chef fordert staatliche KI-Regulierungsbehörde nach Vorbild der Luftfahrt
Anthropic-CEO Dario Amodei hat Regierungen aufgefordert, die Befugnis zur Stoppung gefährlicher KI-Systeme zu erhalten, und vorgeschlagen, mächtige Modelle auf Risiken wie Cybersicherheitsbedrohungen, biologische Waffen und Kontrollverlust zu testen. In einem Blogbeitrag schlug er eine Regulierungsbehörde analog zur Luftfahrtaufsicht oder beauftragte Privatauditoren für diese Evaluationen vor. Zudem warnte er vor Risiken durch automatisierte Selbstreifung von Software. Anthropic, Entwickler der Claude-Modelle und Konkurrent von OpenAI, plädiert seit Langem für strengere KI-Regulierung. Das Unternehmen erregte kürzlich Aufsehen mit seinem Mythos-Modell, das lange unentdeckte Software-Schwachstellen aufdecken kann, was Bedenken hinsichtlich KI-gestützter Cyberangriffe verstärkt. Der Bericht beruft sich auf dpa und wurde am 11.06.2026 auf t3n veröffentlicht.
Khanna bringt KI-Sicherheitsgesetz ein: Verbot rekursiver KI
Der demokratische Abgeordnete Ro Khanna bringt den 'Human Control Over AI Act' ein, ein umfassendes KI-Sicherheitsgesetz, das ein Verbot rekursiv selbstverbessernder KI-Modelle bis zur Einführung bundesstaatlicher Schutzmaßnahmen vorsieht. Das Gesetz würde eine neue Bundesbehörde zur Regulierung von Frontier-KI-Modellen von Unternehmen wie OpenAI, Anthropic, Google DeepMind und xAI schaffen und Sicherheitsvorschriften, ein Lizenzsystem und verbindliche Audits etablieren. Es sieht außerdem strafrechtliche Sanktionen für die Deaktivierung von Schutzmechanismen und 'Verbrechen gegen die Menschlichkeit' bei KI-Einsatz mit ziviler Zerstörung vor. Das Gesetz basiert auf Gesprächen mit KI-Sicherheitsorganisationen statt mit Branchenführern. Es reiht sich in andere Vorschläge wie den FRONTIER Act ein, aber eine Abstimmung im Repräsentantenhaus wird erst nach den Zwischenwahlen erwartet.
OpenAI unterstützt Illinois-Gesetzentwurf zur Begrenzung von KI-Haftung
OpenAI unterstützt öffentlich den Gesetzentwurf SB 3444 im US-Bundesstaat Illinois, der die zivilrechtliche Haftung von Entwicklern für bestimmte schwere Schäden durch fortschrittliche KI-Systeme begrenzen soll. Der Entwurf sieht vor, KI-Labore vor Forderungen wegen definierter kritischer Schäden zu schützen – vorausgesetzt, es liegt kein vorsätzliches oder fahrlässiges Verhalten vor und es werden vorgeschriebene Sicherheitsberichte veröffentlicht. Der Entwurf definiert sogenannte Pioneer Models als Systeme, die mit über 100 Millionen US-Dollar an Rechenleistung trainiert wurden, was große Labore wie OpenAI, Google, Anthropic, xAI und Meta betrifft. OpenAI-Sprecherin Jamie Radice begrüßte den Ansatz als Weg zu einheitlichen nationalen Standards, während Kritiker wie Scott Wisor vom Secure-AI Project die Erfolgsaussichten anzweifeln und die Haftungsbefreiung kritisieren. Der Artikel vergleicht den Vorstoß mit dem EU AI Act und verweist auf parallele Gesetzesinitiativen in Illinois, die auf eine Verschärfung der Haftung abzielen.
Alle künftigen Signale zu Anthropic & Wettbewerbern im Briefing erhalten
Verpassen Sie keine M&A-Transaktionen, Führungswechsel, Kunden-Etats oder Produkt-Launches mehr. Polaris7 überwacht über 20.000 Primärquellen rund um die Uhr und liefert evidenzbasierte Telemetrie direkt in Ihr wöchentliches Executive Briefing.