Observed Signal · Sep 28, 2026 · Policy Update · Source: CNBC Technology · Impact: 4/5 · Sentiment: Neutral
Khanna Introduces AI Safety Bill Banning Recursive Self-Improvement
Der demokratische Abgeordnete Ro Khanna bringt den 'Human Control Over AI Act' ein, ein umfassendes KI-Sicherheitsgesetz, das ein Verbot rekursiv selbstverbessernder KI-Modelle bis zur Einführung bundesstaatlicher Schutzmaßnahmen vorsieht. Das Gesetz würde eine neue Bundesbehörde zur Regulierung von Frontier-KI-Modellen von Unternehmen wie OpenAI, Anthropic, Google DeepMind und xAI schaffen und Sicherheitsvorschriften, ein Lizenzsystem und verbindliche Audits etablieren. Es sieht außerdem strafrechtliche Sanktionen für die Deaktivierung von Schutzmechanismen und 'Verbrechen gegen die Menschlichkeit' bei KI-Einsatz mit ziviler Zerstörung vor. Das Gesetz basiert auf Gesprächen mit KI-Sicherheitsorganisationen statt mit Branchenführern. Es reiht sich in andere Vorschläge wie den FRONTIER Act ein, aber eine Abstimmung im Repräsentantenhaus wird erst nach den Zwischenwahlen erwartet.
Dieser Gesetzesvorschlag könnte die KI-Entwicklung und -Bereitstellung, auch in der Werbetechnologie, erheblich beeinflussen, indem er strenge Vorschriften und Haftungsstandards einführt. Er spiegelt den wachsenden regulatorischen Druck auf KI-Unternehmen wider, was auch Adtech-Plattformen betreffen könnte, die auf KI angewiesen sind.
Marktsignale zu Google DeepMind in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Abgeordneter Ro Khanna bringt den 'Human Control Over AI Act' ein, der rekursiv selbstverbessernde KI bis zur Schaffung bundesstaatlicher Schutzmaßnahmen verbietet.
- Das Gesetz schafft eine neue Bundesbehörde zur Regulierung von Frontier-KI-Modellen von OpenAI, Anthropic, Google DeepMind und xAI.
- Das Gesetz sieht strafrechtliche Sanktionen für die Deaktivierung von KI-Schutzmechanismen und 'Verbrechen gegen die Menschlichkeit' bei KI-Einsatz vor, der zur Zerstörung der Zivilbevölkerung führt.
- Das Gesetz basiert auf Beiträgen von KI-Sicherheitsorganisationen wie METR, MIRI und Palisade Research.
- Eine Abstimmung im Repräsentantenhaus wird erst nach den Zwischenwahlen erwartet.
Verknüpfte Unternehmen
4 verknüpfte Unternehmen“The bill would also create a new federal agency to focus on AI models from OpenAI, Anthropic, Google DeepMind and xAI....”
“The bill would also create a new federal agency to focus on AI models from OpenAI, Anthropic, Google DeepMind and xAI....”
“He said it is modeled on his conversations with AI safety organizations like the independent nonprofits Model Evaluation and Threat Research...”
“The bill would also create a new federal agency to focus on AI models from OpenAI, Anthropic, Google DeepMind and xAI....”
Ontology Mapping & Concepts
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Trump und Xi erörtern KI-Kooperation bei Staatsbankett
Bei einem historischen Staatsbankett erörterten US-Präsident Donald Trump und der chinesische Präsident Xi Jinping die KI-Zusammenarbeit. Beide Seiten bekundeten die Absicht, den Dialog fortzusetzen und eine Kommunikations-Hotline für Notfälle einzurichten. Das Treffen wurde von Tech-Führungskräften wie Jensen Huang (Nvidia), Elon Musk (SpaceX) und Tim Cook (Apple) besucht. China betonte einen menschenzentrierten Ansatz für KI, während die US-Lesart noch ausstand. Zu den wichtigsten Streitpunkten gehörten Exportkontrollen für Nvidia-Chips und der gemeldete Fernzugriff chinesischer Unternehmen auf diese. Experten sind der Ansicht, dass die Hotline mit einem ordnungsgemäßen Meldesystem zu einem robusten Instrument werden könnte. Der Artikel enthält auch kurze Updates zu OpenAIs unbefugtem Zugriff auf eine australische Regierungswebsite, neuen kostengünstigen KI-Modellen von Anthropic und OpenAI, AMDs Rekordmarktwert von 1 Billion US-Dollar, Qualcomms neuen KI-optimierten Chipsätzen und OpenAIs Vorschlägen zur KI-Sicherheit.
Palo Alto CEO Says AI Slowdown 'Unrealistic', Extinction Risk 'Extremely Small'
Palo Alto Networks CEO Nikesh Arora told CNBC's 'The Tech Download' podcast that calls to slow AI development are 'unrealistic' and that the threat of AI causing human extinction is 'extremely small'. He argued that not all companies will pace themselves and that frontier developers should be responsible for safety. Arora also expressed doubts about US-China coordination on AI safety, citing differing views among US politicians and executives. His comments contrast with Anthropic CEO Dario Amodei's call for a slowdown and align with Nvidia CEO Jensen Huang's stance. Arora's remarks add to the ongoing debate about AI regulation and safety.
AI Execs Warn UN Security Council of Existential Risks
At a historic UN Security Council briefing, leading AI executives and scientists, including Yoshua Bengio, Sam Altman (OpenAI), Dario Amodei (Anthropic), and Clement Delangue (Hugging Face), delivered back-to-back speeches warning that without intervention, AI could pose a risk to humanity as a whole. The speakers converged on key recommendations: the need for preflight safety testing, transparency auditing, liability, global dialogue, international cooperation, and immediate action. The event marks a rare consensus among major industry players on the urgent need for governance and regulation. Some critics noted that Altman and Amodei's speeches contained self-congratulatory hype, particularly Amodei's overstatement of a recent enzyme discovery compared to CRISPR, which experts such as Dr. Angela Rasmussen said was premature.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.