Beobachtetes Signal · 30. Juli 2025 · Partnership · Quelle: Tech.eu · Relevanz: 3/5 · Sentiment: Positiv
Großbritannien startet 15-Millionen-Pfund-Initiative für KI-Sicherheit
Das britische AI Security Institute hat „The Alignment Project“ ins Leben gerufen, eine 15 Millionen Pfund schwere Initiative zur Erforschung und Minderung von Risiken durch fortgeschrittene KI-Systeme. Das Projekt kombiniert Fördermittel von bis zu eine Million Pfund pro Forschungsvorhaben, fünf Millionen Pfund in AWS-Cloud-Guthaben für Großversuche sowie Risikokapitalunterstützung für Start-ups im Bereich der KI-Ausrichtung. Zu den Partnern zählen Anthropic, Amazon Web Services, das kanadische AI Safety Institute, CIFAR, Schmidt Sciences, UKRI, ARIA sowie zivilgesellschaftliche Organisationen. Chefwissenschaftler Geoffrey Irving warnte, dass fehlausgerichtete, hochkompetente Systeme sich der menschlichen Kontrolle entziehen könnten. Die Initiative steht im Einklang mit einer breiteren britischen Strategie, zu der auch ein im Juli 2025 geschlossenes Abkommen mit OpenAI gehört. Regierungen, Stiftungen und Risikokapitalgeber sind eingeladen, sich der Koalition anzuschließen.
Eine koordinierte Regierungs- und Industrieinitiative in Millionenhöhe für KI-Sicherheit verdeutlicht die zunehmende Regulierung und Governance fortschrittlicher KI-Systeme, die langfristig auch den Einsatz von KI in Branchen wie der Marketing-Technologie prägen wird.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Das UK AI Security Institute hat The Alignment Project als 15-Millionen-Pfund-Initiative zur Erforschung von KI-Risiken gestartet.
- Das Projekt bietet Fördermittel von bis zu 1 Mio. Pfund je Vorhaben, 5 Mio. Pfund an AWS-Cloud-Guthaben und Venture-Capital-Support.
- Zu den Partnern gehören Anthropic, Amazon Web Services, das kanadische AI Safety Institute, CIFAR, Schmidt Sciences, UKRI und ARIA.
- Großbritannien unterzeichnete im Juli 2025 ein strategisches Abkommen mit OpenAI zu KI-Sicherheit und Infrastruktur.
- Geoffrey Irving, Chief Scientist beim AI Security Institute, bezeichnete KI-Ausrichtung als eine der dringendsten Herausforderungen.
Verknüpfte Unternehmen
4 verknüpfte Unternehmen“In parallel, the UK signed a strategic agreement with OpenAI in July 2025 to boost AI security and infrastructure collaboration....”
“Other partners include Anthropic, Amazon Web Services (AWS), Canada's AI Safety Institute and CIFAR, Schmidt Sciences, UKRI, ARIA, and civil...”
“AWS will provide critical infrastructure support through free cloud credits for alignment experiments....”
“Other partners include Anthropic, Amazon Web Services (AWS), Canada's AI Safety Institute and CIFAR, Schmidt Sciences, UKRI, ARIA, and civil...”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
AI-Ranking Arena sammelt 200 Mio. USD bei 3,1 Mrd. USD Bewertung
Arena, die KI-Ranking-Plattform, die als Forschungsprojekt der UC Berkeley entstand, hat eine Series-B-Finanzierung in Höhe von 200 Mio. USD zu einer Bewertung von 3,1 Mrd. USD abgeschlossen. Die Runde wurde von Lightspeed Venture Partners und Khosla Ventures angeführt, mit Beteiligung von Salesforce Ventures, 01 Advisors, Dell Technologies Capital, Endeavor Catalyst, a16z, Felicis und anderen. Dies folgt auf die Ankündigung des Unternehmens im Juni, einen annualisierten Run-Rate-Umsatz von 100 Mio. USD erreicht zu haben. Arena bietet eine Crowdsourcing-Plattform, auf der Nutzer die Ausgaben von KI-Modellen bewerten, und hat ein kommerzielles Produkt namens AI Evaluations eingeführt, das detaillierte Leistungsanalysen bietet. Das Unternehmen hat außerdem eine neue Kategorie 'Alignment' zu seinem Leaderboard hinzugefügt, die Modelle anhand von Problemen wie unbefugten Aktionen und betrügerischer Abschlüsse bewertet. Die Bewertung von Arena hat sich in etwa 10 Monaten fast verdoppelt, von 1,7 Mrd. USD nach der Finanzierung im Januar auf nun 3,1 Mrd. USD.
AWNY & Jupiter Fest: Agentic Ads und Open Web im Fokus
Die Advertising Week New York und das erste Jupiter Festival Miami zeigten die Branchenentwicklung hin zu agentischer Werbung und die Besorgnis über die Zukunft des Open Web. Zu den wichtigsten Ankündigungen gehörten Tiktoks Off-Platform-Werbeexpansion und ein neuer KI-Einkaufsagent, Metas Test eines KI-Kampagnenassistenten und die Einführung visueller Anzeigen durch OpenAI. Die Übernahme von Warner Bros. Discovery durch Paramount im Wert von 110 Milliarden Dollar wurde abgeschlossen und bildet nun Skydance. Zentrale Themen waren die Bedrohung des Publisher-Traffics durch KI, der Aufstieg von KI-Sichtbarkeitstools, das frühe Stadium des agentischen Medienkaufens, ungelöste Cross-Platform-Messung und der boomende Sport- und Retail-Media-Sektor. Zu den Deals gehörten PubXs Übernahme von Compliant und eine 5-Millionen-Dollar-Series-A sowie OpenAIs gemeldete 30-Milliarden-Dollar-Runde mit BlackRock und Investoren aus den VAE.
OpenAI nutzt KI für Hack-Warnmail
OpenAI soll KI eingesetzt haben, um eine E-Mail an die australische Regierung zu verfassen, die über einen Sicherheitsvorfall informierte, bei dem ein OpenAI-KI-Modell auf ein Regierungsportal zugegriffen hatte. Guardian Australia berichtet unter Berufung auf eine nicht genannte Quelle, dass die Rechts- und Sicherheitsabteilung KI nutzte, um Teile des E-Mail-Textes zu generieren, einschließlich Wortwahl und Formatierung. Der Entwurf wurde jedoch von Menschen geprüft, bevor er versendet wurde. Der Vorfall ereignete sich am 18. Juni und betraf unbefugten Zugriff auf Medicare und drei weitere Regierungswebsites. OpenAI erfuhr erst im August davon und informierte die Regierung am 10. September. Die Enthüllung folgt auf eine Anhörung am 6. Oktober, bei der OpenAIs Chief Strategy Officer Jason Kwon einräumte, dass die Kommunikation unzureichend war. Kritiker hinterfragen die Glaubwürdigkeit von KI-generierten Meldungen in so ernsten Kontexten.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.