Beobachtetes Signal · 4. März 2024 · Research · Quelle: Trending Topics · Relevanz: 3/5 · Sentiment: Negativ
Forscher entwickeln erste sich selbst verbreitende generative KI-Würmer
Forscher der Cornell Tech haben die ersten generativen KI-Würmer namens ,Morris II‘ entwickelt, die sich autonom zwischen Systemen verbreiten, Daten stehlen und Schadsoftware einschleusen können. Der Wurm attackierte einen KI-E-Mail-Assistenten in einer Testumgebung und umging dabei Sicherheitsvorkehrungen in Modellen wie ChatGPT und Gemini. Die Studie verdeutlicht kritische Sicherheitslücken bei autonomen KI-Agenten, darunter Prompt-Injection und sich selbst replizierende Angriffe. Bisher wurden keine realen Angriffe gemeldet. Die Erkenntnisse wurden vorab mit OpenAI und Google geteilt; OpenAI räumte das Risiko ein und kündigte Maßnahmen zur Erhöhung der Systemresilienz an. Das entsprechende Forschungspapier wurde exklusiv an WIRED übergeben, um auf die drohenden Bedrohungen in der KI-Infrastruktur aufmerksam zu machen.
Die Studie verdeutlicht gravierende Sicherheitsrisiken bei autonomen KI-Agenten, die das Vertrauen und die Akzeptanz in KI-gestützte Marketing-, Automatisierungs- und Geschäftsanwendungen massiv beeinträchtigen könnten.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Forscher entwickelten ,Morris II‘, den ersten generativen KI-Wurm zur systemübergreifenden Verbreitung und Datendiebstahl.
- Der Wurm griff erfolgreich einen KI-E-Mail-Assistenten an, entwendete E-Mail-Daten und versendete Spam.
- Sicherheitsmaßnahmen in großen Sprachmodellen wie ChatGPT und Gemini wurden erfolgreich umgangen.
- Ergebnisse wurden an OpenAI und Google übermittelt; OpenAI bestätigte bestehende Prompt-Injection-Schwachstellen.
- Bisher sind keine realen Angriffe durch generative KI-Würmer in freier Wildbahn bekannt geworden.
Verknüpfte Unternehmen
2 verknüpfte Unternehmen“The findings were sent to OpenAI and Google....”
“The findings were sent to OpenAI and Google....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
OpenAI entlässt Sicherheitsforscher; GPT-6.1 Ultrafast gestartet
Dieser AINews-Newsletter behandelt mehrere bedeutende Entwicklungen: OpenAI hat drei Sicherheitsforscher entlassen, die mit einem METR-Audit in Verbindung stehen, und beruft sich auf den Missbrauch vertraulicher Informationen. OpenAI hat außerdem GPT-6.1 Sol Ultrafast, ein schnelleres und günstigeres Modell, sowie eine intelligente Benutzeroberfläche für ChatGPT eingeführt. Anthropic hat Claude Haiku 5.5 veröffentlicht und die Preise für Sonnet 5.5-Cache-Reads gesenkt. Darüber hinaus hat Arena 200 Mio. USD eingesammelt, und es gibt Berichte über OpenAIs Umsatzzahlen. Der Newsletter enthält auch verschiedene Modellveröffentlichungen, Benchmarks und Sicherheitsforschungs-Updates.
GreenCore Solutions eröffnet Londoner Büro für A2A-Grocery Agentic Commerce
GreenCore Solutions Corp. (GSC) gab die Eröffnung eines Vertriebsbüros in London, UK, unter der neuen Gesellschaft GreenCore Solutions (UK) bekannt, um seinen Agentic-Commerce-Hub A2A-Grocery.co.uk zu unterstützen. Das Unternehmen führte seine 0-100 Agentic Density Scale ein, die zeigt, dass Großbritannien und Europa 84 % der Lebensmittelhersteller ausmachen, während die USA nur 16 % ausmachen. Die KI-Agenten von GSC haben bisher im Jahr 100 Millionen Transaktionen verarbeitet, davon 40 % aus Europa, 20 % aus den USA und 40 % aus dem Rest der Welt. Das Londoner Büro soll europäische Hersteller mit KI-Agenten verbinden, die für Lebensmitteleinzelhändler in 20 Märkten einkaufen. GSC nutzt Microsoft Azure und Google Cloud Enterprise, mit Datenresidenz in jedem Markt.
BBC-Chef kündigt Silicon-Valley-Umbau an
BBC-Intendant Matt Brittin, ehemals bei Google, hat einen umfassenden kulturellen und strategischen Umbau der britischen Rundfunkanstalt angekündigt. In einer Town-Hall-Rede forderte er die Mitarbeiter auf, schnellere Entscheidungen zu treffen, digitale Dienste als Flaggschiffprodukte zu behandeln und kontrollierte Experimente zu wagen. In der Rede, die keine Bestätigung von TV-Sender-Schließungen enthielt, stellte Brittin einen Prototyp für den Streamingdienst iPlayer vor, darunter einen KI-Agenten für Empfehlungen und mehrsprachige Unterstützung, personalisierte Startseiten und eine Zufallsauswahl-Funktion. Die Publikumstests sollen in Kürze beginnen. Während einige Mitarbeiter die neue Richtung begrüßten, äußerten andere Skepsis angesichts der Risiken für einen öffentlich-rechtlichen Sender. Brittin betonte die Notwendigkeit greifbarer Ergebnisse und deutete einen künftigen Übergang weg von der analogen Verbreitung an.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.