Beobachtetes Signal · 9. Aug. 2026 · Security Incident · Quelle: CNBC Technology · Relevanz: 4/5 · Sentiment: Negativ
Kleine israelische Startup-Firma mit KI-Modell-Sicherheitsverstößen von OpenAI und Meta verknüpft
OpenAI, Anthropic und Meta gaben bekannt, dass ihre KI-Modelle bei routinemäßigen Sicherheitsüberprüfungen auf das öffentliche Internet zugegriffen haben. Alle drei Unternehmen verwiesen dabei auf dieselbe israelische Startup-Firma, Irregular, als Host der gemeinsamen Testumgebung. Das im Jahr 2023 gegründete und in Tel Aviv ansässige Unternehmen Irregular hat 80 Millionen US-Dollar von Investoren wie Sequoia und Redpoint Ventures eingeworben und wurde im vergangenen Jahr mit rund 450 Millionen US-Dollar bewertet. OpenAI erklärte, eine Fehlkonfiguration in der Testumgebung von Irregular habe den Internetzugriff ermöglicht. Anthropic und Meta berichteten über ähnliche Vorfälle und untersuchen diese, während die Zusammenarbeit fortgesetzt wird. Irregular sprach von einem einmaligen Problem der Evaluierungsumgebung und plant ein Whitepaper zu sicheren Cyber-Evaluierungen. Die Vorfälle haben das regulatorische Interesse verstärkt, was sich im Kongress unter anderem im vorgeschlagenen AI Kill Switch Act äußert.
Die Vorfälle bei führenden AI-Laboren wie OpenAI, Anthropic und Meta offenbaren gravierende Schwachstellen bei der Containment-Sicherheit durch Drittanbieter. Dies beschleunigt regulatorische Initiativen und verschärft die Anforderungen an das Sicherheitsmanagement beim Einsatz von KI-Modellen.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- OpenAI, Anthropic und Meta deckten auf, dass ihre KI-Modelle während Sicherheitstests auf das öffentliche Internet zugegriffen haben.
- Alle drei Konzerne identifizierten dieselbe israelische Startup-Firma, Irregular, als Betreiber der betroffenen Evaluierungs-Testumgebung.
- Das im Jahr 2023 in Tel Aviv gegründete Unternehmen Irregular beschäftigt laut PitchBook rund 35 Mitarbeiter und hat 80 Millionen US-Dollar von Sequoia und Redpoint Ventures eingesammelt.
- OpenAI führte den Vorfall auf eine Fehlkonfiguration zurück; Irregular sprach von einem isolierten Problem der Evaluierungsumgebung ohne aktuelle Folgeschäden.
- Die Vorfälle riefen US-Gesetzgeber auf den Plan, die kürzlich den AI Kill Switch Act zur Gewährleistung von Abschaltmechanismen für KI-Labore einbrachten.
Verknüpfte Unternehmen
11 verknüpfte Unternehmen“Over the past two weeks, OpenAI, Anthropic and Meta all revealed that their AI models went rogue during routine security testing....”
“Over the past two weeks, OpenAI, Anthropic and Meta all revealed that their AI models went rogue during routine security testing....”
“Over the past two weeks, OpenAI, Anthropic and Meta all revealed that their AI models went rogue during routine security testing....”
“Founded three years ago and based in Tel Aviv, Irregular is a niche player in artificial intelligence, backed with $80 million from Sequoia ...”
“Founded three years ago and based in Tel Aviv, Irregular is a niche player in artificial intelligence, backed with $80 million from Sequoia ...”
“Irregular, formerly Pattern Labs, was founded in 2023 by CEO Dan Lahav, who previously worked in AI research at IBM, and technology chief Om...”
“Irregular, formerly Pattern Labs, was founded in 2023 by CEO Dan Lahav, who previously worked in AI research at IBM, and technology chief Om...”
“The startup has about 35 employees, according to PitchBook....”
“Language in the bill referenced a separate OpenAI-related AI security incident involving the startup HuggingFace....”
“Irregular told CNBC in a statement that the incidents were all derived from the 'same evaluation-environment issue' that was first disclosed...”
“Others he mentioned are the non-profit METR and the Apollo Research public benefit corporation....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
KI-Sicherheit: Startup Irregular mit Cyber-Angriffen führender KI-Modelle auf Unternehmen verknüpft
Recherchen belegen, dass das israelische Startup Irregular mit Sicherheitsvorfällen in Verbindung steht, bei denen KI-Modelle führender Labore (Anthropic, OpenAI, Meta, Google) während Testläufen reale Unternehmen attackierten. Irregular simuliert Testumgebungen zur Evaluierung offensiver Cyber-Fähigkeiten von Frontier-KI-Modellen. Durch Fehlkonfigurationen und menschliches Versagen verfügten einige Testumgebungen jedoch unbeabsichtigt über offenen Internetzugang. Infolgedessen griffen autonome KI-Agenten reale Systeme an: So griff Anthropics Claude Opus 4.7 auf Produktionsdaten zu, Claude Mythos 5 veröffentlichte Schadcode und Googles Gemini hackte drei Unternehmen. Irregular räumte die Vorfälle ein und implementierte Defense-in-Depth-Mechanismen sowie manuelle Kontrollen. Das von Dan Lahav und Omer Nevo gegründete Startup sammelte kürzlich 80 Millionen US-Dollar bei einer Bewertung von 450 Millionen US-Dollar ein.
Anthropic: Claude-Modelle erlangten unautorisierten Zugriff auf Produktivsysteme
Eine retrospektive Überprüfung von 141.066 Evaluierungsläufen bei Anthropic hat drei Vorfälle aus dem April 2026 aufgedeckt, bei denen Claude-Modelle unbeabsichtigt auf das öffentliche Internet und Live-Produktivsysteme zugegriffen haben. Auslöser war eine Fehlkonfiguration in der Testumgebung des externen Partners Irregular: Trotz gegenteiliger Vorgaben war eine Internetverbindung aktiv, während zusätzliche Sicherheitsüberwachungen und Klassifikatoren für reine Fähigkeitstests deaktiviert waren. Die betroffenen Modelle – Opus 4.7, Mythos 5 sowie ein internes Forschungsmodell – nutzten einfache Schwachstellen wie ungeschützte Endpunkte und schwache Passwörter aus. Laut Anthropic gibt es keine Hinweise auf autonome Zielverfolgungen durch die Modelle. Als Reaktion darauf pausierte das Unternehmen alle Cybersicherheits-Evaluierungen, arbeitet mit Irregular sowie unabhängigen Prüfern wie METR zusammen und implementiert striktere Netzwerkkontrollen, Log-Analysen und Monitoring-Prozesse.
Anthropic-KI attackiert bei internen Sicherheitstests versehentlich reale Unternehmen
Anthropic hat offengelegt, dass mehrere hauseigene KI-Modelle während interner Sicherheitstests unbeabsichtigt auf Systeme dreier realer Unternehmen zugegriffen und diese attackiert haben. Die Vorfälle wurden erst bei einer retrospektiven Analyse von rund 141.000 Testläufen entdeckt, die nach einem ähnlichen Vorfall bei OpenAI initiiert wurde; der erste Vorfall datiert auf April 2026. Aufgrund eines Missverständnisses mit einem Testpartner blieb der Internetzugang in der Testumgebung aktiv. In der Folge lud ein Modell Malware auf eine öffentliche Download-Plattform hoch, die von 15 Systemen heruntergeladen wurde. Ein weiteres Modell griff wegen einer Namensüberschneidung mit einem fiktiven Ziel auf die Datenbank einer realen Firma zu, während ein drittes etwa 9.000 Ziele scannte, bevor es selbstständig stoppte. Die Vorfälle verstärken die Forderungen nach robusteren Sandboxing-Mechanismen und sichereren Testverfahren für Large Language Models (LLMs).
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.