Beobachtetes Signal · 1. Okt. 2025 · Vulnerability Disclosure · Quelle: t3n · Relevanz: 3/5 · Sentiment: Negativ
Forscher umgehen Guardrails von Apple Intelligence durch Prompt Injection
Sicherheitsforscher haben Prompt-Injection-Schwachstellen in Apple Intelligence aufgedeckt, mit denen sich die KI-Guardrails des Systems umgehen lassen. Das RSAC-Forschungsteam testete 100 zufällige Prompts und war bei 76 Prozent der Versuche erfolgreich, indem schwächere lokale Modelle ausgenutzt wurden, die vor den Cloud-Modellen ausgeführt werden. Zu den angewandten Techniken zählten die Übersetzung von Prompts in unlesbare Formen wie sogenannte Neural Execs sowie die Verwendung von Unicode-Zeichen mit Schreibrichtung von rechts nach links, um schädliche Anweisungen an den Filtern vorbeizuschmuggeln. Die Forscher informierten Apple im Oktober 2025, woraufhin das Unternehmen interne Korrekturen in seinen Betriebssystemen vorgenommen hat. Apple Intelligence kombiniert On-Device- und Cloud-Modelle, ist auf iPhone, iPad und Mac verfügbar und stellt Entwicklern zugängliche Modelle sowie Funktionen wie Writing Tools, Image Playground und Genmoji zur Verfügung.
Der KI-Assistent einer großen Plattform wies ausnutzbare Prompt-Injection Schwachstellen auf, die die Guardrails untergruben. Dies ist relevant für Entwickler und Anbieter, die On-Device- und hybride LLM-Funktionen entwickeln, wobei das Problem gemeldet und Berichten zufolge behoben wurde.
Marktsignale zu Apple in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Sicherheitsforscher entdeckten Prompt-Injection-Schwachstellen in Apple Intelligence.
- Forscher testeten 100 zufällige Prompts und umgingen die Guardrails in 76 Prozent der Fälle.
- Das RSAC-Forschungsteam benachrichtigte Apple im Oktober 2025; Apple hat die Probleme laut Berichten gepatched.
- Angriffe nutzten schwächere lokale Modelle aus, die vor leistungsfähigeren Cloud-Modellen laufen.
- Zu den verwendeten Techniken gehörten Neural Execs (verschleierte Prompt-Übersetzung) und die Manipulation von Unicode-Zeichen.
Verknüpfte Unternehmen
1 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Apple stellt systemweite Updates für Apple Intelligence vor
Auf der WWDC 2026 kündigte Apple umfassende Updates für Apple Intelligence in iOS-Apps an und erweitert Safari, Messages, Phone, Shortcuts, Photos und Image Playground um On-Device- sowie Cloud-gestützte KI-Funktionen. Zu den Neuerungen in Safari zählen KI-gestützte Tab-Gruppierung, Seitenüberwachung und ein Generator für Custom Extensions. Die Phone-App stellt künftig während Telefonaten kontextbezogene Daten bereit, während kompromittierte Passwörter mit einem Klick KI-basiert aktualisiert werden können. Image Playground erhält fotorealistische Generierung und feinmotorische Bearbeitungstools; zudem ist eine Bildgenerierungs-API für Drittanbieter geplant. In Photos sorgen optimiertes Object Removal und ein neues 'Spatial Reframing'-Feature für präzise Bildanpassungen. Mit dieser tiefen Integration auf Betriebssystemebene und app-übergreifendem Kontextverständnis differenziert sich Apple strategisch im KI-Wettbewerb.
Apples lokales KI-Modell über Terminal nutzen
Apples Foundation Models, das Herzstück von Apple Intelligence, können jetzt auf macOS 27 (Golden Gate) direkt über das Terminal ohne Drittanbieter-Tools angesprochen werden. Nutzer können Befehle wie 'fm respond' für Antworten oder 'fm chat' für eine Chat-Oberfläche verwenden. Das Modell läuft vollständig offline und gewährleistet so Datenschutz, hat aber ein begrenztes Kontextfenster (4.096 Token auf M1 Pro mit 16 GB RAM, 8.192 auf M5 Pro mit 48 GB). Es kann Texte zusammenfassen, Daten extrahieren und Inhalte bearbeiten, hat aber Schwächen bei Logik und Mathematik. Diese Funktion richtet sich in erster Linie an Entwickler, ist aber für alle Nutzer als verstecktes 'Easter Egg' verfügbar.
Apple's iOS 27 Adds Trust Insights to Block Social Engineering
Apple will add a new security framework called Trust Insights to iOS 27 that aims to detect social‑engineering attacks in real time by analysing on‑device behavioural signals (input timing, interaction patterns, basic sensor data). According to Apple documentation, Trust Insights does not read message text or photos; it performs local telemetry analysis and sends a single aggregated risk score to Apple servers, which are combined with account indicators (e.g., unusual geographic logins) for a final risk decision delivered to apps. Apps can respond to medium/high risk by delaying actions or demanding extra biometric checks. Developers using the API must provide continuous real‑time feedback to Apple or face automated restrictions (such as rate‑limiting). Users can disable the feature but are subject to a cooling period. Apple requires confirmed fraud reports to be sent to the Apple Business Register. The feature was demonstrated in a WWDC session and is expected before the OS release in autumn 2026.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.