Beobachtetes Signal · 1. Dez. 2023 · Security Vulnerability · Quelle: Trending Topics · Relevanz: 3/5 · Sentiment: Negativ
ChatGPT durch einfache Prompts für Datenextraktionsangriffe anfällig
Ein Forschungspapier von Google DeepMind und akademischen Kollaborateuren offenbart eine kritische Schwachstelle in OpenAI's ChatGPT, die die Extraktion von Trainingsdaten über einfache Prompts ermöglicht. Durch die Aufforderung, ein Wort endlos zu wiederholen, bricht das Modell aus und gibt wortgetreuen Text aus seinem Trainingsdatensatz aus, darunter Namen, Adressen und Telefonnummern aus öffentlichen Quellen. Die Forscher schätzen, dass sich mit wenigenhundert Dollar Megabytes und bei höherer Skalierung Gigabytes an Daten extrahieren lassen. OpenAI wurde am 30. August informiert, der Angriff ist inzwischen behoben. Dies wirft erhebliche Datenschutz- und Urheberrechtsbedenken auf, da die Inhalte vieler Websites ohne ausdrückliche Zustimmung zum Training verwendet wurden. An der Studie waren Forscher von Google DeepMind, der University of Washington, Cornell, CMU, UC Berkeley und der ETH Zürich beteiligt, was die Wettbewerbsdynamik zwischen Google und dem von Microsoft unterstützten OpenAI unterstreicht.
Dies verdeutlicht erhebliche Sicherheits- und Datenschutzrisiken in LLMs, welche das Vertrauen in KI-gestützte Werbe- und Marketing-Technologien beeinträchtigen.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Eine Forschungsarbeit von Google DeepMind und Partnern offenbart einen simplen Prompt-Angriff zur Extraktion von ChatGPT-Trainingsdaten.
- Der Angriff beruht darauf, ChatGPT aufzufordern, ein einzelnes Wort unendlich zu wiederholen, wodurch gespeicherte Daten ausgegeben werden.
- Die extrahierten Daten enthielten sensible personenbezogene Informationen wie Namen, Adressen und Telefonnummern.
- Forscher schätzten, dass mit geringem finanziellem Aufwand Megabytes und mit mehr Budget Gigabytes an Daten extrahiert werden können.
- OpenAI wurde am 30. August informiert, und die Schwachstelle wurde inzwischen behoben.
Verknüpfte Unternehmen
3 verknüpfte Unternehmen“ChatGPT is a product of OpenAI....”
“A research paper by Google DeepMind researchers reveals the vulnerability....”
“OpenAI has Microsoft as a large partner and investor....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Windows 11: Bessere Suche, Copilot mit Dateizugriff
Microsoft kündigte zwei kommende Updates für Windows 11 an: eine verbesserte Suche und erweiterte Copilot-Funktionen. Mit der neuen Suche lassen sich Einstellungen wie der Dark Mode direkt anpassen, Screenshots erstellen und die Lautstärke per Slider ändern. Künftig sollen sogar Nachrichten verfasst und an Kontakte gesendet werden können. Copilots 'Hybrid Intelligence'-Funktion, die bei einem Microsoft-Event vorgestellt wurde, ermöglicht der KI den Zugriff auf lokale Dateien und Aktionen im gesamten Betriebssystem, etwa das Finden, Umbenennen, Packen und Anhängen von Dokumenten an E-Mails. Jacob Andreou, EVP von Copilot, demonstrierte dies anhand eines Steuerbeispiels. Der Rollout erfolgt schrittweise und erfordert die Zustimmung der Nutzer. Das Such-Upgrade soll noch dieses Jahr erscheinen, ein genaues Datum nannte Microsoft nicht.
Grok Bot durchsucht X und nutzt Konkurrenzmodelle
SpaceXAI hat seinen AI-Agenten Grok Bot um die Fähigkeit erweitert, die gesamte X-Plattform kontinuierlich zu durchsuchen und zu analysieren. Nutzer können den Agenten nun für 24/7-Social-Listening, Markenüberwachung und Trendanalysen einsetzen, ähnlich wie bei Googles Information Agents. Grok Bot wird je nach Aufgabenstellung auch Modelle von Konkurrenten wie Claude Opus 5.5, Midjourney und Suno integrieren. Dieser Schritt signalisiert einen Wandel hin zu Multi-Modell-AI-Agenten und erweitert die Möglichkeiten der KI-gestützten Social-Media-Analyse.
OpenAI-Experte: Token-Effizienz für KI-Agenten optimieren
In einem Interview mit t3n erklärt Maximilian Hudlberger, Applied AI Engineer bei OpenAI, dass trotz sinkender Token-Preise die KI-Kosten für Unternehmen deutlich steigen können, insbesondere durch den zunehmenden Einsatz von KI-Agenten. Er argumentiert, dass das wahre Maß für Wirtschaftlichkeit nicht der Preis pro Token ist, sondern die Anzahl der erledigten Aufgaben mit einem gegebenen Budget. Unnötige Kosten entstehen oft dadurch, dass für jede Aufgabe das stärkste Modell verwendet wird, obwohl einfachere Modelle ausreichen würden. Unternehmen sollten daher in erledigten Aufgaben denken und ihre Modellwahl für wirtschaftliche Effizienz optimieren. Der Artikel betont, dass der wachsende Einsatz von KI-Agenten in Unternehmensworkflows den Token-Verbrauch erhöht und Kostenmanagement zu einem kritischen Geschäftsfaktor macht.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.