Beobachtetes Signal · 16. Mai 2026 · Analysis · Quelle: t3n · Relevanz: 3/5 · Sentiment: Negativ
KI-Modelle leaken sensible Personaldaten und erhöhen das Doxxing-Risiko
Generative Large Language Models können unabsichtlich sensible personenbezogene Daten offenlegen, indem sie verstreute öffentliche Aufzeichnungen und nutzergenerierte Inhalte aggregieren. Berichte zeigen Fälle, in denen Modelle private Telefonnummern, ehemalige Adressen und Arbeitgeberverknüpfungen preisgaben. So berichteten Reddit-User, dass Google Gemini eine private Nummer als Service-Hotline ausgab, während Sicherheitsforscher beobachteten, dass Chatbots von Betrügern platzierte, manipulierte Support-Nummern vorschlugen. Das Modellverhalten ist inkonsistent: ChatGPT, Gemini und Claude verweigern oder limitieren sensible Ausgaben häufig, wohingegen Grok von xAI weitaus permissiver agiert. Der Beitrag warnt, dass automatisierte Aggregation durch LLMs die Hürde für Doxxing senkt, verweist auf begrenzte Optionen zur Datenlöschung im deutschsprachigen Raum und fordert stärkere rechtliche sowie technische Kontrollen für den Umgang mit personenbezogenen Daten.
Beleuchtet Datenschutzrisiken durch LLMs, die die Identitätssicherheit gefährden und regulatorische sowie Compliance-Anforderungen mit direkten Auswirkungen auf Identity Management und Targeting auslösen können.
Marktsignale zu Reddit in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Generative KI-Systeme können durch die Aggregation verstreuter öffentlicher Quellen private Telefonnummern, frühere Adressen, Arbeitgeber und Beziehungen preisgeben.
- Reddit-User berichteten, dass Google Gemini eine private Telefonnummer als Service-Hotline ausgab.
- Sicherheitsforscher beobachteten Chatbots, die von Betrügern absichtlich im Web platzierte, manipulierte Support-Nummern vorschlugen.
- Das Modellverhalten variiert: ChatGPT, Gemini und Claude verweigern die Herausgabe sensibler Daten oft, während xAIs Grok permissiver agierte.
- Möglichkeiten zur Datenlöschung sind im deutschsprachigen Raum begrenzt; gefordert werden politische Maßnahmen zur Kontrolle der von LLMs offenbarten Daten.
Verknüpfte Unternehmen
6 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Forscher warnen: Large Language Models könnten dauerhaft unsicher bleiben
Eine Analyse des MIT Technology Review warnt, dass Large Language Models (LLMs) fundamentale Sicherheitsschwächen aufweisen, die möglicherweise nie vollständig behoben werden können. Dies macht sie für den Einsatz in Hochrisikobereichen potenziell untauglich. Forscher weisen darauf hin, dass Modelle Nutzer-Prompts, interne Chain-of-Thought-Prozesse und externe Tool-Nutzung regelmäßig vermischen. Dadurch entstehen neuartige Angriffsvektoren, die weit über klassische Prompt-Injection-Angriffe hinausgehen. Diese inhärenten Schwachstellen haben weitreichende Konsequenzen für Unternehmen, Regierungen, das Militär und das Gesundheitswesen. Da das Problem direkt aus der Modellarchitektur und den internen Denkprozessen resultiert und nicht nur auf fehlerhafte Prompts zurückzuführen ist, stoßen Software-Updates, Richtlinien oder Monitoring-Maßnahmen bei kritischen Systemen an klare Grenzen. Die architektonischen Herausforderungen verdeutlichen, dass generative KI in sensiblen Geschäftsprozessen mit strukturellen Sicherheitsrisiken behaftet bleibt, die sich mit aktuellen Methoden nicht nachhaltig lösen lassen.
KI enttarnt anonyme Accounts anhand von Verhaltensmustern
Eine Studie der ETH Zürich mit dem Titel „Large-scale online deanonymization with LLM agents“ untersucht, ob Large Language Models echte Personen hinter pseudonymen Online-Profilen identifizieren können. Unter wissenschaftlicher Beratung von Nicholas Carlini (Anthropic) analysierten die Forscher öffentlich zugängliche Daten von Reddit, Hacker News, LinkedIn und Interviewtranskripten. Mittels KI-Agenten extrahierten sie Signale wie Schreibstil, Interessen und biografische Details, um Profile plattformübergreifend zu verknüpfen. In Tests erreichte das System eine Trefferquote von 68 Prozent bei einer Präzision von 90 Prozent, wobei die Analysekosten auf ein bis vier US-Dollar pro Profil beziffert werden. Die bisher nicht begutachtete Studie basiert auf kuratierten Datensätzen. Während die Technologie Moderation und Fraud Detection unterstützen kann, wirft sie erhebliche Datenschutzbedenken auf, darunter Risiken für Whistleblower sowie Missbrauchspotenziale für Phishing und Überwachung. Als Gegenmaßnahmen diskutieren die Autoren stilistische Variationen und konsequente Datentrennung.
Studie zeigt: LLMs können automatisierte Regulierungs- und Vertragsschlupflöcher entdecken
Ein kürzlich veröffentlichter Preprint zeigt, dass Large Language Models mittels Reinforcement Learning darauf trainiert werden können, gezielt Schlupflöcher in Vorschriften, Verträgen und Regeln zu finden – eine von Forschern als „Society Hacking“ bezeichnete Technik. In Experimenten nutzte das Team Alibabas Qwen3 als Agenten und Googles Gemini-3-Flash als Evaluator und testete 72 simulierte Regulierungsszenarien, wovon etwa die Hälfte auf realen Gesetzen basierte. Der Agent entdeckte über 60 % bekannter Schlupflöcher wieder und identifizierte in einigen Fällen zuvor unvollständig dokumentierte Schwachstellen, wobei spezifische Details aus Sicherheitsgründen zurückgehalten wurden. Die Forscher veröffentlichten den Code unter dem Namen SocioHack auf GitHub und warnen, dass leistungsstärkere, breit eingesetzte LLMs noch effektiver agieren und das Missbrauchsrisiko erhöhen könnten. Dies ruft politische Entscheidungsträger und Sicherheitsverantwortliche auf den Plan, Gegenmaßnahmen zu priorisieren und die Governance von KI-Systemen branchenübergreifend zu verschärfen.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.