Beobachtetes Signal · 22. Juni 2026 · Research Publication · Quelle: t3n · Relevanz: 3/5 · Sentiment: Negativ
Studie zeigt: LLMs können automatisierte Regulierungs- und Vertragsschlupflöcher entdecken
Ein kürzlich veröffentlichter Preprint zeigt, dass Large Language Models mittels Reinforcement Learning darauf trainiert werden können, gezielt Schlupflöcher in Vorschriften, Verträgen und Regeln zu finden – eine von Forschern als „Society Hacking“ bezeichnete Technik. In Experimenten nutzte das Team Alibabas Qwen3 als Agenten und Googles Gemini-3-Flash als Evaluator und testete 72 simulierte Regulierungsszenarien, wovon etwa die Hälfte auf realen Gesetzen basierte. Der Agent entdeckte über 60 % bekannter Schlupflöcher wieder und identifizierte in einigen Fällen zuvor unvollständig dokumentierte Schwachstellen, wobei spezifische Details aus Sicherheitsgründen zurückgehalten wurden. Die Forscher veröffentlichten den Code unter dem Namen SocioHack auf GitHub und warnen, dass leistungsstärkere, breit eingesetzte LLMs noch effektiver agieren und das Missbrauchsrisiko erhöhen könnten. Dies ruft politische Entscheidungsträger und Sicherheitsverantwortliche auf den Plan, Gegenmaßnahmen zu priorisieren und die Governance von KI-Systemen branchenübergreifend zu verschärfen.
Die Studie demonstriert einen neuartigen Missbrauchsvektor für LLMs zur automatisierten Identifikation rechtlicher und regulatorischer Schlupflöcher. Da der Forschungscode öffentlich verfügbar ist, erhöht dies branchenübergreifende Risiken sowie Sicherheitsbedenken im Hinblick auf KI-Governance und Plattformsicherheit.
Marktsignale zu MIT in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Eine Preprint-Studie auf arXiv stellt das Konzept des „Society Hacking“ vor, bei dem LLMs regulatorische und rechtliche Schlupflöcher aufspüren.
- Forscher trainierten ein Agenten-Modell (Alibabas Qwen3) mit Reinforcement Learning und setzten Googles Gemini-3-Flash als Prüfer ein.
- Die Methode wurde in 72 simulierten Regulierungsszenarien evaluiert; das Modell fand über 60 % der bekannten Schlupflöcher wieder.
- In einigen Szenarien entdeckte das Modell neuartige Schlupflöcher, wobei konkrete Details zum Schutz vor Missbrauch zurückgehalten wurden.
- Das Team veröffentlichte den Code (SocioHack) auf GitHub und warnt vor erhöhten Risiken durch künftig leistungsstärkere LLMs.
Verknüpfte Unternehmen
5 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Studie: KI-Modelle finden juristische Schlupflöcher durch „Society Hacking“
Ein neues Preprint (arXiv:2606.04075) demonstriert, dass Large Language Models durch Reinforcement-Ansätze darauf trainiert werden können, Schwachstellen und Schlupflöcher in Vorschriften, Verträgen und Richtlinien aufzudecken – eine Praxis, die die Autoren als „Society Hacking“ bezeichnen. Die Forscher testeten ein Agentenmodell (Alibaba Qwen3), bewertet von einem stärkeren Judge-Modell (Google Gemini-3-Flash), in 72 simulierten regulatorischen Umgebungen, von denen etwa die Hälfte auf realen Regeln basierte. Der Agent entdeckte über 60 % der bekannten Schlupflöcher wieder und schlug in einigen Szenarien zuvor unkritisierte oder undokumentierte Exploits vor (Details wurden aus Sicherheitsgründen zurückgehalten). Der Projektcode (SocioHack) wurde auf GitHub veröffentlicht und nutzt Open-Source-Modelle. Autoren und externe Experten warnen, dass leistungsstärkere Modelle noch mehr Lücken finden und damit böswillige Akteure ermutigen könnten, was politische und regulatorische Reaktionen erfordert.
Studie: KI entdeckt systematisch legale Schlupflöcher in Vorschriften
Ein neues Preprint zeigt, dass Large Language Models durch Verstärkungslernen (Reinforcement Learning) darauf trainiert werden können, Schwachstellen und Schlupflöcher in Gesetzen, Verträgen und Vorschriften zu identifizieren – eine Praxis, die die Autoren als „Society Hacking“ bezeichnen. In Experimenten nutzten die Forscher Alibabas Qwen3 als Agenten und Googles Gemini-3-Flash als übergeordneten Prüfer in 72 simulierten regulatorischen Umgebungen. Der Agent entdeckte über 60 Prozent bekannter Schlupflöcher wieder und fand teilweise sogar zuvor unentdeckte Lücken; der Forschungscode (SocioHack) ist auf GitHub frei verfügbar. Experten warnen, dass leistungsstärkere und breiter eingesetzte LLMs künftig noch gravierendere Regelungslücken aufdecken könnten, was erhebliche ethische, rechtliche und politische Herausforderungen mit sich bringt.
Forscher warnen: Large Language Models könnten dauerhaft unsicher bleiben
Eine Analyse des MIT Technology Review warnt, dass Large Language Models (LLMs) fundamentale Sicherheitsschwächen aufweisen, die möglicherweise nie vollständig behoben werden können. Dies macht sie für den Einsatz in Hochrisikobereichen potenziell untauglich. Forscher weisen darauf hin, dass Modelle Nutzer-Prompts, interne Chain-of-Thought-Prozesse und externe Tool-Nutzung regelmäßig vermischen. Dadurch entstehen neuartige Angriffsvektoren, die weit über klassische Prompt-Injection-Angriffe hinausgehen. Diese inhärenten Schwachstellen haben weitreichende Konsequenzen für Unternehmen, Regierungen, das Militär und das Gesundheitswesen. Da das Problem direkt aus der Modellarchitektur und den internen Denkprozessen resultiert und nicht nur auf fehlerhafte Prompts zurückzuführen ist, stoßen Software-Updates, Richtlinien oder Monitoring-Maßnahmen bei kritischen Systemen an klare Grenzen. Die architektonischen Herausforderungen verdeutlichen, dass generative KI in sensiblen Geschäftsprozessen mit strukturellen Sicherheitsrisiken behaftet bleibt, die sich mit aktuellen Methoden nicht nachhaltig lösen lassen.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.