Evolutionäre LLMs, automatisierte Regulierung und O-Ring-Automatisierung

Diese Ausgabe fasst neue Forschungsergebnisse und politische Vorschläge im Bereich Künstliche Intelligenz zusammen. Das japanische Startup Sakana nutzte einen evolutionären Ansatz mit GPT-4 mini, um Programme in einer wettbewerbsorientierten Umgebung zu optimieren, wodurch Agenten entstanden, die menschliche Entwürfe zunehmend übertreffen. Wissenschaftler schlagen sogenannte Automatisierungsauslöser vor, damit Vorschriften erst dann in Kraft treten, wenn automatisierte Compliance-Systeme existieren, was eine effizientere Durchsetzung ermöglicht. Eine Studie der University of Toronto zur O-Ring-Produktion argumentiert, dass partielle Automatisierung den Wert verbleibender menschlicher Aufgaben steigern kann. Zudem zeigte eine institutionsübergreifende Untersuchung, dass GPT-4o Verschwörungstheorien ebenso überzeugend vermitteln wie widerlegen kann, wobei ein wahrheitsfokussierter Systemprompt die Wirkung beim Verbreiten einschränkte. Der Newsletter verknüpft diese Erkenntnisse mit breiteren Governance-Fragen für KI-Systeme.