EEG-Studien belegen Zusammenhang zwischen Vertrauen und kognitivem Offloading bei KI

Forschende der TU Berlin haben im Rahmen eines von der DFG geförderten Projekts zu neuronalen Korrelaten von Vertrauen in der Mensch-KI-Interaktion zwei EEG-basierte Studien veröffentlicht. Die Untersuchung analysierte Marker wie N2pc für die Aufmerksamkeitsfokussierung und CDA für die visuelle Kurzzeitgedächtnisauslastung. Die Ergebnisse zeigen, dass Nutzer bei als zuverlässig eingestuften KI-Systemen weniger Aufmerksamkeit aufwenden, was auf kognitives Offloading hindeutet, während unzuverlässige KI die Aufmerksamkeit erhöht. Zudem bildeten die CDA-Muster Vertrauensdynamiken wie Aufbau, Bruch und Wiederherstellung ab. Nächste Schritte umfassen die Verknüpfung neuronaler Messungen mit bestehenden Vertrauensmodellen sowie die Entwicklung adaptiver KI-Systeme für sensible Anwendungsbereiche wie medizinische Diagnostik und industrielle Qualitätskontrolle.