Beobachtetes Signal · 18. Mai 2026 · Research Study · Quelle: t3n · Relevanz: 2/5 · Sentiment: Neutral
Studie zeigt: Anwender überschätzen die Kompetenz von KI-Systemen
Ein internationales Forschungsteam der University of Waterloo und des University College London hat herausgefunden, dass Menschen das Selbstvertrauen und die Kompetenz von KI-generierten Antworten im Vergleich zu menschlichen Reaktionen systematisch überschätzen, selbst bei identischem Verhalten. Die in Communications Psychology veröffentlichte Studie zeigt, dass Nutzer Vertrauen aus Signalen wie Antwortgeschwindigkeit und wahrgenommener Systemfähigkeit ableiten; Sprachmodelle wie ChatGPT und Gemini kommunizieren ihre Unsicherheit in der Regel jedoch nicht. Clara Colombatto von der University of Waterloo warnt, dass dies zu übermäßigem Vertrauen in KI-Empfehlungen führen kann. Die Forscher arbeiten an Methoden, um Menschen eine bessere Einschätzung der KI-Kompetenz zu ermöglichen und Anwendern Werkzeuge oder Signale an die Hand zu geben, die Modellunsicherheiten transparent vermitteln.
Erkenntnisse über das übermäßige Vertrauen der Nutzer in KI beeinflussen das Design und die Transparenz von Empfehlungs- und Conversational-KI-Anwendungen. Dies ist für Marketing-, Produktempfehlungs- und Content-Moderations-Anwendungsfälle relevant, stellt jedoch keinen branchenverändernden Plattform-Policy-Wechsel oder ein technologisches Großrelease dar.
Marktsignale zu TargetVideo in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Forscher der University of Waterloo und des University College London haben die Studie durchgeführt.
- Die Studie wurde im Fachjournal Communications Psychology veröffentlicht.
- Teilnehmer überschätzten das Selbstvertrauen von KI-Systemen systematisch, selbst bei identischem Antwortverhalten von Mensch und Maschine.
- Die Studie zeigt, dass KI-Systeme wie ChatGPT und Gemini ihre Unsicherheit meist nicht ausdrücken und Nutzer Vertrauen aus Antwortgeschwindigkeit und vermeintlicher Leistungsfähigkeit ableiten.
Verknüpfte Unternehmen
4 verknüpfte UnternehmenVerwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Studie belegt: Blinde KI-Nutzung schwächt das eigene Selbstvertrauen
Eine in der Fachzeitschrift Technology, Mind, and Behavior veröffentlichte Studie der Middlesex University zeigt, dass eine starke Abhängigkeit von generativen KI-Tools wie ChatGPT, Claude oder Gemini zu geringerem Vertrauen in die eigene Urteilskraft und zu einem schwächeren Gefühl der Urheberschaft führt. Die Untersuchung mit 1.923 Erwachsenen in den USA und Kanada ergab, dass Personen, die KI-Ergebnisse aktiv bearbeiteten, hinterfragten oder ablehnten, ein höheres Selbstbewusstsein aufwiesen. Ergänzende Daten untermauern diesen Trend: Der McKinsey HR-Monitor 2026 zeigt eine Verdoppelung der regelmäßigen KI-Nutzung in Deutschland von 19 auf 38 Prozent. Zudem verdeutlichen eine Oxford-University-Press-Studie unter britischen Jugendlichen sowie eine Bitkom-Erhebung, wonach rund 48 Prozent der deutschen 14- bis 19-Jährigen KI als „dumm machend“ empfinden, gesellschaftliche und arbeitsweltliche Herausforderungen im Umgang mit künstlicher Intelligenz.
Studie: Menschen vertrauen Chatbots trotz falscher Antworten blind
Forscher mehrerer französischer und einer italienischen Universität untersuchten in einem Experiment das Antwortverhalten von Menschen mit und ohne Zugang zu einem schwachen KI-Modell (Step 3.5 Flash) bei visuellen Detailfragen zu Filmen. Die KI-unterstützte Gruppe erzielte deutlich weniger korrekte Antworten (9 % gegenüber 27 %) und gab Unwissenheit extrem selten zu (3 % gegenüber 44 %). Zudem waren KI-nutzende Probanden wesentlich zuversichtlicher bezüglich ihrer Ergebnisse (76 % gegenüber 30 %). Valerio Capraro, Professor an der Universität Mailand-Bicocca, warnte vor einer durch KI-Nutzung schwindenden Bereitschaft, Wissensgrenzen einzugestehen, was langfristig das kritische Denken künftiger Generationen gefährden könnte. Diese Dynamik ist insbesondere für das Vertrauen in Conversational-KI, das Risiko von Fehlinformationen sowie für das UX-Design von KI-gestützten Werbeformaten im digitalen Ökosystem von hoher Relevanz.
Studie: Chatbots schwächen Fähigkeit zur Erkennung von Falschmeldungen
Eine Studie des MIT Media Lab zeigt, dass die dauerhafte Nutzung von KI-Systemen zur Faktenprüfung die eigenständige Fähigkeit von Nutzern zur Desinformationserkennung schwächt. In einem vierwöchigen Experiment mit 67 Teilnehmern steigerte die KI-Assistenz die Erkennungsleistung zunächst um 21 Prozent. Nach dem Entzug der KI fiel die Leistung in der vierten Woche jedoch um 15 Prozentpunkte unter den Ausgangswert, wobei rund ein Viertel der Probanden trotz nachweislich schlechterer Ergebnisse von einer Verbesserung ausging. Eine separate Untersuchung von Tests mit ChatGPT, Microsoft Copilot, Google Gemini und Perplexity AI ergab zudem, dass fast die Hälfte der Antworten signifikante Mängel aufwies, darunter Zitationsprobleme und schwerwiegende sachliche Fehler. Experten warnen, dass narrative Antwortstile Abhängigkeiten erzeugen, während sokratische Fragestellungen das kritische Denken und die Informationsintegrität im Medienumfeld besser unterstützen.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.