Beobachtetes Signal · 20. Juli 2026 · Research Study · Quelle: t3n · Relevanz: 2/5 · Sentiment: Neutral
Studie: Menschen vertrauen Chatbots trotz falscher Antworten blind
Forscher mehrerer französischer und einer italienischen Universität untersuchten in einem Experiment das Antwortverhalten von Menschen mit und ohne Zugang zu einem schwachen KI-Modell (Step 3.5 Flash) bei visuellen Detailfragen zu Filmen. Die KI-unterstützte Gruppe erzielte deutlich weniger korrekte Antworten (9 % gegenüber 27 %) und gab Unwissenheit extrem selten zu (3 % gegenüber 44 %). Zudem waren KI-nutzende Probanden wesentlich zuversichtlicher bezüglich ihrer Ergebnisse (76 % gegenüber 30 %). Valerio Capraro, Professor an der Universität Mailand-Bicocca, warnte vor einer durch KI-Nutzung schwindenden Bereitschaft, Wissensgrenzen einzugestehen, was langfristig das kritische Denken künftiger Generationen gefährden könnte. Diese Dynamik ist insbesondere für das Vertrauen in Conversational-KI, das Risiko von Fehlinformationen sowie für das UX-Design von KI-gestützten Werbeformaten im digitalen Ökosystem von hoher Relevanz.
Die Ergebnisse verdeutlichen eine besorgniserregende Überreliance auf Conversational-KI und eine sinkende Fehlerakzeptanz. Dies hat direkte Implikationen für Markenvertrauen, Desinformationsrisiken sowie die Konzeption von KI-basierten Werbeformaten und User Journeys im Advertising-Ökosystem.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Ein universitäres Forschungsteam aus Frankreich und Italien untersuchte das menschliche Entscheidungsverhalten bei KI-Nutzung.
- Für die Studie wurde das Modell Step 3.5 Flash eingesetzt, das bei visuellen Detailfragen zu Filmen gezielt eine schwache Performance aufweist.
- Ohne KI beantworteten die Teilnehmer 27 % der Fragen korrekt, mit KI-Unterstützung lag die Quote bei lediglich 9 %.
- In der Kontrollgruppe ohne KI gaben 44 % ihr Unwissen zu, während dies in der KI-Gruppe nur 3 % taten.
- KI-gestützte Teilnehmer zeigten ein deutlich höheres Selbstbewusstsein bezüglich ihrer Antworten (76 % gegenüber 30 %).
Verknüpfte Unternehmen
6 verknüpfte Unternehmen“The article refers to chatbots such as ChatGPT (a product of OpenAI) when discussing conversational AI tools....”
“The article refers to the chatbot Claude (a product by Anthropic) when discussing conversational AI tools....”
“The article refers to the chatbot/model Gemini (a Google product) when discussing conversational AI tools....”
“Article published on the German tech publisher t3n.de....”
“The article includes embedded external content from TargetVideo GmbH....”
“Valerio Capraro's comments in the article are reported as being made to The Register....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Studie: Chatbots schwächen Fähigkeit zur Erkennung von Falschmeldungen
Eine Studie des MIT Media Lab zeigt, dass die dauerhafte Nutzung von KI-Systemen zur Faktenprüfung die eigenständige Fähigkeit von Nutzern zur Desinformationserkennung schwächt. In einem vierwöchigen Experiment mit 67 Teilnehmern steigerte die KI-Assistenz die Erkennungsleistung zunächst um 21 Prozent. Nach dem Entzug der KI fiel die Leistung in der vierten Woche jedoch um 15 Prozentpunkte unter den Ausgangswert, wobei rund ein Viertel der Probanden trotz nachweislich schlechterer Ergebnisse von einer Verbesserung ausging. Eine separate Untersuchung von Tests mit ChatGPT, Microsoft Copilot, Google Gemini und Perplexity AI ergab zudem, dass fast die Hälfte der Antworten signifikante Mängel aufwies, darunter Zitationsprobleme und schwerwiegende sachliche Fehler. Experten warnen, dass narrative Antwortstile Abhängigkeiten erzeugen, während sokratische Fragestellungen das kritische Denken und die Informationsintegrität im Medienumfeld besser unterstützen.
Studie zeigt: Anwender überschätzen die Kompetenz von KI-Systemen
Ein internationales Forschungsteam der University of Waterloo und des University College London hat herausgefunden, dass Menschen das Selbstvertrauen und die Kompetenz von KI-generierten Antworten im Vergleich zu menschlichen Reaktionen systematisch überschätzen, selbst bei identischem Verhalten. Die in Communications Psychology veröffentlichte Studie zeigt, dass Nutzer Vertrauen aus Signalen wie Antwortgeschwindigkeit und wahrgenommener Systemfähigkeit ableiten; Sprachmodelle wie ChatGPT und Gemini kommunizieren ihre Unsicherheit in der Regel jedoch nicht. Clara Colombatto von der University of Waterloo warnt, dass dies zu übermäßigem Vertrauen in KI-Empfehlungen führen kann. Die Forscher arbeiten an Methoden, um Menschen eine bessere Einschätzung der KI-Kompetenz zu ermöglichen und Anwendern Werkzeuge oder Signale an die Hand zu geben, die Modellunsicherheiten transparent vermitteln.
Studie belegt: Blinde KI-Nutzung schwächt das eigene Selbstvertrauen
Eine in der Fachzeitschrift Technology, Mind, and Behavior veröffentlichte Studie der Middlesex University zeigt, dass eine starke Abhängigkeit von generativen KI-Tools wie ChatGPT, Claude oder Gemini zu geringerem Vertrauen in die eigene Urteilskraft und zu einem schwächeren Gefühl der Urheberschaft führt. Die Untersuchung mit 1.923 Erwachsenen in den USA und Kanada ergab, dass Personen, die KI-Ergebnisse aktiv bearbeiteten, hinterfragten oder ablehnten, ein höheres Selbstbewusstsein aufwiesen. Ergänzende Daten untermauern diesen Trend: Der McKinsey HR-Monitor 2026 zeigt eine Verdoppelung der regelmäßigen KI-Nutzung in Deutschland von 19 auf 38 Prozent. Zudem verdeutlichen eine Oxford-University-Press-Studie unter britischen Jugendlichen sowie eine Bitkom-Erhebung, wonach rund 48 Prozent der deutschen 14- bis 19-Jährigen KI als „dumm machend“ empfinden, gesellschaftliche und arbeitsweltliche Herausforderungen im Umgang mit künstlicher Intelligenz.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.