Beobachtetes Signal · 11. Juni 2026 · Research Study · Quelle: t3n · Relevanz: 3/5 · Sentiment: Negativ
Studie: Chatbots schwächen Fähigkeit zur Erkennung von Falschmeldungen
Eine Studie des MIT Media Lab zeigt, dass die dauerhafte Nutzung von KI-Systemen zur Faktenprüfung die eigenständige Fähigkeit von Nutzern zur Desinformationserkennung schwächt. In einem vierwöchigen Experiment mit 67 Teilnehmern steigerte die KI-Assistenz die Erkennungsleistung zunächst um 21 Prozent. Nach dem Entzug der KI fiel die Leistung in der vierten Woche jedoch um 15 Prozentpunkte unter den Ausgangswert, wobei rund ein Viertel der Probanden trotz nachweislich schlechterer Ergebnisse von einer Verbesserung ausging. Eine separate Untersuchung von Tests mit ChatGPT, Microsoft Copilot, Google Gemini und Perplexity AI ergab zudem, dass fast die Hälfte der Antworten signifikante Mängel aufwies, darunter Zitationsprobleme und schwerwiegende sachliche Fehler. Experten warnen, dass narrative Antwortstile Abhängigkeiten erzeugen, während sokratische Fragestellungen das kritische Denken und die Informationsintegrität im Medienumfeld besser unterstützen.
Die Ergebnisse verdeutlichen verhaltensbezogene Risiken durch konversationelle KI, da sinkendes kritisches Denken und die Abhängigkeit von fehlerhaften Modellausgaben den Nachrichtenkonsum, das Vertrauen in Publisher sowie die Integrität von Werbe- und Medienumfeldern beeinträchtigen.
Marktsignale zu Microsoft in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Das MIT Media Lab untersuchte in einer vierwöchigen Studie mit 67 Teilnehmern die Auswirkungen von KI-gestützter Faktenprüfung.
- Mit KI-Assistenz erkannten Teilnehmer Desinformation 21 Prozent zuverlässiger; ohne KI sank die Leistung in Woche vier um 15 Prozentpunkte unter das Ausgangsniveau.
- Etwa 25 Prozent der Teilnehmer glaubten fälschlicherweise, ihre Urteilskraft habe sich verbessert, obwohl ihre objektiven Leistungen nach dem Entzug der KI sanken.
- Eine separate Untersuchung von ChatGPT, Microsoft Copilot, Google Gemini und Perplexity AI zeigte, dass fast die Hälfte aller KI-Antworten erhebliche Mängel wie Zitierfehler oder falsche Fakten aufwies.
- Die Autoren weisen auf methodische Einschränkungen hin und planen erweiterte Folgestudien mit diverseren Teilnehmergruppen.
Verknüpfte Unternehmen
5 verknüpfte UnternehmenVerwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Studie: Schon 15 Minuten Chatbot-Nutzung beeinträchtigen das Denkvermögen
Zwei im April 2026 veröffentlichte Verhaltensstudien zeigen, dass bereits kurze Interaktionen mit KI-Chatbots die unabhängige kognitive Leistung und Geduld messbar schwächen. In einem Hauptexperiment der Carnegie Mellon University und der University of Oxford lösten 354 Teilnehmer Bruchrechenaufgaben; die Hälfte nutzte dafür einen Chatbot, verlor diesen Zugang bei den letzten drei Aufgaben jedoch unerwartet. Die Chatbot-Gruppe schnitt während der Assistenz besser ab, versagte jedoch bei den ununterstützten Aufgaben signifikant und zeigte geringere Ausdauer. Eine separate Studie der Middlesex University ergab, dass starke Abhängigkeit von Chatbots mit geringerem Selbstvertrauen in das eigene Denken korreliert – es sei denn, Nutzer hinterfragten KI-Ergebnisse aktiv. Die Autoren führen dies auf veränderte Anstrengungserwartungen und die Erosion der Selbsteinschätzung zurück.
Studie: Menschen vertrauen Chatbots trotz falscher Antworten blind
Forscher mehrerer französischer und einer italienischen Universität untersuchten in einem Experiment das Antwortverhalten von Menschen mit und ohne Zugang zu einem schwachen KI-Modell (Step 3.5 Flash) bei visuellen Detailfragen zu Filmen. Die KI-unterstützte Gruppe erzielte deutlich weniger korrekte Antworten (9 % gegenüber 27 %) und gab Unwissenheit extrem selten zu (3 % gegenüber 44 %). Zudem waren KI-nutzende Probanden wesentlich zuversichtlicher bezüglich ihrer Ergebnisse (76 % gegenüber 30 %). Valerio Capraro, Professor an der Universität Mailand-Bicocca, warnte vor einer durch KI-Nutzung schwindenden Bereitschaft, Wissensgrenzen einzugestehen, was langfristig das kritische Denken künftiger Generationen gefährden könnte. Diese Dynamik ist insbesondere für das Vertrauen in Conversational-KI, das Risiko von Fehlinformationen sowie für das UX-Design von KI-gestützten Werbeformaten im digitalen Ökosystem von hoher Relevanz.
ChatOn startet Fact-Checking-Funktion gegen Desinformation
Die KI-Chatbot-App ChatOn, die bereits über 100 Millionen Mal heruntergeladen wurde, hat eine neue Fact-Checking-Funktion eingeführt. Das Tool ermöglicht es Anwendern, Behauptungen, Artikelausschnitte oder KI-generierte Texte durch den Abgleich mit zuverlässigen Quellen zu verifizieren. Dabei werden frei erfundene Statistiken, falsch zugeordnete Zitate und manipulierte Geschichten aufgedeckt. Nutzer können Inhalte in ChatOn einfügen und erhalten ein Urteil samt unterstützender Quellen und Kontext, was im Kampf gegen Desinformation und KI-Halluzinationen hilft. Die Funktion ist ab sofort im Web sowie in Kürze auch für iOS und Android verfügbar. Eine Umfrage hatte zuvor gezeigt, dass 39 Prozent der US-Bürger KI-generierte Informationen über Suchmaschinen überprüfen, während 36 Prozent auf veraltete und 19 Prozent auf erfundene Quellen stoßen. Das Tool richtet sich insbesondere an Journalisten, Forscher und Content Creators, um Zeit bei der Faktenprüfung zu sparen.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.