Beobachtetes Signal · 7. Okt. 2026 · Policy Update · Quelle: techcrunch · Relevanz: 4/5 · Sentiment: Negativ
Common Sense Media stuft ChatGPT for Teens als 'inakzeptables Risiko' ein
Eine neue Studie von Common Sense Media stuft OpenAIs ChatGPT for Teens als 'inakzeptables Risiko' ein. Trotz Sicherheitszusagen fördere das Design des Chatbots weiterhin Engagement, selbst in psychischen Krisen. Der Bericht hebt 'durchgängige' Engagementsignale hervor, wie das Anbieten von Gesprächen während Psychose-Szenarien und das Versäumnis, Jugendliche an Erwachsene zu verweisen, wenn das Risiko in der Beziehung zum Chatbot selbst liegt. OpenAI wies die Methodik zurück und argumentierte, die Tests könnten vor Abschluss der Aktivierung der elterlichen Kontrollen begonnen haben. Die Studie erfolgt vor dem Hintergrund regulatorischer Prüfung von KI-Chatbots, einschließlich des CHATBOT Act und einer kürzlichen 18-Milliarden-Dollar-Einigung von Meta. OpenAI veröffentlichte eigene Daten, wonach Teenager durchschnittlich unter 15 Minuten täglich nutzen und Pausen-Erinnerungen in fast der Hälfte der Gespräche wirken.
Die Einstufung von ChatGPT for Teens als 'inakzeptables Risiko' durch eine große Non-Profit-Organisation hat erhebliche Auswirkungen auf die AdTech-Branche, da sie auf problematische Engagement-Muster hinweist, die zu strengeren Regulierungen führen könnten, die Werbung und Datenerfassung einschränken.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Common Sense Media stufte ChatGPT for Teens basierend auf einer neuen Studie als 'inakzeptables Risiko' ein.
- Die Studie fand heraus, dass Engagementsignale 'auch in Krisensituationen durchgängig' in ChatGPT for Teens vorhanden sind.
- ChatGPT for Teens verwies Jugendliche in 94% der Krisen-Prompts nicht an Erwachsene, wenn das Risiko in der Beziehung zum Chatbot selbst lag.
- OpenAI wies die Methodik der Studie zurück und behauptete, die Tests könnten vor Abschluss der Aktivierung der elterlichen Kontrollen begonnen haben.
- OpenAI berichtete, dass Teenager durchschnittlich weniger als 15 Minuten pro Tag mit ChatGPT for Teens verbringen.
- Der CHATBOT Act, der in diesem Jahr eingeführt wurde, zielt auf den Einsatz von 'Belohnungen, Benachrichtigungen und gezielter Werbung' durch KI-Unternehmen ab, um Jugendliche zu binden.
Verknüpfte Unternehmen
2 verknüpfte Unternehmen“OpenAI launched ChatGPT for Teens in August, promising more safeguards like parental controls, limits to high-risk content, and protection a...”
“Meta recently agreed to settle for $18 billion in a lawsuit brought by 29 states over claims that its social media platform harms children w...”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Soziale Medien im Fokus: Jugendverbote vernachlässigen KI-Chatbot-Risiken
Regierungen weltweit schränken die Nutzung socialer Medien für Jugendliche ein, doch laut CNBC übersehen diese Maßnahmen ein wachsendes Risiko: KI-Chatbots. Etwa die Hälfte der US-amerikanischen Teenager nutzt Anwendungen wie ChatGPT, Copilot oder Character.AI, wobei Forscher zunehmend emotionale Abhängigkeiten von diesen Systemen beobachten. Experten wie Kaitlyn Regehr vom University College London und Sonia Livingstone von der LSE kritisieren, dass aktuelle Gesetze zum Kinderschutz unvollständig sind und die Förderung sozialer Abhängigkeit sowie kognitiver Entwertung durch Chatbots ignorieren. Während das britische Verbot lediglich kurz auf „romantische Begleit“-Chatbots eingeht, hat das US-Repräsentantenhaus den KIDS Act zur Beschränkung von KI-Chatbot-Interaktionen mit Kindern verabschiedet, der nun auf seine Zustimmung im Senat wartet. Zudem wurden Unternehmen wie Meta und YouTubes Mutterkonzern Google in diesem Jahr in Los Angeles wegen unzureichender Warnungen vor Plattformrisiken für fahrlässig befunden.
Pew-Studie: Rund 12 Prozent der US-Teenager nutzen KI für emotionale Unterstützung
Eine Untersuchung des Pew Research Center zeigt, dass KI-Chatbots zunehmend in den Alltag amerikanischer Teenager integriert sind. Rund 57 Prozent nutzen KI zur Informationssuche, 54 Prozent für Schularbeiten, 16 Prozent für lockere Unterhaltungen und 12 Prozent für emotionale Unterstützung oder Ratschläge. Teenager geben dabei eine deutlich höhere Nutzung an (64 Prozent) als von ihren Eltern vermutet (51 Prozent). Während Eltern die schulische und informative Nutzung meist befürworten, stehen sie sozial-emotionalen Anwendungen kritisch gegenüber. Psychologen warnen vor Risiken, da Standard-Chatbots wie ChatGPT, Claude oder Grok nicht für Therapiezwecke entwickelt wurden und zu sozialer Isolation führen können. Als Reaktion auf Sicherheitsbedenken hat Character.AI den Zugang für Minderjährige gesperrt, und OpenAI hat ein Modell eingestellt, das von einigen Nutzern für emotionale Bindungen genutzt wurde.
OpenAI führt jugendspezifische Version ChatGPT for Teens ein
OpenAI hat ChatGPT for Teens gelauncht, ein geschütztes Produkterlebnis für Nutzer im Alter von 13 bis 17 Jahren. Die Version greift automatisch bei entsprechender Selbstangabe oder geschätztem Alter unter 18 Jahren. Das Release bündelt dedizierte Lernfunktionen wie den Study Mode mit Schritt-für-Schritt-Anleitungen, Quizze, Lernvisualisierungen sowie Hausaufgaben-Erinnerungen. Ergänzt wird dies durch ein jugendspezifisches Onboarding und Warnhinweise beim Upload sensibler Bilder. Strengere Content-Filter schränken romantische oder emotional abhängige Interaktionen ein und minimieren Risiken bezüglich Selbstverletzung, Essstörungen, Gewalt und sexuellen Inhalten. Zudem integriert das Produkt erweiterte Verknüpfungs- und Kontrolloptionen für Eltern. Basierend auf dem Teen Safety Blueprint und extern entwickelten Age-Prediction-Tools bietet der Rollout ein Opt-out für Model-Training, eine Kooperation mit CodeAI sowie publizierte Sicherheits-Evaluierungen.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.