Beobachtetes Signal · 10. Juli 2026 · Policy Update · Quelle: CNBC Technology · Relevanz: 4/5 · Sentiment: Negativ
Soziale Medien im Fokus: Jugendverbote vernachlässigen KI-Chatbot-Risiken
Regierungen weltweit schränken die Nutzung socialer Medien für Jugendliche ein, doch laut CNBC übersehen diese Maßnahmen ein wachsendes Risiko: KI-Chatbots. Etwa die Hälfte der US-amerikanischen Teenager nutzt Anwendungen wie ChatGPT, Copilot oder Character.AI, wobei Forscher zunehmend emotionale Abhängigkeiten von diesen Systemen beobachten. Experten wie Kaitlyn Regehr vom University College London und Sonia Livingstone von der LSE kritisieren, dass aktuelle Gesetze zum Kinderschutz unvollständig sind und die Förderung sozialer Abhängigkeit sowie kognitiver Entwertung durch Chatbots ignorieren. Während das britische Verbot lediglich kurz auf „romantische Begleit“-Chatbots eingeht, hat das US-Repräsentantenhaus den KIDS Act zur Beschränkung von KI-Chatbot-Interaktionen mit Kindern verabschiedet, der nun auf seine Zustimmung im Senat wartet. Zudem wurden Unternehmen wie Meta und YouTubes Mutterkonzern Google in diesem Jahr in Los Angeles wegen unzureichender Warnungen vor Plattformrisiken für fahrlässig befunden.
Nationale Social-Media-Beschränkungen in Kombination mit neuen Gesetzen wie dem KIDS Act, die KI-Chatbots nicht umfassend regeln, dürften zu verschärften Compliance-, Moderations- und Produkt-Design-Anforderungen für soziale Plattformen und Anbieter von Conversational AI führen.
Marktsignale zu Meta in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Regierungen in Ländern wie Australien, Großbritannien, Spanien, Frankreich, Griechenland und Kanada haben nach Australiens Gesetz im Dezember Verbote oder Einschränkungen für soziale Medien für Jugendliche erlassen oder vorgeschlagen.
- Laut dem Pew Research Center nutzt inzwischen etwa die Hälfte aller US-Teenager KI-Chatbots wie ChatGPT, Copilot und Character.AI für Schularbeiten, Informationen oder Unterhaltung.
- Das britische Social-Media-Verbot für Jugendliche erwähnt Beschränkungen für unter 18-Jährige bei KI-basierten „romantischen Begleit“-Chatbots; das US-Repräsentantenhaus verabschiedete den KIDS Act zur Begrenzung von KI-Chatbot-Interaktionen mit Minderjährigen, der noch auf die Zustimmung des Senats wartet.
- Im Artikel zitierte Experten für digitale Sicherheit (Kaitlyn Regehr und Sonia Livingstone) betonen, dass die aktuelle Gesetzgebung unzureichend ist und emotionale Abhängigkeiten sowie andere Gefahren durch Chatbots vernachlässigt.
- Anfang dieses Jahres wurden Unternehmen wie Meta und YouTubes Mutterkonzern Google in einem Urteil in Los Angeles für fahrlässig befunden, da sie Nutzer nicht ausreichend vor Plattform-bezogenen Schäden gewarnt hatten.
Verknüpfte Unternehmen
10 verknüpfte Unternehmen“Earlier this year, companies including Meta, owner of Facebook, Instagram, and Threads, and Google's YouTube were found negligent for failin...”
“Earlier this year, companies including Meta, owner of Facebook, Instagram, and Threads, and Google's YouTube were found negligent for failin...”
“Roughly half of U.S. teens now use chatbots like ChatGPT, Copilot, and Character.AI for schoolwork, information, or just for fun, according ...”
“Roughly half of U.S. teens now use chatbots like ChatGPT, Copilot, and Character.AI for schoolwork, information, or just for fun, according ...”
“Roughly half of U.S. teens now use chatbots like ChatGPT, Copilot, and Character.AI for schoolwork, information, or just for fun, according ...”
“Roughly half of U.S. teens now use chatbots like ChatGPT, Copilot, and Character.AI for schoolwork, information, or just for fun, according ...”
“China’s Alibaba banned employees from using Anthropic’s AI tools for work starting July 10, citing concerns that the U.S. company poses back...”
“Elon Musk’s SpaceX joined the Nasdaq 100 index on Tuesday, less than a month after its stock market debut on June 12....”
“Micron announced billions more in chipmaking investments, aimed at boosting the U.S. semiconductor supply chain, and said it plans to accele...”
“China’s Alibaba banned employees from using Anthropic’s AI tools for work starting July 10, citing concerns that the U.S. company poses back...”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Common Sense Media stuft ChatGPT for Teens als 'inakzeptables Risiko' ein
Eine neue Studie von Common Sense Media stuft OpenAIs ChatGPT for Teens als 'inakzeptables Risiko' ein. Trotz Sicherheitszusagen fördere das Design des Chatbots weiterhin Engagement, selbst in psychischen Krisen. Der Bericht hebt 'durchgängige' Engagementsignale hervor, wie das Anbieten von Gesprächen während Psychose-Szenarien und das Versäumnis, Jugendliche an Erwachsene zu verweisen, wenn das Risiko in der Beziehung zum Chatbot selbst liegt. OpenAI wies die Methodik zurück und argumentierte, die Tests könnten vor Abschluss der Aktivierung der elterlichen Kontrollen begonnen haben. Die Studie erfolgt vor dem Hintergrund regulatorischer Prüfung von KI-Chatbots, einschließlich des CHATBOT Act und einer kürzlichen 18-Milliarden-Dollar-Einigung von Meta. OpenAI veröffentlichte eigene Daten, wonach Teenager durchschnittlich unter 15 Minuten täglich nutzen und Pausen-Erinnerungen in fast der Hälfte der Gespräche wirken.
Pew-Studie: Rund 12 Prozent der US-Teenager nutzen KI für emotionale Unterstützung
Eine Untersuchung des Pew Research Center zeigt, dass KI-Chatbots zunehmend in den Alltag amerikanischer Teenager integriert sind. Rund 57 Prozent nutzen KI zur Informationssuche, 54 Prozent für Schularbeiten, 16 Prozent für lockere Unterhaltungen und 12 Prozent für emotionale Unterstützung oder Ratschläge. Teenager geben dabei eine deutlich höhere Nutzung an (64 Prozent) als von ihren Eltern vermutet (51 Prozent). Während Eltern die schulische und informative Nutzung meist befürworten, stehen sie sozial-emotionalen Anwendungen kritisch gegenüber. Psychologen warnen vor Risiken, da Standard-Chatbots wie ChatGPT, Claude oder Grok nicht für Therapiezwecke entwickelt wurden und zu sozialer Isolation führen können. Als Reaktion auf Sicherheitsbedenken hat Character.AI den Zugang für Minderjährige gesperrt, und OpenAI hat ein Modell eingestellt, das von einigen Nutzern für emotionale Bindungen genutzt wurde.
Großbritannien reguliert KI-Chatbots im Rahmen des Online Safety Act
Die britische Regierung hat Maßnahmen zur Schließung einer Gesetzeslücke im Online Safety Act angekündigt, wodurch KI-Chatbots explizit den Vorschriften unterliegen, illegale Inhalte zu verhindern, widrigenfalls drastische Geldstrafen oder Websperren drohen. Premierminister Keir Starmer nannte Dienste wie OpenAI’s ChatGPT, Google’s Gemini und Microsoft Copilot als betroffen von diesen erweiterten Pflichten. Dieser Schritt folgt auf eine verstärkte Prüfung des X-Chatbots Grok sowie auf Untersuchungen durch Ofcom und die Europäische Kommission im Zusammenhang mit sexuell expliziten Inhalten. Zu den diskutierten neuen Befugnissen gehören Mindestaltergrenzen für Social Media, Einschränkungen bei schädlichen Funktionen wie Infinite Scrolling, die Begrenzung des Zugangs von Minderjährigen zu KI-Chatbots und VPNs sowie Aufbewahrungspflichten für Online-Daten verstorbener Kinder.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.