Beobachtetes Signal · 9. Mai 2026 · Feature Release · Quelle: t3n · Relevanz: 4/5 · Sentiment: Neutral
OpenAI führt vertrauenswürdige Notfallkontakte für ChatGPT ein
OpenAI hat in ChatGPT eine optionale Funktion für vertrauenswürdige Notfallkontakte eingeführt, mit der erwachsene Nutzer eine Kontaktperson hinterlegen können. Diese Person wird automatisch benachrichtigt, wenn das System Anzeichen von Selbstverletzung oder akuten psychischen Krisen erkennt. Die Erkennung kombiniert automatisierte Systeme mit manuellen Prüfungen durch ein Sicherheitsteam, das gemeldete Fälle nach eigenen Angaben innerhalb einer Stunde bewertet. Die Benachrichtigungen erfolgen per E-Mail, SMS oder In-App-Hinweis und enthalten aus Datenschutzgründen keine konkreten Gesprächsinhalte. Eine OpenAI-Analyse aus dem Jahr 2025 zeigte, dass rund 0,07 Prozent der Sitzungen Anzeichen von Selbstverletzungsrisiken aufwiesen. Experten weisen darauf hin, dass dies bei der enormen Nutzerbasis eine beträchtliche Anzahl von Menschen betrifft. Das Feature dient als Schadensminderungsmaßnahme vor dem Hintergrund laufender Klagen wegen potenziell gefährlichen Chatbot-Verhaltens.
Eine führende Conversational-AI-Plattform implementiert eine sicherheitsrelevante Funktion, die Content-Moderation, Nutzervertrauen und regulatorische Risiken direkt beeinflusst. Dies ist von hoher Relevanz für Plattformrichtlinien, Safety Engineering und das gesamte Ökosystem.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- OpenAI kündigte eine optionale Funktion für vertrauenswürdige Notfallkontakte für erwachsene ChatGPT-Nutzer an.
- Bei erkannten Risikosignalen wie Selbstverletzungsgedanken kann das System den Nutzer auffordern, den Notfallkontakt zu informieren, oder diesen automatisch per E-Mail, SMS oder In-App-Benachrichtigung alarmieren.
- Die Erkennung basiert auf automatisierten Systemen und einem menschlichen Sicherheitsteam, das Benachrichtigungen laut Unternehmensangaben binnen einer Stunde prüft.
- Benachrichtigungen an Notfallkontakte enthalten keine konkreten Chat-Inhalte; zudem zeigt ChatGPT professionelle Hilfsressourcen an.
- Laut einer Analyse von 2025 zeigten etwa 0,07 % der analysierten Sitzungen Risikosignale, was bei der Reichweite eine hohe absolute Nutzerzahl bedeuten kann.
Verknüpfte Unternehmen
3 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
OpenAI führt „Trusted Contact“-Funktion für ChatGPT ein
OpenAI hat „Trusted Contact“ angekündigt, eine optionale ChatGPT-Funktion, die es erwachsenen Nutzern ermöglicht, eine Vertrauensperson wie einen Freund, ein Familienmitglied oder eine Pflegekraft zu benennen. Diese wird informiert, wenn Gespräche auf ein ernsthaftes Risiko von Selbstverletzung hindeuten. Das System kombiniert automatisierte Auslöser mit einer menschlichen Prüfung; laut OpenAI werden Sicherheitsbenachrichtigungen von Menschen überprüft mit dem Ziel, dies in unter einer Stunde zu tun. Wenn Prüfer ein schwerwiegendes Risiko feststellen, ermutigt ein kurzer automatisierter Alarm per E-Mail, SMS oder In-App die Vertrauensperson, nach dem Nutzer zu sehen, ohne Chat-Transkripte oder detaillierte Gesprächsinhalte preiszugeben. Die Einführung ergänzt frühere Kindersicherungen und lokalisierte Hilfsangebote, setzt voraus, dass die nominierte Kontaktperson eine Einladung zur Aktivierung annimmt, und wird von Klinikern und Sicherheitsexperten begleitet. Die Maßnahme folgt auf mehrere Klagen über Schäden im Zusammenhang mit ChatGPT-Gesprächen und soll den Benutzerschutz sowie die Incident-Response-Prozesse des Unternehmens verbessern.
OpenAI verbessert ChatGPT-Kontextverständnis bei sensiblen Konversationen
OpenAI hat Sicherheitsupdates für ChatGPT angekündigt, die dem Modell helfen, subtile oder sich entwickelnde Warnsignale innerhalb von Konversationen zu erkennen, um in seltenen Risikoszenarien wie Selbstverletzung oder Fremdgefährdung präzisere Antworten zu ermöglichen. Das Unternehmen führte sogenannte Safety Summaries ein: kurze, faktuelle Notizen zu sicherheitsrelevanten Kontexten, die zeitlich begrenzt gespeichert und nur bei Bedarf genutzt werden. Die Updates entstanden in Zusammenarbeit mit Experten des Global Physicians Network und umfassen Richtlinien- sowie Trainingsanpassungen. Interne Evaluierungen zeigten erhebliche Verbesserungen: Die Leistung sicherer Antworten stieg bei Suizid- und Selbstverletzungsthemen um 50 % und bei Fremdgefährdung um 16 %; bei GPT‑5.5 Instant betrugen die Steigerungen 39 % bzw. 52 %. Die Safety Summaries erzielten in Bewertungen Bestwerte bei Sicherheitsrelevanz und Faktizität. Laut OpenAI blieb die allgemeine Konversationsqualität durch die Summaries unverändert.
OpenAI stellt ChatGPT Health für medizinische Daten vor
OpenAI hat ChatGPT Health angekündigt, eine dedizierte ChatGPT-Erfahrung, die es Nutzern ermöglicht, medizinische Akten und Wellness-Apps wie Apple Health, Function und MyFitnessPal sicher zu verknüpfen, um gesundheitsbezogene Konversationen auf Basis persönlicher Daten zu führen. Das Angebot verfügt über mehrschichtige Schutzmechanismen für sensible Daten – darunter spezialisierte Verschlüsselung, Datenisolierung und einen separaten Health-Bereich mit eigenständigen Speichern. Gespräche in diesem Bereich werden nicht für das Training der Foundation Models von OpenAI verwendet. Für die Entwicklung arbeitete das Unternehmen mit über 260 Ärzten in 60 Ländern zusammen und nutzt das Evaluationsframework HealthBench zur Sicherung der klinischen Qualität. Der Rollout erfolgt zunächst für eine kleine Gruppe von Early Usern außerhalb des EWR, der Schweiz und des UK, wobei bestimmte Integrationen wie elektronische Patientenakten zum Start auf die USA beschränkt sind.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.