OpenAI führt „Trusted Contact“-Funktion für ChatGPT ein

OpenAI hat „Trusted Contact“ angekündigt, eine optionale ChatGPT-Funktion, die es erwachsenen Nutzern ermöglicht, eine Vertrauensperson wie einen Freund, ein Familienmitglied oder eine Pflegekraft zu benennen. Diese wird informiert, wenn Gespräche auf ein ernsthaftes Risiko von Selbstverletzung hindeuten. Das System kombiniert automatisierte Auslöser mit einer menschlichen Prüfung; laut OpenAI werden Sicherheitsbenachrichtigungen von Menschen überprüft mit dem Ziel, dies in unter einer Stunde zu tun. Wenn Prüfer ein schwerwiegendes Risiko feststellen, ermutigt ein kurzer automatisierter Alarm per E-Mail, SMS oder In-App die Vertrauensperson, nach dem Nutzer zu sehen, ohne Chat-Transkripte oder detaillierte Gesprächsinhalte preiszugeben. Die Einführung ergänzt frühere Kindersicherungen und lokalisierte Hilfsangebote, setzt voraus, dass die nominierte Kontaktperson eine Einladung zur Aktivierung annimmt, und wird von Klinikern und Sicherheitsexperten begleitet. Die Maßnahme folgt auf mehrere Klagen über Schäden im Zusammenhang mit ChatGPT-Gesprächen und soll den Benutzerschutz sowie die Incident-Response-Prozesse des Unternehmens verbessern.