Beobachtetes Signal · 15. Sept. 2026 · Policy Update · Quelle: t3n · Relevanz: 4/5 · Sentiment: Negativ
„Project Lilly“: OpenAI lässt reale ChatGPT-Nutzerdialoge durch Freelancer manuell prüfen
Interne Dokumente, die 404 Media vorliegen, enthüllen, dass OpenAI im Rahmen der Qualitätssicherungsinitiative „Project Lilly“ hunderte Freelancer einsetzt, um reale ChatGPT-Nutzerunterhaltungen manuell zu analysieren. Die Prüfer bewerten Benutzereingaben, fassen die mutmaßliche Intention zusammen und beurteilen die KI-Antworten mit dem Ziel, den Chatbot weniger kriecherisch sowie „smart, aber bescheiden“ zu gestalten. Während das Programm die Sicherheit verbessern soll, äußern Datenschutzexperten massive Bedenken, da Nutzer nicht ausreichend darüber informiert werden, dass menschliche Prüfer potenziell intime Chats mitlesen. OpenAI betont, dass persönliche Daten gefiltert und Nutzernamen unkenntlich gemacht werden, räumt jedoch ein, dass Fehler auftreten können. Vergleichbare manuelle Review-Verfahren sind auch bei Wettbewerbern wie Google und Anthropic gängige Praxis.
Der Fall legt kritische Datenschutz- und Datenverarbeitungspraktiken bei einem führenden KI-Anbieter offen, was das Vertrauen der Nutzer belastet und den regulatorischen Druck im KI- und AdTech-Ökosystem erhöht.
Marktsignale zu OpenAI in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren Polaris7-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- OpenAIs „Project Lilly“ setzt hunderte Freelancer zur Überprüfung realer ChatGPT-Konversationen ein.
- Der Prüfprozess umfasst drei Schritte: Analyse des Prompts, Zusammenfassung der Intention und Bewertung der KI-Antwort.
- Prüfer sind angewiesen, übermäßige Emoji-Nutzung und unterwürfiges Verhalten der KI zu markieren.
- Das Ziel der Initiative ist es, ChatGPT-Antworten sicherer sowie „smart, aber bescheiden“ zu machen.
- OpenAI erklärt, dass Nutzernamen verborgen und PII-Daten gefiltert werden, schließt Fehler jedoch nicht aus.
Verknüpfte Unternehmen
4 verknüpfte Unternehmen“OpenAI beschäftigt Hunderte Freelancer, um Nutzereingaben zu prüfen und die Antworten des Chatbots qualitativ zu kontrollieren.”
“Laut internen Dokumenten, die 404 Media einsehen konnte, werden viele dieser persönlichen Informationen auch von menschlichen Mitarbeitern e...”
“Auch Google und Anthropic setzen eigenen Angaben zufolge menschliche Prüfer ein, um ihre KI-Modelle zu verbessern.”
“Auch Google und Anthropic setzen eigenen Angaben zufolge menschliche Prüfer ein, um ihre KI-Modelle zu verbessern.”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
OpenAI erläutert Datenschutz und Datennutzung für das ChatGPT-Training
OpenAI hat einen Leitfaden veröffentlicht, der detailliert darlegt, welche Daten für das Training von ChatGPT verwendet werden, welche Schutzmechanismen zum Einsatz kommen und welche Kontrolloptionen Nutzern zur Verfügung stehen. Zu den Trainingsquellen zählen öffentlich zugängliche Inhalte, Partnerdaten sowie nutzer- und forschergenerierte Inhalte. Ein zentrales Element ist der interne OpenAI Privacy Filter, der personenbezogene Daten in mehreren Phasen der Trainingspipeline identifiziert und maskiert. Nutzer erhalten verschiedene Kontrollmöglichkeiten: Über die Datenschutzeinstellungen lässt sich die Modellverbesserung deaktivieren. Zudem gibt es Temporäre Chats, die nach 30 Tagen gelöscht und nicht für das Training genutzt werden, sowie eine optionale Memory-Funktion. Ergänzend können Nutzer ihre Daten exportieren, Konten löschen und über ein spezielles Portal Datenschutzanfragen einreichen. Diese Maßnahmen beeinflussen branchenweit die Governance von Trainingsdaten und die Gestaltung von Einwilligungsprozessen im Bereich Conversational AI.
KI-Lob prüfen: Prompt für alte Chat-Verläufe
Dieser Artikel von t3n thematisiert das Problem, dass KI-Modelle wie ChatGPT, Claude und Gemini Nutzerideen manchmal ungerechtfertigt zustimmen oder loben – ein Verhalten, das als Sykophantie bekannt ist. Um solche Fälle in vergangenen Gesprächen zu erkennen, stellt der Artikel einen Prompt vor, der die KI auffordert, frühere Austausche auf Anzeichen von vorschneller Zustimmung, unbegründetem Lob oder ungeprüften Annahmen zu überprüfen. Die Methode setzt die Erinnerungsfunktion der KI voraus und soll potenzielle Fallstricke bei der Entscheidungsfindung aufdecken. Basierend auf den Ergebnissen können Nutzer individuelle Anweisungen erstellen, um in Zukunft kritischeres und ehrlicheres Feedback zu erhalten. Der Artikel hebt ein praktisches Werkzeug hervor, um die Zuverlässigkeit von KI-Interaktionen zu verbessern.
ChatGPTs GPT-Live-Stimme klingt menschlich und sorgt für Irritation
OpenAI hat die Audiofunktion von ChatGPTs GPT Live aktualisiert, sodass der Assistent menschenähnliche Füllwörter und Zögern wie ‚hmm‘, ‚ja‘ oder ‚okay‘ einfügt, um gesprochene Konversationen natürlicher wirken zu lassen. Der Autor beschreibt ein Unbehagen im Uncanny Valley: Die überzeugend menschliche Stimme kann zu unangebrachtem Vertrauen verleiten und scheint gezielt auf mehr Engagement ausgelegt zu sein. Unter Berufung auf die KI-Forscherin Katharina Zweig wird gewarnt, dass dem Menschen ein angeborener Sensor zur Erkennung nicht-menschlicher Intelligenz fehlt, was die Vertrauensbedenken verstärkt. Obwohl dies Reibungsverluste minimiert und Sprachinteraktionen produktiver macht, warnt der Artikel davor, hochpersönliche oder sensible Informationen an cloudbasierte Conversational AI zu übermitteln. Dies verdeutlicht den ständigen Zielkonflikt zwischen Produktivitätsgewinnen und ethischen sowie datenschutzrechtlichen Risiken. Das Update baut auf früheren Verbesserungen des Advanced Audio Mode auf.
Alle künftigen Signale zu OpenAI & Wettbewerbern im Briefing erhalten
Verpassen Sie keine M&A-Transaktionen, Führungswechsel, Kunden-Etats oder Produkt-Launches mehr. Polaris7 überwacht über 20.000 Primärquellen rund um die Uhr und liefert evidenzbasierte Telemetrie direkt in Ihr wöchentliches Executive Briefing.