Beobachtetes Signal · 24. Aug. 2026 · Technical Release · Quelle: PocketGamer.biz · Relevanz: 2/5 · Sentiment: Positiv
Roblox veröffentlicht drei Open-Source-Sicherheitsmodelle über die ROOST-Initiative
Roblox stellt der Robust Open Online Safety Tools (ROOST) Model Community drei Open-Source-Sicherheitsmodelle zur Verfügung: einen aktualisierten PII Classifier, Roblox Sentinel sowie einen Voice Safety Classifier (v3). Der F1-Score des PII Classifiers stieg in Version 2.0 von 63,41 auf 90,52, während der erweiterte Benchmark-Datensatz nun 189 Sprachen statt zuvor 17 unterstützt und synthetische Multiuser-Konversationen zur Simulation von Umgehungsversuchen integriert. Laut Roblox identifizierte Sentinel im Zwölfmonatszeitraum bis zum 7. August 2026 knapp 70 Prozent der Fälle von Kindeswohlgefährdung durch Früherkennung. Die Sprachsicherheitsversion v3 unterstützt 30 Sprachen in acht Kategorien und erzielte einen Recall von 61 Prozent bei einer False-Positive-Rate von einem Prozent. Roblox war Anfang 2025 neben Google und OpenAI als Gründungsmitglied der ROOST-Initiative beigetreten.
Die Bereitstellung von Open-Source-Sicherheitsmodellen und multimodalen Benchmarks durch Roblox unterstützt andere Plattformen bei der Moderation, fokussiert sich jedoch primär auf die Plattformsicherheit und weniger auf Marktverschiebungen im AdTech-Bereich.
Marktsignale zu Roblox in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Roblox steuert drei Open-Source-Sicherheitsmodelle (PII Classifier, Roblox Sentinel, Voice Safety Classifier) zur ROOST Model Community bei.
- Roblox trat ROOST im Frühjahr 2025 zusammen mit Google und OpenAI als Gründungsmitglied bei.
- Der PII Classifier v2.0 steigerte den F1-Score von 63,41 auf 90,52 und erweiterte die unterstützten Sprachen von 17 auf 189.
- Sentinel identifizierte im Jahreszeitraum bis zum 7. August 2026 fast 70 Prozent der Fälle von Kindeswohlgefährdung frühzeitig.
- Der Voice Safety Classifier v3 unterstützt 30 Sprachen und acht Verstoßkategorien bei einem Recall von 61 Prozent (1 % False-Positive-Rate).
Verknüpfte Unternehmen
3 verknüpfte Unternehmen“Roblox plans to contribute three open-source safety models to the Robust Open Online Safety Tools (ROOST) Model Community....”
“The company joined ROOST as a founding member alongside Google, OpenAI and others in early 2025....”
“The company joined ROOST as a founding member alongside Google, OpenAI and others in early 2025....”
Ontologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
OpenAI veröffentlicht gpt-oss-safeguard für erweiterte Sicherheitsklassifizierung
OpenAI hat eine Research-Preview von gpt-oss-safeguard veröffentlicht, einer Familie von Open-Weight-Reasoning-Modellen zur Sicherheitsklassifizierung in den Größen gpt-oss-safeguard-120b und gpt-oss-safeguard-20b. Die unter der Apache 2.0-Lizenz auf Hugging Face verfügbaren Modelle ermöglichen es Entwicklern, während der Inferenz eine spezifische Richtlinie zu übergeben, Inhalte entsprechend zu klassifizieren und eine Chain-of-Thought-Begründung zurückzugeben. Dieser Ansatz zielt darauf ab, die Sicherheitskennzeichnung im Vergleich zu herkömmlichen trainierten Klassifikatoren flexibler und nachvollziehbarer zu gestalten. OpenAI verweist auf starke Ergebnisse bei der Multi-Policy-Genauigkeit, benennt jedoch auch Einschränkungen hinsichtlich der Rechenkosten. Begleitet wird der Launch von einer Community-Kooperation mit Partnern wie ROOST, SafetyKit, Tomoro und Discord sowie einem technischen Bericht und der Initiative ROOST Model Community.
Roblox aktualisiert Newsroom mit neuen Produktankündigungen und Pressemitteilungen
Der Newsroom von Roblox wurde um zahlreiche neue Pressemitteilungen und Produktankündigungen ergänzt. Zu den wichtigsten Veröffentlichungen gehören Einblicke in die globale wirtschaftliche und gesellschaftliche Wirkung der Entwickler-Community sowie eine Vorschau auf die kommenden Fall Games. Im Bereich der Technologie stellt die Plattform eine neue Analyse- und Experimentierplattform zur Optimierung von Tests und Live-Updates vor. Zudem öffnet sich das Unternehmen im Bereich der Sicherheit durch Open-Source-Sicherheitsmodelle für die ROOST Model Community und stellt fortschrittliche Methoden zur Altersverifikation vor. Weitere Updates umfassen neue Sicherheitsforschung von der Black Hat-Konferenz, erweiterte Entdeckungsfunktionen für Spiele namens ‚Moments‘, die Ausweitung des Teen Council für Zivilität und Wohlbefinden auf Südamerika sowie Initiativen für grenzenloses Bauen auf der Plattform.
Roblox führt Echtzeit-KI-Chat-Umformulierung zur Sprachfilterung ein
Roblox hat eine KI-gestützte Echtzeit-Chat-Funktion vorgestellt, die blockierte Wörter durch respektvollere Sprache ersetzt, anstatt sie durch Rautezeichen zu maskieren. Das System formuliert gefilterte Nachrichten so um, dass die ursprüngliche Intention erhalten bleibt (etwa „Hurry TF up!“ zu „Hurry up!“), und informiert die Chat-Teilnehmer über die Anpassung. Die Funktion unterstützt laut Roblox alle von den automatischen Übersetzungstools abgedeckten Sprachen. Zudem wurde die Textfilterung verbessert, um Leetspeak und andere Umgehungsversuche präziser zu erkennen; dabei wurde ein zwanzigfacher Rückgang falscher Negativmeldungen beim Austausch persönlicher Daten verzeichnet. Herkömmliche Sicherheitssysteme für schwerwiegendere Verstöße bleiben weiterhin aktiv.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.