Beobachtetes Signal · 14. Dez. 2022 · Product Launch · Quelle: OnlineMarketing.de · Relevanz: 4/5 · Sentiment: Neutral
Meta veröffentlicht Open-Source-Tool zur Bekämpfung von Online-Extremismus
Meta übernimmt ab Januar 2023 den Vorsitz des GIFCT Operating Board und stellt parallel ein neues, kostenloses Tool zur Identifikation und Löschung extremistischer Inhalte bereit. Die Open-Source-Software Hasher-Matcher-Actioner (HMA) erkennt plattformübergreifend Kopien von Bildern oder Videos, um gewaltverherrlichendes Material schnell zu entfernen. HMA baut auf Metas bisherigen Technologien zum Abgleich von Bild- und Videodaten auf und lässt sich auch auf andere Formen schädlicher Inhalte anwenden. Meta zielt darauf ab, dass das Tool von zahlreichen Unternehmen, insbesondere kleineren Plattformen mit geringeren Ressourcen, eingesetzt wird. Das GIFCT (Global Internet Forum to Counter Terrorism) ist eine Nichtregierungsorganisation, die Technologieunternehmen, Regierungen und Zivilgesellschaft im Kampf gegen Extremismus im Netz vernetzt. Diese Initiative unterstreicht die branchenübergreifende Zusammenarbeit im Bereich Platformsicherheit und Content Moderation.
Technischer Release eines Major-Players (Meta) mit der Einführung eines Open-Source-Moderationstools; von hoher Relevanz für AdTech-Plattform-Safety und Content Governance.
Marktsignale zu Meta in Echtzeit verfolgen
Polaris7 erfasst behördliche Registrierungen, Primärquellen, Führungswechsel und Deal-Aktivitäten rund um die Uhr. Erstellen Sie Ihren kostenlosen Explorer-Workspace, um automatisierte Executive Briefings zu erhalten.
Wichtigste Kernpunkte & Evidenz
- Meta übernimmt ab Januar 2023 den Vorsitz des GIFCT Operating Board.
- Meta launcht den Hasher-Matcher-Actioner (HMA) als kostenloses Open-Source-Tool zur Erkennung und Entfernung extremistischer Bild- und Videoinhalte.
- HMA basiert auf früheren Open-Source-Matching-Technologien von Meta und ist auch für andere Arten schädlicher Inhalte einsetzbar.
- Das GIFCT ist eine Nichtregierungsorganisation aus Tech-Konzernen, Regierungen und Zivilgesellschaft zur Bekämpfung von Online-Terrorismus.
- Meta fördert die Adaption von HMA durch diverse Unternehmen, darunter insbesondere ressourcenschwächere Plattformen.
Verknüpfte Unternehmen
3 verknüpfte UnternehmenOntologie & Marktkonzepte
Verwandte Marktsignale & Trends
Aktuelle verifizierte Unternehmensentwicklungen und Deal-Aktivitäten in diesem Marktsegment.
Meta verlagert Content-Moderation von externen Dienstleistern auf KI
Meta hat die Einführung fortschrittlicher KI-Systeme zur Bewältigung von Content-Enforcement-Aufgaben angekündigt, darunter das Aufspüren von Betrug und das Entfernen illegaler Medien. Im Zuge dieses mehrjährigen Rollouts will das Unternehmen die Abhängigkeit von Drittanbietern und externen Dienstleistern deutlich reduzieren. Während KI repetitive und adversarial geprägte Aufgaben übernimmt, erfolgt keine vollständige Ersetzung menschlicher Prüfer: Experten trainieren und überwachen die Systeme, während Menschen weiterhin komplexe Entscheidungen wie Rechtsdurchsetzung, Berufungen und Account-Deaktivierungen verantworten. Zudem stellte Meta einen neuen Meta AI Support-Assistenten für Kontoangelegenheiten auf Facebook und Instagram vor. Während Medienberichte über drastische interne Stellenkürzungen von Meta als spekulativ bezeichnet wurden, unterstreicht der Schritt den strategischen Wandel hin zu automatisierter Sicherheit – mit direkten Auswirkungen auf das globale Vendor-Ökosystem und Brand-Safety-Prozesse.
Meta rollt KI für Content-Moderation aus und reduziert Dienstleister
Meta hat den globalen Rollout des Meta AI Support Assistant in den mobilen Apps von Facebook und Instagram sowie im Desktop-Hilfebereich gestartet. Der Assistent bietet rund um die Uhr Unterstützung bei Konten-, Passwort-, Betrugs- und Einstellungsfragen und kann nach Nutzerinitiative direkte Aktionen wie Passwortresets ausführen. Der allgemeine Support deckt alle App-Sprachen ab, während login-spezifische Hilfe zunächst auf ausgewählte Fälle in den USA und Kanada beschränkt ist. Parallel dazu expandiert Meta seine KI-Systeme für die Content-Enforcement-Prozesse: Tests zeigen die Erkennung von rund 5.000 neuen Betrugsversuchen täglich, einen Rückgang der Identitätsdiebstahl-Meldungen um über 80 Prozent, eine verdoppelte Erkennung sexueller Dienstleistungen bei um über 60 Prozent gesunkenen Fehlerraten sowie 7 Prozent weniger Views betrügerischer Ads. Meta betont, dass Menschen bei risikoreichen Entscheidungen weiterhin involviert bleiben.
Meta plant vollständige Automatisierung der Content- und Werbemoderation durch KI
Meta verlagert wesentliche Teile der Content- und Werbemoderation auf Facebook und Instagram von menschlichen Teams hin zu Künstlicher Intelligenz. Laut Berichten verarbeiten Large Language Models bereits rund 50 Prozent der Prüfungsanfragen, wobei Meta diesen Wert bis Jahresende auf etwa 90 Prozent steigern will – ein ähnliches Ziel gilt für Risikobewertungen neuer Plattform-Features. Zur Optimierung nutzte das Unternehmen Mitarbeiterdaten als Trainingsgrundlage, pausierte das interne Monitoring jedoch nach einem potenziellen Datenleck. Kritiker warnen, dass der drastische Rückgang manueller Prüfungen und höhere Hürden für Löschungen problematischer Inhalte die Plattform-Sicherheit sowie das Vertrauen von Werbetreibenden in die Brand Safety gefährden könnten. Dieser Schritt erfolgt im Zuge umfassender Umstrukturierungen, darunter die Einführung neuer KI-Stacks wie Muse Spark und Hardware-Produkte wie Meta Glasses, und hat weitreichende Auswirkungen auf die Qualität des Social Advertising im gesamten AdTech-Ökosystem.
Marktsignale & Strategische Shifts in Echtzeit verfolgen
Erstellen Sie benutzerdefinierte Watchlists, um automatisierte, evidenzbasierte Executive Briefings zu erhalten, sobald wesentliche Signale oder Marktverschiebungen auftreten.