Proaktive Inhaltsmoderation für eine sichere Gaming-Community: Ein Blick auf den zweiten Transparenzbericht von Xbox

Microsofts Xbox hat seinen zweiten Transparenzbericht veröffentlicht, in dem die Bedeutung einer proaktiven Inhaltsmoderation für die Sicherheit seiner Gaming-Community aufgezeigt wird, die weltweit über 3 Milliarden Spieler umfasst.

Der Bericht beschreibt den umfassenden Sicherheitsansatz von Xbox, einschließlich automatischer und menschlicher Moderation, Community-Standards und Familienkontrollfunktionen wie die Xbox Family Settings App.

Die wichtigsten Erkenntnisse aus dem Bericht unterstreichen den Erfolg proaktiver Moderationsbemühungen, die 80 % der gesamten Durchsetzungsmaßnahmen ausmachen und durch KI und menschengesteuerte Technologien unterstützt werden. Tools wie Community Sift helfen dabei, anstößige Inhalte in Text, Video und Bildern innerhalb von Millisekunden herauszufiltern, und haben im vergangenen Jahr 20 Milliarden menschliche Interaktionen auf Xbox ausgewertet. Durch proaktive Maßnahmen wurden alle Fälle von Kontomanipulationen, Piraterie, Phishing und betrügerischen Konten erfolgreich aufgedeckt und bekämpft.

Als Reaktion auf die sich wandelnden Bedürfnisse der Spieler hat Xbox seine Definition von vulgären Inhalten erweitert und bezieht nun auch beleidigende Gesten, sexualisierte Inhalte und derben Humor mit ein. Dies führte zu einem Anstieg der Durchsetzungsmaßnahmen gegen solche Inhalte um 450 %, von denen 90,2 % proaktiv moderiert wurden. Diese Änderung in Verbindung mit Verbesserungen bei der Bildklassifizierung führte zu einem Anstieg der Durchsetzungsmaßnahmen, die sich nur auf den Inhalt bezogen, um 390 %.

Der Bericht zeigt auch, dass ein deutlicher Schwerpunkt auf der Bekämpfung von nicht authentischen Konten liegt. Das Xbox-Sicherheitsteam hat über 7,51 Millionen proaktive Durchsetzungsmaßnahmen gegen solche Konten durchgeführt, was 74 % der gesamten Durchsetzungsmaßnahmen ausmacht. Zu den inauthentischen Konten gehören in der Regel automatisierte oder von Bots erstellte Konten, die die faire Spielumgebung stören und das Spielerlebnis negativ beeinflussen.

Im Rahmen seines Engagements für die Sicherheit hat Xbox in Australien und Neuseeland das Xbox Gaming Safety Toolkit eingeführt, das Eltern und Betreuern helfen soll, das Thema Online-Sicherheit beim Spielen zu verstehen und darauf zu reagieren. Das Unternehmen verfeinert seine Sicherheitsmaßnahmen auch weiterhin in Zusammenarbeit mit Partnern aus der Branche, übertrifft die bestehenden Standards und bittet die Spielergemeinschaft um kontinuierliches Feedback.