Xbox hat am 13. November 2024 seinen fünften Transparenzbericht zur Spielersicherheit veröffentlicht. Der Bericht beschreibt Maßnahmen gegen schädliche Nachrichten, Spam und Werbung auf der Plattform. Im Zeitraum von Januar bis Juni 2024 setzte Microsoft dabei auch zwei neue KI-Werkzeuge ein.
In diesem Zeitraum verhinderte Xbox nach eigenen Angaben 19 Millionen Inhalte, die gegen die Community Standards verstießen, bevor sie Spieler erreichten. Die Zahlen beziehen sich auf Text, Bilder und Videos. Der Bericht behandelt außerdem die Entwicklung von Spielermeldungen und den Einsatz menschlicher Moderatoren.
19 Millionen Inhalte blockiert
Microsoft beschreibt einen neuen Ansatz für Nachrichten zwischen Personen, die nicht miteinander befreundet sind. Dabei sollen schädliche Inhalte abgefangen werden, ohne normale Kommunikation vollständig zu unterbinden. Spieler können über die neue Friends-and-Followers-Erfahrung genauer steuern, mit wem sie in Kontakt treten.
Im April registrierte Xbox 1,7 Millionen Fälle von künstlich angelegten Konten, die Spam und Werbung verbreiteten. Im Januar waren es laut Bericht 320.000 Fälle. Meldungen zu Looking-for-Group-Nachrichten verdoppelten sich auf zwei Millionen. Über alle Inhaltstypen hinweg stieg die Zahl der Meldungen auf 30 Millionen.
Xbox AutoMod unterstützt Moderationsteams
Das im Februar gestartete Xbox AutoMod unterstützt Moderatoren bei der Bearbeitung gemeldeter Inhalte. Bis zum Berichtszeitraum bearbeitete das System 1,2 Millionen Fälle. Nach Angaben von Microsoft konnten Inhalte dadurch 88 Prozent schneller entfernt werden. Die Entscheidungshoheit bleibt bei den Moderationsteams, die komplexe und kontextabhängige Fälle prüfen.
Ein zweites KI-Werkzeug startete im Juli 2024 und arbeitet proaktiv gegen unerwünschte Kommunikation. Zunächst konzentriert sich das System auf Spam und Werbung. Microsoft will den Ansatz später auf weitere Formen schädlichen Verhaltens ausweiten. Im vierten Xbox-Transparenzbericht wurden bereits frühere KI-gestützte Filter beschrieben.
Sicherheitsarbeit bei Minecraft und Call of Duty
Mojang ergänzt Minecraft Bedrock um Hinweise auf die Community Standards, wenn ein Chat potenziell unangemessenes oder schädliches Verhalten enthält. Die Erinnerung soll Spielern Gelegenheit geben, ihre Kommunikation zu ändern, bevor eine Sperre notwendig wird. Außerdem arbeitet Mojang mit GamerSafer an der Sicherheit von Minecraft-Servern.
Für Call of Duty wurden seit November 2023 mehr als 45 Millionen textbasierte Nachrichten in 20 Sprachen blockiert. Die Sprachmoderation wurde mit dem Start von Call of Duty: Black Ops 6 um Französisch und Deutsch erweitert. Microsoft beschreibt die Kombination aus technischen Werkzeugen, Meldungen aus der Community und menschlicher Prüfung als Grundlage des Sicherheitsmodells.