FACEIT nutzt KI gegen toxische Spieler

Seitdem Online-Multiplayerspiele massentauglich wurden, gibt es Probleme mit toxischen Spielern und beleidigenden Kommentaren. Auch CS:GO ist davon nicht verschont geblieben. Der externe Turnierveranstalter FACEIT wollte diesen Zustand nicht länger kampflos hinnehmen und leitete Gegenmaßnahmen ein. In Zusammenarbeit mit Google wurde eine mögliche Lösung in Form von „Minerva“ entwickelt. Dabei handelt es sich um einen KI-Moderator für den Chat.

Minerva: KI erkennt toxische Spieler

Minervas Aufgabe ist es, den Chat im Spiel zu analysieren und alle beleidigenden, rassistischen sowie hetzerischen Inhalte herauszufiltern und die verantwortlichen Spieler entsprechend zu sanktionieren. Auf Basis neuronaler Netze wurde Minerva monatelang darauf trainiert, selbstständig die Chats zu filtern und dabei so wenig falsche Alarmmeldungen wie möglich zu verursachen. Während des Probelaufs analysierte Minerva über 200 Millionen Nachrichten und hat dabei etwa 7 Millionen toxische Inhalte entdeckt.

Seit August 2019 ist Minerva nun bei FACEIT in Betrieb. Je nach Schwere des Vergehens gibt es eine Verwarnung oder eine direkte Sperre für die Täter. Wird ein Spieler mehrere Male auffällig, erwartet ihn eine höhere Strafe.

Die Maßnahmen machen sich bezahlt. Alleine im ersten Monat hat die KI fast 2,3 Millionen toxische Nachrichten erkannt. Im September hat FACEIT dann schon 20% weniger toxische Nachrichten registriert.

Zusätzlich zu Minerva hat FACEIT auch ein neues System gegen Zweitaccounts eingeführt. Damit soll verhindert werden, dass sich gesperrte Spieler einfach einen neuen Account erstellen. Verdächtige Spieler müssen eine Telefonnummer für ihren Account angeben. Von den bislang 250000 verdächtigen Accounts antworteten etwa 50000 gar nicht.

FACEIT arbeitet weiter an Verbesserungen dieser Maßnahmen und möchte die KI auch anderen Organisatoren von Turnieren zur Verfügung stellen. Und die KI soll in Zukunft noch viel mehr Können, als nur Chatnachrichten zu analysieren.

Quelle: faceit.com

Operation Shattered Web Breach wieder unter den Scrimmage Maps
Comments