Wie KI für Ruhe sorgt: Faceit geht gegen toxische Spieler vor
Special
KI macht in der Gamingwelt immer mehr von sich reden, kommt im Hintergrund aber schon seit Jahren zum Einsatz.
Jede Machine-Learning-Stufe braucht dafür Tausende von Beispielen, um zuverlässige Ergebnisse zu liefern. Dafür braucht es Daten, die im besten Falle alle richtig sind, nicht das Urheberrecht Dritter verletzen und tatsächlich auch Toxizität abbilden - das muss die KI schließlich erkennen. Was Toxizität dabei genau ist, legt ESL Faceit laut Maria zusammen mit der Community fest, denn jeder versteht etwas anderes darunter: Was für den einen schon eine Beleidigung darstellt, ist für den anderen noch blödes Rumgealbere.
Außerdem befindet sich Sprache stets im Wandel, wie Maria anmerkt: "Alle paar Monate gehen wir die Datensets neu durch." Denn Umgangssprache, Memes oder gängige Witze versteht die KI beim ersten Hören nicht: "Spieler können die Entscheidungen anfechten, dann gehen sie an Menschen und die können alles rückgängig machen, was die KI entschieden hat. So lernt der Algorithmus gleichzeitig."
Keine KI ist perfekt
Gleichzeitig verhindert man durch das ständige Warten, dass die KI Vorurteile gegen bestimmte Gruppen entwickelt und zum Beispiel rassistisch wird. Das kann etwa passieren, wenn viele Nutzer einer bestimmten Sprache auffälliges Verhalten zeigen, dann wirft die KI irgendwann alle betreffenden in einen Topf, statt bei jeder Person einzeln abzuwägen.
Ein ähnliches Phänomen demonstrierte Microsoft 2016 äußerst anschaulich mit dem Chatbot Tay, der mit gezielten Eingaben von Internettrollen unvorhergesehene Stellungnahmen von sich gab.
In kürzester Zeit sprach sich die zuvor unbedarfte KI auf X, ehemals Twitter, gegen das Judentum aus, forderte einen Rassenkrieg, stellte sich an die Seite von Hitler und schimpfte Feminismus eine Krankheit - bevor Microsoft den Bot schließlich entfernte.
Am Ende muss man als Entwickler einer KI abwägen, was einem wichtiger ist, wie Maria uns erklärt: eine strenge KI, die auch Verhalten meldet, das eigentlich noch ok ist, oder eine lasche KI, die viel durchrutschen lässt. Bei Faceit hat man sich für die zweite Variante entschieden: Der Algorithmus meldet zwar trotzdem noch harmlose Nachrichten als falsch, der Fehlerquotient liegt aber unter einem Prozent.
Ein stetes Abwägen
Das heißt im Umkehrschluss aber auch, dass die KI manche Nachrichten nicht erkennt und flaggt. Schaut man sich das Feedback der Nutzer in den zugehörigen Foren an, findet man dementsprechend viel Kritik:
Alles, was nicht englisch ist, wird sehr schlecht erkannt, auch wenn es klare Verstöße gegen die Richtlinien sind - andere Nutzer empfinden den Algorithmus namens Minerva als willkürlich und beschweren sich, dass das Tool nicht ausgereift sei.
Aber es ist keine Neuigkeit, dass Nutzer eher bereit sind, negatives Feedback von sich zu geben als lobende Worte und tatsächlich zeigen die Umfrage-Ergebnisse ein anderes Stimmungsbild. Vor der Veröffentlichung von Minerva 2018 war Toxizität mit 30 Prozent auf Platz eins der Probleme, die Spieler wahrnahmen.
Bis 2022 verringerte sich der Wert auf 20 Prozent und Toxizität nimmt nur noch Platz fünf ein bei der Frage, was Spieler auf der Matchmaking-Plattform als problematisch sehen. Natürlich ist das immer noch ein hoher Wert und das Problem ist lange nicht behoben, allerdings scheint der Schritt, den man an dieser Stelle mit KI geht, kein falscher zu sein.
