E-Sport-Plattform bekämpft Beleidigungen mit KI

Veröffentlicht am: 20. Dezember 2020, 05:30 Uhr. 

Letzte Aktualisierung am: 18. Dezember 2020, 12:14 Uhr.

In der vermeintlichen Anonymität des Internets lassen sich Nutzer deutlich leichter zur Verwendung von Kraftausdrücken oder Beleidigungen verleiten als im realen Leben. Auch im E-Sport hat sich der Ton in den letzten Jahren stark verschlechtert. Um die verbalen Entgleisungen ihrer Nutzer zu stoppen, setzt die internationale Plattform für E-Sport-Turniere FACEIT daher auf künstliche Intelligenz (KI).

Künstliche Intelligenz
E-Sport-Plattform FACEIT optimiert KI-Software Minerva (Bild: Pixy/CC0)

Bereits im Oktober 2019 hatte das Unternehmen seine KI-Software „Minerva“ herausgebracht. Als KI-Admin überprüfte sie seither die schriftliche Kommunikation zwischen Spielern, um Beschimpfungen und verbale Angriffe gegen andere Spieler herauszufiltern. Wie FACEIT am Mittwoch auf ihrem Blog [Seite auf Englisch] bekannt gegeben hat, solle Minerva jetzt zusätzlich „Ohren erhalten“.

Deutliche Reduktion von Beleidigungen

Minerva sei jedoch kein durchgehend laufendes Hintergrundprogramm, welches alle Nachrichten von allen Usern prüfe. Spieler, die sich beleidigt oder angegriffen fühlten, könnten den entsprechenden Chat-Verlauf melden, damit dieser von Minerva überprüft werde.

Um Fehlinterpretationen einzelner Wörter und Ausdrücke zu vermeiden, werde die gesamte Konversation überprüft. So könne die fragliche Wortwahl in ihrem Gesamtkontext korrekt eingeordnet werden. Auch Beleidigungen und Kraftausdrücke, die von Nutzern bewusst mit *** zensiert würden, gingen so nicht unter.

Seit ihrem Launch habe Minerva sichtliche Erfolge erzielt. Insgesamt habe sie mehr als 1,44 Mrd. schriftliche Chat-Nachrichten analysiert und mehr als 1,97 Mio. Warnungen an Nutzer verschickt. Insgesamt 103.737 Spieler seien aufgrund ihrer Ausdruckswahl gänzlich von der Plattform verbannt worden.

Das harte Durchgreifen scheine Wirkung zu zeigen, so FACEIT. So sei in den letzten drei Monaten eine allgemeine Reduktion unerwünschter Wortwahl von 21 % festgestellt worden. Die Anzahl besonders schwerwiegender Beleidigungen habe sich sogar um 61 % verringert.

Minerva hört und spricht alles

Bisher jedoch hätten Nutzer Minervas Analyse und Bestrafungen entgehen können, wenn sie statt schriftlicher Nachrichten Sprachnachrichten verschickten. Diese „Schwachstelle“ sei nun beseitigt worden.

Ab sofort sei es Minerva auch möglich, Sprachnachrichten auf Beleidigungen und Ähnliches hin zu prüfen. Im Statement von FACEIT heißt es:

Minerva hilft bereits jetzt sehr viel und nach dem Update werden ihre Analysen und Eingriffe noch präziser und umfangreicher. […] um unsere Community gesund zu halten und das Verhalten aller Spieler zu überblicken, brauchten wir eine Lösung, die sich fortwährend verbessert, ganz egal wie viele Fälle überprüft werden müssen.

Sprachliche Hürden gebe es dabei nicht, da sich alle menschlichen Sprachen technologisch verarbeiten ließen. Die Sprachnachrichten würden dazu zunächst mithilfe einer „Sprache-in-Text“-Software verschriftlich, um anschließend wie gewohnt analysiert zu werden.