KI gegen Troll – Googles Kampf gegen Hassposts

Das Internet ist erstmal natürlich eine großartige Sache. In den meisten Ländern bedeutet der unbegrenzte Zugang zum Netz gleichzeitig unbegrenzten Zugang zu Informationen, zu Nachrichten, zu Kunst, zu Meinungen, zu Hintergründen, zum Hoods Blog. Das ist super, keine Frage. Um dem Ganzen dann noch die Krone aufzusetzen, bieten soziale Medien und die beinahe schon obligatorische Kommentarfunktion auf Nachrichtenseiten und Blogs Menschen mit Internetzugang ferner die Möglichkeit, am öffentlichen Diskurs teilzunehmen. Egal ob es dabei um politische Entwicklungen, sportliche Glanzleistungen oder die wirklich, wirklich, wirklich hässlichsten Kleider der diesjährigen Oscarverleihung geht: unsere Meinung ist gefragt! Meinungen sind gut, erzeugen Klicks, generieren Traffic und sorgen dafür, dass die folgenden Besucher der entsprechenden Seite nun auch Kenntnis nehmen von unserer Sicht auf die Kleiderwahl der Damenwelt von Los Angeles oder wenigstens, dass wir es nach wie vor witzig und/oder nötig finden, auf den sprichwörtlichen Sack Reis in China hinzuweisen.

Leider kommen nicht alle Menschen mit dieser Freiheit zurecht. Während an dieser Stelle natürlich der ausdrückliche Verweis auf die Meinungsfreiheit nicht fehlen darf, gibt es immer wieder und leider auch immer mehr Kandidaten, die deutlich über das Ziel hinausschießen. In diesem Fall spricht man von „Trollen“, vermutlich weil „Idioten mit zu viel Zeit und zu wenig Anstand“ zu sperrig und unspezifisch ist. Da kann dann die Netiquette noch so trivial und allgemein formuliert daher kommen und sich der Onlineredakteur die Finger blutig tippen: bei Menschen, denen es nur darum geht anderen zu schaden und die Diskussion zu vergiften, kommt man mit Verweisen auf ein Minimum an Respekt oder Niveau nicht sehr weit. Daher schickt sich nun Google in Form seines Services Perspective an, das Internet schneller und unkomplizierter ein wenig netter zu machen.

Über seine Tochter Jigsaw hat Google eine API entwickelt, die hasserfüllte und beleidigende Kommentare herausfiltert und es Moderatoren so leichter machen soll, den Ton einer Diskussion im vertretbaren Rahmen zu halten. Perspective nutzt dabei einen Algorithmus, für den Beiträge zu kontrovers diskutierten Themen wie Klimawandel, Brexit und die US-Wahl unter Beiträgen auf den Seiten der New York Times, des Economists und des Guardians analysiert wurden. Da die KI lernfähig ist, soll sich das System selbstständig stetig verbessern.

Einsatzorte gibt es genügend für Perspective, das zunächst nur auf englisch erhältlich ist und kostenlos bleiben soll. Neben den Kommentarfunktionen unter Artikeln großer Verlagshäuser, funktioniert Perspective auch in den sozialen Medien und auf Blogs. Auf Basis der „gelernten“ und analysierten Daten errechnet das Programm für jeden Kommentar einen „Hasswert“, der entweder unter dem Beitrag angezeigt wird oder auf dessen Grundlage die Moderatoren den Verstoß gegen die Netiquette löschen können. Perspective selbst nimmt keine Löschung vor, schon um dem Vorwurf der Zensur vorzubeugen. Interessierte können bereits jetzt einen API Key anfordern, wobei darauf hingewiesen wird, dass sich das Projekt noch in der Entwicklungsphase befindet.

Betrachtet man die zunehmende Verrohung der Diskussion im Internet kann ein Tool wie Perspective nur begrüßt werden, insbesondere da mittlerweile viele Anbieter vor der Problematik kapitulieren und Kommentare unter potentiell strittigen Beiträgen grundsätzlich abschalten. Trotzdem bekämpft auch dieses Programm nur ein Symptom. Die Entscheidung, in welchem Ton wir mit- und übereinander reden wollen, liegt am Ende immer noch bei uns selbst. Da sind sogar der ausgeklügelsten KI die Hände gebunden.