Wie künstliche Intelligenz der Rheinischen Post hilft, Hasskommentare auszusortieren

Düsseldorf – Keine Kommentare mehr: Viele Verlagshäuser reagieren auf ihren Onlineportalen mit dieser Restriktion auf die steigende Flut von Hasskommentaren. Die „Rheinische Post“ geht einen anderen Weg. In Kooperation mit Wissenschaftlern der Westfälischen Wilhelms-Universität Münster (WWU) entwickelt der Titel einen Prototyp, der Kommentare automatisch nach Inhalten klassifiziert. Durch das Projekt „Moderat!“ sollen die Community-Manager Zeit für ihre eigentliche Aufgabe bekommen: eine angeregte Diskussion zu leiten.

Die Ausgangslage: Viel Aufwand

Die Verrohung der Debattenkultur in Online-Communitys ist klar zu datieren: Mit der Flüchtlingsbewegung 2015/2016 in Deutschland begannen viele Beiträge in Hass und Hetze abzugleiten. Die Onlineportale der Zeitungshäuser wurden mit solchen Mails überflutet. Auch bei anderen Themen wurde der Ton rauer. Die Redaktion der „Rheinische Post“ errichtete den ersten Schutzwall: Wurden Kommentare bis dahin erst nach Freischaltung geprüft, mussten sie nun einzeln gesichtet und freigegeben werden. Wer gegen die Regeln des Hauses verstieß, bekam eine automatisch generierte Mail mit dem Hinweis auf Ablehnung. Doch dieses Vorgehen stoppte die Flut nicht. „Wir rennen dem Hass hinterher, statt für unsere eigentliche Moderationsaufgabe Zeit zu haben“, sagt Hannah Monderkamp, Leiterin Audience Development, heute. Zwei Community-Manager widmen sich in zwei Schichten dieser Aufgabe bei durchschnittlich 400 Kommentaren am Tag.

Da kam die Anfrage der Wilhelms-Universität Münster 2019 wie gerufen. Die Informatiker des Instituts für Wirtschaftsinformatik an der WWU um Dennis Riehle stießen sich ebenfalls an der Verschärfung des öffentlichen Diskurses und überlegten, wie sie ihr Wissen einbringen könnten. Sie wollten ein System entwickeln, das die Hasskommentare durch Natural Language Processing (NLP) und Machine Learning (ML) automatisch erkennt und so den Journalisten die Arbeit erleichtert. Dazu benötigten sie nicht nur einen in der Fachwelt für das Problem anerkannten Algorithmus, sondern auch authentische Daten, also echte Zuschriften an ein Onlineportal, die von den Moderatoren mit einer Bewertung versehen wurden.

• Die Kooperation: Fördergelder
• Die Software: Lernen durch Daten
• Das Ziel: Eine hohe Trefferquote
• Plus: Wie KI Hass erkennt
• Service: Kommentare effizient moderieren

Sie möchten den kompletten Case lesen? Dann bestellen Sie bitte die neue Ausgabe von „kress pro“ im Shop.

Weitere Top-Themen in kress pro 4/2021:

• Der Neue hat große Pläne für Funke: Christoph Rüth, Geschäftsführer der Zeitungen, will bei digitalen Abos radikal wachsen, in der Vermarktung nichts verlieren und weg von der Konzerndenke.
• Ranking: Die größten Fachverlage. Wer ist wie gut durch die Krise gekommen?
• Vorbild: Wie die „FAZ“ ihr Ziel von 300.000 Digitalabos erreichen will.
• Case: Unternehmen wie Funke, Springer und NOZ Medien/mh:n Medien setzen in ihrer Audiostrategie nicht nur auf Podcasts, sondern investieren in Text-toSpeech-Technologie.
• Plus: Die besten Arbeitgeber: Wie Fachverlage von ihren Mitarbeitern bewertet werden.