Das Forschungsprojekt DeTox befasst sich mit der automatischen Erkennung von Toxizität und Aggressionen in Postings und Kommentaren im Netz. Motto: Hass ist Gift!

Zusammen mit der Meldestelle Hasskommentare des Hessen3C sollen automatische Erkennungs- und Klassifikationsverfahren zu „Fake News“ und „Hate Speech“ entwickelt werden. Eine genauere Angabe, was unter „Hate Speech“ verstanden wird, ist unter Projekt zu finden.

Wichtig ist nicht nur die Erkennung und Klassifizierung von Beiträgen als „Hate Speech“, sondern auch wie etwas erkannt, gemeldet und bewertet wird. Die Frage nach der Toxizität und Aggressivität ist für präventive Maßnahmen von großer Bedeutung.

Ein wichtiger Punkt ist weiterhin die Erklärbarkeit der Klassifikationsergebnisse, da diese gerade in Bezug auf „Fake News“ und „Hate Speech“ begründbar sein müssen.

Das Ziel einer neuartigen und nachhaltigen Strategie für eine automatisierte Detektion von Toxizität und Aggressionen in Postings und Kommentaren im Netz kann nur in einem Verbund aus Wissenschaft und Anwendern umgesetzt werden.