Mit maschinellem Lernen gegen Hass-Kommentare


06.11.2017 10:42 Uhr

Data-Science-Spezialisten der Beuth Hochschule arbeiten am BMBF-Projekt „NOHATE“ gegen Hass-Kommentare im Netz mit. Ziel ist die automatisierte Analyse von Hass-Kommunikation, um Betreibern von Online-Angeboten Handlungsmöglichkeiten empfehlen zu können.

Bei gesellschaftlich kontroversen Themen kommt es in sozialen Medien und Online-Kommentarspalten immer häufiger zu so genanntem Hate Speech – beleidigenden, hasserfüllten Beiträgen durch einzelne Nutzerinnen und Nutzer.

Im Rahmen des Verbundprojekts NOHATE – Bewältigung von Krisen öffentlicher Kommunikation im Themenfeld Flüchtlinge, Migration, Ausländer entwickeln die Freie Universität Berlin, die Beuth Hochschule und die VICO Research & Consulting GmbH nun gemeinsam eine Software zur Früherkennung, Prävention und Moderation von Hass-Kommunikation im Internet. Der Fokus liegt dabei auf dem Thema Flucht und Migration, in dem – verstärkt seit Sommer 2015 – Hasskommunikation in großem Umfang auftritt.

Automatisierte Analyse von Hasskommunikation

Die Kernaufgabe der Beuth Hochschule im Verbundprojekt liegt darin, ein theoretisches Kategoriensystem zur Analyse von Kommentaren und Hasskommunikation, das derzeit vom Team der FU Berlin entwickelt wird, in selbstlernende Algorithmen zu überführen.

Prof. Dr. Alexander Löser und Prof. Dr. Felix Gers vom Arbeitskreis „Data Science“ steuern Forschungs- und Entwicklungsleistungen in ihren Kernkompetenzen bei: Alexander Löser mit der explorativen Textanalyse; Felix Gers mit der Wissensrepräsentation mit tiefen neuronalen Netzwerken, insbesondere Long Short Term Neuronal Networks (LSTM). Sie forschen an Verfahren für die Analyse von Hasskommunikation mit der eigens entwickelten Text-Datenbank INDREX sowie mit Grundlagenarbeiten zu LSTMs.

„Mithilfe von maschinellem Lernen entwickeln wir neuronale Netze, die vom menschlichen Gehirn inspiriert sind und mit denen wir selbst feine Nuancen in der Sprache automatisiert erkennen können“, erklärt Löser.

Förderung und Kooperation

Gefördert wird das auf drei Jahre angelegte Verbundprojekt am Institut für Publizistik- und Kommunikationswissenschaft der FU Berlin vom Bundesministerium für Bildung und Forschung (BMBF) im Rahmen der Fördermaßnahme „Zusammenhalt stärken in Zeiten von Krisen und Umbrüchen“.

Das Projekt kooperiert mit einer Reihe von Partnerinnen und Partnern aus Politik und Medien, u. a. mit der Beauftragten der Bundesregierung für Migration, Flüchtlinge und Integration Aydan Özoğuz, dem Neue Deutsche Medienmacher e.V., der Amadeu Antonio Stiftung, Verlagen wie  Axel-Springer-Verlag/Welt/N24,  Heise.de, Zeit Online, GuteFrage.de sowie AISO-Lab.de, ein Unternehmen für Datenprodukte und Verfahren der künstlichen Intelligenz aus Köln.