Wenn Computer hassen lernen

Aus der TV-Serie Stromberg stammt das Bonmot: „Erst wer verheiratet ist, lernt ja, was es heißt zu hassen.“ Was Eheleuten mitunter leichtfällt, ist aber für Computer enorm schwer. Im Kampf gegen den Hass versuchen Forscher in Deutschland derzeit einem Algorithmus das Hassen zu lehren. Die Künstliche Intelligenz (KI) soll dann zum Kernstück für das Gesetzespaket gegen Hasskriminalität reifen. Das Regelwerk verpflichtet soziale Netzwerke, den Behörden wüste Beschimpfungen oder handfeste Bedrohungen zu melden. Experten gehen davon aus, dass das neue Gesetz zu rund 250?000 zusätzlichen Strafverfahren führen wird – die Meldungen dürften in die Millionen gehen. Die Beamten brauchen also Hilfe. Hier kommt die KI ins Spiel.

Eleanor Hobley ist Forschungsleiterin im Geschäftsfeld Big Data Analyse der Zentralen Stelle für Informationstechnik im Sicherheitsbereich (ZITiS). Sie füttert den Algorithmus mit tausenden von Posts, die ihm zeigen, was Hass ist – und was nicht. Hobley: „Der Algorithmus lernt anhand dieser Beispiele, was der Kontext von Hass ist.“

Doch wie bestimmen die Forscher überhaupt, was Hass ist? Dabei helfen sowohl Juristen als auch Kommunikationswissenschaftler, die Teil des über 20-köpfigen Projektteams sind. Denn, sagt Hobley: „Was eine Person als Hass empfindet, ist nicht unbedingt gesetzlich verboten.“ Der Algorithmus soll nicht nur lernen, was Hass ist, sondern ihn auch differenziert einordnen können. Kategorien sind in etwa Links- oder Rechtsextremismus, religiöser Hass oder bestimmte Paragrafen aus dem Strafgesetzbuch (StGB).

Die Klassifikation nach Art der Hassrede sei relativ einfach, sagt Hobley. Schwieriger sei es, nach Paragrafen im StGB zu unterscheiden. Also ganz konkret: Ist das jetzt Volksverhetzung oder Bedrohung? Um das zuordnen zu können, muss die Künstliche Intelligenz lernen, konkrete Zusammenhänge zu erkennen.

Dafür werden sogenannte Annotationsschemen definiert. Das betrifft den Kontext, in dem Hassaussagen getroffen werden. Hobley: „Wir erstellen Regeln: Ich erkenne Hass, wenn diese Kriterien gegeben sind.“ Je zuverlässiger die Annotationen sind, desto zuverlässiger wird die Künstliche Intelligenz Hass erkennen können. Die Regeln, die für den Algorithmus erstellt werden, müssen immer wieder geprüft und angepasst werden.

Diese regelmäßigen Anpassungen sind aus einem einfachen Grund nötig: „Sprache ist sehr dynamisch, erst recht im Internet“, sagt Hobley und nennt das Beispiel „Covidiot“. Wer den Begriff vor neun Monaten gesucht hätte, wäre nirgendwo fündig geworden. Dazu kommt noch ein unterschiedlicher Sprachgebrauch auf den verschiedenen Plattformen. Auf Facebook kommunizieren Menschen anders als auf Twitter oder Telegram. Glücklicherweise für die Forscher gibt es Ansätze, wie man vorhandene Datensätze anpassen kann, ohne sehr viele neue Daten hinzufügen zu müssen – denn das ist immer besonders arbeitsintensiv.

Zeit ist in doppelter Hinsicht ein wichtiger Faktor im Projekt. Zum einen haben die Sachbearbeiter vom BKA, denen der Algorithmus helfen soll, nur sieben Tage Zeit, um die Absender der Hassbotschaften zu ermitteln. Danach löschen die Telekommunikationsanbieter die IP-Adressen der Benutzer. Zum anderen wird davon ausgegangen, dass das Gesetz im März in Kraft treten könnte.

Wird der Algorithmus bis dahin einsatzfähig sein? Das Projekt ist im Juli gestartet und auf drei Jahre angesetzt. Es sei ein bisschen schwierig gewesen, mitten in der Pandemie mit neun verschiedenen Partnern auf ganz Deutschland verteilt zu starten, sagt Hobley, die aber auch betont: „Ich bin trotz der Corona-Umstände mit den Fortschritten in dem Projekt sehr zufrieden.“

Deswegen ist Hobley auch zuversichtlich, dass bis März ein erstes Zwischenergebnis vorgestellt werden kann. Allerdings wird die KI immer wieder verbessert werden müssen, bis sie wirklich optimal funktioniert. Die Nachbesserungen werden entsprechend Zeit kosten. Auch ist noch nicht klar, wie die Meldungen von Facebook & Co. dann im Detail aussehen werden.

Klar ist, dass die Sachbearbeiter vom BKA Optionen haben werden, was der Algorithmus anzeigt. Geht es um eine akute Bedrohung, um Gefahr für Leib und Leben, solle die KI sichergehen, dass alles Mögliche erfasst wird. Dafür werden mehr falsch klassifizierte Negativbeispiele in Kauf genommen. Der deutlich häufigere Fall wird sein, dass eine große Menge an Meldungen vorliegt. Hier soll die KI zunächst eine grobe Zuordnung anzeigen, Hass oder Nicht-Hass. Das bedeutet weniger falsch-positive Fälle.

Letztlich geht es um die Optimierung der entsprechenden Matrix. Diese kann der Sachbearbeiter dann im System einstellen und für sich priorisieren. Daraus ergeben sich unterschiedliche Zielsetzungen für die KI, die ihr beigebracht werden müssen und die sie durch eigenständiges Lernen verbessern wird. Am Ende ist aber klar: Der Algorithmus kann nur ein Hilfswerkzeug sein. Hobley: „Letztendlich entscheidet ein Mensch, ob es sich tatsächlich um Hass handelt oder nicht.“