KI gegen Hass und Gewalt im Netz

03:10 Min. Verfügbar bis 12.10.2025

KI gegen Hass und Gewalt im Netz

Stand: 12.10.2023, 16:43 Uhr

Die Landesanstalt für Medien NRW will mit Hilfe künstlicher Intelligenz Rechtsverstöße im Netz schneller und gründlicher entdecken. Es scannt automatisch 10.000 Seiten pro Tag. Die künstliche Intelligenz filtert Extremismus, Volksverhetzung und jugendgefährdende Inhalte heraus.

Von Manuela Klüppel

Die Landesanstalt für Medien (LfM) ist die Aufsichtsbehörde in NRW für den Rundfunk und das Internet. Das Team "Aufsicht" der LfM NRW zeigt als Beispiel ein Video: Ein Mann filmt sich selbst, spricht direkt in die Kamera, und sagt: "Alles für Deutschland". Dabei ist die verbotene Losung der SA quer über das Bild eingeblendet.

Die Verwendung dieses Slogans ist strafbar. Das Video hat das Daten-Tool mit dem Namen KIVI der Landesanstalt für Medien NRW bei TikTok entdeckt. Solche verfassungswidrigen Symbole zu veröffentlichen und zu verbreiten ist strafbar.

Gewalt und Pornografie werden herausgefiltert

Bisher konnten mit Hilfe des KI-Tools mehr als 7.000 Verstöße im Netz aufgespürt werden. Die Behörde leitet diese an das Bundeskriminalamt weiter und sorgt dafür, dass Inhalte aus dem Netz entfernt werden. KIVI scannt das öffentlich zugängliche Internet und eine Vielzahl von Social-Media-Plattformen wie Youtube, Telegram oder X, das ehemalige Twitter und meldet mögliche Verstöße weiter an ein Prüfungsteam, das die Inhalte abschließend sichtet und bewertet.

"Heftige Sachen zu sehen"

Eine harte Aufgabe, die die Teammitglieder auch an ihre Grenzen bringt. Eine studentische Mitarbeiterin aus dem Prüfungsteam erzählt: "Hier sind heftige Sachen zu sehen. Nicht nur Pornografie: Wir sehen auch Gewaltinhalte, die wirklich verstörend sein können. Und das ist ganz klar bei uns, sobald sich jemand unwohl fühlt mit etwas, oder gewisse Themenbereiche gar nicht kann, dann macht die Person das auch nicht."

Zahl der Strafanzeigen verdoppelt

Seit zweit Jahren ist das Programm im Einsatz. Die Zahl der Strafanzeigen konnte seitdem mehr als verdoppelt werden. Das System funktioniert so gut, dass seit einem Jahr auch die anderen Medienaufsichten in Deutschland mit dem KI-Tool arbeiten.

Kampf gegen Cybermobbing – Lijana Kaggwa

WDR 5 Neugier genügt - Redezeit 10.05.2023 24:12 Min. Verfügbar bis 09.05.2024 WDR 5


Download