Landesmedienanstalten finden mit KI mehr als 500 antisemitische Verstöße im Netz

Stand: 16.11.2023, 17:23 Uhr

Bereits mehr als 500 antisemitische Rechtsverstöße im Netz konnten die Landesmedienanstalten der EU melden. Unterstützt werden die Aufsichtsteams von einem KI-Tool namens KIVI.

Von Christoph Ullrich und Sabine Tenta

Nach dem Terrorangriff der Hamas gegen Israel haben Antisemitismus und Hass im Netz dramatisch zugenommen - so die Beobachtung des Aufsichtsteams der Landesanstalt für Medien (LfM) NRW. Gemeinsam mit ihren Schwesteranstalten konnte die Institution seit Beginn des Nahostkrieges vor gut einem Monat mehr als 500 Rechtsverstöße im Netz feststellen und der Europäischen Union melden. Am Donnerstag hat Medien und Europa-Minister Nathanael Liminski (CDU) die LfM NRW in Düsseldorf besucht.

Liminski dankte der LfM für ihren Einsatz mittels Künstlicher Intelligenz. Die Medienanstalt habe nach dem Überfall der Hamas schnell reagiert, so der CDU-Politiker. Die geänderte Aufgabe der LfM sieht er als Aufgabe für die kommenden Jahre. "Medienpolitik war früher das Schaffen von Rahmenbedingungen, damit Sender ihrer Arbeit nachgehen können", so Liminski. Medienpolitik heute müsse dagegen auch von den Nutzern und Nutzerinnen denken, auch die seien inzwischen Sender.

Zunahme von antisemitischen Übergriffen und Hass im Netz

Die LfM stellte fest, dass besonders in sozialen Netzwerken antisemitische Parolen, Kennzeichen islamistischer Terrororganisationen und Desinformation zur Militäroffensive gegen die Hamas in Gaza verbreitet werden. Hierbei stehen vor allem das russische VK und TikTok im Mittelpunkt. Liminski sprach von "unregulierten Drecksschleudern". Allerdings, so hieß es von der LfM, spiele inzwischen X eine immer größere Rolle bei Verstößen. Das europäische Medienrecht sehe vor, dass solche Inhalte von den Plattformanbietern gelöscht werden. Dort, wo das nicht gelinge, würden die Medienanstalten eingreifen.

"Dabei geht es in der Hauptsache um Verstöße gegen die Menschenwürde", erklärt Laura Braam, die das Überwachungsteam der LfM leitet. Die Juristin nannte zum Beispiel unverpixelte Bilder getöteter Säuglinge, die in Postings gezeigt würden. Bei den Delikten, wo es nicht um Videos gehe, sondern um möglicherweise strafbare Aussagen, gehe es im Moment meist um Antisemitismus.

Team aus Menschen und KI im Einsatz

Seit 2021 setzt die LfM NRW beim Aufspüren rechtswidriger Inhalte auf KI. Ein eigens für die LfM entwickeltes Tool namens KIVI unterstützt dabei das Team aus Menschen, die sich der Belastung aussetzen, viele verstörende und gewaltverherrlichende Inhalte zu sichten. Der Name KIVI leitet sich von KI für künstliche Intelligenz und "vigilare", dem lateinischen Wort für "überwachen" ab.

Informationen der LfM NRW über das KI-Tool KIVI | medienanstalt-nrw

Das KI-Tool suche und kategorisiere mögliche rechtswidrige Inhalte nicht nur nach Deliktgruppen, sondern nehme auch eine erste Einschätzung der Schwere vor, erklärte die LfM. So erhöhe KIVI nicht nur die Trefferquote, sondern sorge auch dafür, dass gravierendere Rechtsverstöße priorisiert behandelt werden. Und, auch das ist wichtig in diesem Kontext, der Einsatz der KI gebe dem Monitoring-Team die Chance, vor der unmittelbaren Konfrontation mit emotional stark belastenden Inhalten besser geschützt zu werden.

Festgestellte Inhalte würden dann dem Bundeskriminalamt (BKA) binnen weniger Minuten zugeleitet. Das BKA selber versucht dann binnen maximal zwei Wochen den Urheber und den Sachverhalt zu ermitteln und eine Strafvervolgung wie Löschung auf den Weg zu bringen. Das sei im Vergleich zu früher deutlich schneller, so Braam. Insgesamt habe das BKA 200 Menschen für die Aufklärung bereit gestellt.

Über die Landesanstalt für Medien

In Deutschland sind für die Gesetzgebung zum Rundfunk die 16 Bundesländer zuständig. Es gibt 14 Landesmedienanstalten in Deutschland, weil es je eine gemeinsame für Berlin und Brandenburg sowie Hamburg und Schleswig-Holstein gibt. Zu ihren Aufgaben gehören unter anderem die Zulassung und die Aufsicht über den privaten Rundfunk, also Radio und Fernsehen, in Deutschland und die Medien im Netz. Die LfM NRW beschreibt ihre Aufgabe so: "Die Landesanstalt für Medien NRW ist eine öffentliche Einrichtung, staatsfern und wirtschaftlich unabhängig organisiert. Ihre Aufgaben sind es, Freiheit in den Medien zu schützen, Meinungsfreiheit zu ermöglichen, Vielfalt zu fördern und Recht zu sichern."