Gegen die Allmacht der Algorithmen

Das Bild zeigt ein Tablet, auf dem Google geöffnet ist.

Gegen die Allmacht der Algorithmen

  • Algorithmen bewerten Konsumenten
  • Klassifizierungsmethoden unbekannt
  • Politik fordert Transparenz
  • Verbraucherschutzministerkonferenz in Mainz

Algorithmen sind hoch komplizierte, standardisierte Rechenvorgänge – und längst nicht mehr nur eine Sache für Mathematiker. Denn sie entscheiden, welche Produkte wir online shoppen und zu welchem Preis, welchen Kredit oder Job wir bekommen oder mit wem wir ausgehen. Eine Art Gebrauchsanweisung zur Problemlösung, die selbst zum Problem werden kann, weil Missbrauch droht.

KI - und wo bleibt die Moral?

WDR 5 Quarks - Topthemen aus der Wissenschaft 10.05.2019 08:39 Min. Verfügbar bis 09.05.2024 WDR 5

Download

Mangel an Transparenz und Kontrolle

Deswegen haben die Verbraucherschutzminister das Thema auf die Tagesordnung gesetzt. Bis Freitag (24.05.2019) diskutieren sie darüber, wie sie für Transparenz und Kontrolle beim Umgang mit den Algorithmen sorgen können. Diese digitalen Codes durchleuchten unsere Bewegungsprofile, unsere Kommunikation und unseren Wohnort, bewerten und klassifizieren uns.

Maschinen erstellen psychologische Profile

Das gilt für viele Bereiche des Alltags: Lautstärke und Wortwahl eines Sprechers zum Beispiel können per Stimm- und Sprachanalyse untersucht werden. So sind Rückschlüsse auf die Persönlichkeit möglich – wichtig bei Gesprächen mit Kunden oder Job-Bewerbern.

Wer mit dem Navi oder auf einer Dating-App unterwegs ist, mag solche Berechnungen schätzen. Sie können Menschen aber auch ausgrenzen, zum Beispiel bei Bonitätsprüfungen, sagt Matthias Spielkamp, Mitbegründer der Initiative "Algorithm Watch": "Da fallen Entscheidungen, die zum Beispiel darüber bestimmen , ob ich einen Kredit für ein Haus- oder Autokauf oder sogar nur einen Handyvertrag oder einen Internetanschluss bekomme."

Ruf nach mehr staatlicher Kontrolle

Verbraucher- und Datenschützer fordern deswegen, dass klar sein muss, welche Daten Algorithmen zu welchem Zweck verwenden. Das müsse in bestimmten Fällen auch staatlich kontrolliert werden. Christiane Woopen, Mitglied der Datenethikkommission der Bundesregierung, denkt an eine Zertifizierung oder ein Monitoring, "sodass die Menschen sicher sein können, dass sie diesem System vertrauen können."

Entwickler pochen auf Geheimhaltung

Das lehnen beispielsweise die Aachener Unternehmer, die eine Stimm- und Sprachanalyse entwickelt haben, ab: Der Algorithmus sei Geschäftsgeheimnis. Ihr Ziel, so Gründer Martin Harasim, sei es, "ein zusätzliches Hilfsmittel zur Verfügung zu stellen, eine objektive Zusatzmeinung aus dem Algorithmus". Aber sie sind damit einverstanden, dass alle Bewerber erfahren, dass eine Maschine mithört.

Intelligente Maschinen: Die Macht der Algorithmen Westart 06.05.2019 04:57 Min. Verfügbar bis 06.05.2020 WDR Von Marion Ammicht

Stand: 24.05.2019, 06:00