Live hören
Jetzt läuft: We Belong von Pat Benatar
00.00 - 05.00 Uhr NDR 2 und WDR 2 Die Nacht

Wenn Roboter über Menschenleben entscheiden

Der DaVinci-Operationsroboter bei einer Demonstration für die Presse vor bunten "Testobjekten" an der Uni-Klinik in Jena 2011

Maschinenethik

Wenn Roboter über Menschenleben entscheiden

Autopiloten, autonome Fahrsysteme, Pflegemaschinen: Schon jetzt - und in Zukunft vermutlich noch mehr - entscheiden Roboter über Menschenleben. Doch woher wissen sie, was richtig und was falsch ist? Prof. Catrin Misselhorn über die Frage, ob Roboter Moral lernen können.

Autopiloten und Kampfdrohen: Was ist bei Fehlfunktionen?

Prof. Dr. Catrin Misselhorn ist Direktorin des Instituts für Philosophie an der Universität Stuttgart und lehrt Wissenschaftstheorie und Technikphilosophie. Im Gespräch auf WDR 2 erklärte sie, worum es in der Roboterethik geht, nämlich um die ethischen Probleme, die bei der Entwicklung, Herstellung und Verwendung von Robotern entstehen. Dazu kommt die sogenannte Maschinenethik, die Frage, ob Maschinen oder künstliche Systeme selbst zu moralischem Verhalten und Entscheiden in der Lage sind. Das ist immer da relevant, wenn künstliche Systeme über Menschenleben entscheiden. Auch wenn Robotern diese Entscheidungen zur Zeit noch nicht vollständig alleine treffen, sind sie daran beteiligt. "Denken Sie an Autopiloten im Flugzeug", veranschaulichte Catrin Misselhorn und führte als weiteres Beispiel im militärischen Bereich Drohnen an: "Das stellt sich immer auch die Frage des Missbrauchs, der Fehlfunktionen, wenn Drohnen nicht die avisierten Ziele treffen, sondern Zivilisten."

Auto-Roboter: Entwicklung ethisch sorgfältig begleiten

Der derzeit am meisten diskutierte Fall: selbstfahrende Autos. Hierbei stellt sich das Problem der so genannten unvermeindlichen Kollisionen, in denen in jedem Fall Menschen zu schaden kommen. Beispielsweise, wenn es nur die Wahl gibt, mit einem kleinen oder großen Wagen zusammenzustoßen, oder eine Mutter mit Kind oder einen 80jährigen Großvater zu erfassen. "Das genau ist der Grund, warum die Entwicklung autonom gesteuerter Fahrsysteme von Anfang an gut ethisch begleitet werden muss", forderte Catrin Misselhorn. Ob man einer Maschine so viel Macht überlassen will? Von den Verfechtern der autonomen Fahrsysteme wird argumentiert, dass durch die Fahrroboter auch Menschenleben gerettet werden, dadurch, dass diese Systeme sicherer sind und es zu weniger Unfällen kommt, hob die Philosophin hervor.

Wer bringt Robotern bei, was richtig und falsch ist?

Letztendlich kommt es darauf an, wer den Maschinen und Robotern beibringt, was richtig und was falsch ist: Das sind einerseits Philosophen und andererseits Ingenieure. Aber: "Es ist derzeit nicht endgültig geklärt, ob es tatsächlich geht, einem Roboter Moral beizubringen. Mein Ansatz betont, dass die Maschine in der Interaktion mit dem Nutzer lernen soll, worauf dieser Wert legt", erklärte die Philosophin. In ihrer Sicht ist der wichtigste Bereich, in dem Roboter eingesetzt werden könnten, die häusliche Pflege, damit "alte und sehr alte Menschen künftig so lange wie möglich selbstbestimmt in ihren vier Wänden leben können."

Chancen und Risiken

Für den Einsatz im Verkehr sei die Diskussion aber noch lange nicht abgeschlossen. "Wen kann ich verantwortlich machen, wenn mein Kind oder meine Großmutter durch ein solches System zu Tode gebracht worden ist? Nicht mehr eindeutig den Fahrer, aber auch der Entwickler steht nur in einem sehr mittelbaren Verhältnis." Erst wenn diese Fragen geklärt sind, haben solche Fahrsysteme eine Chance, ist Catrin Misselhorn überzeugt. Und: Auch die weltweite, vollständige, elektronische Vernetzung von Menschen und Maschinen muss erst erfolgen, "die aber sehr große Risiken birgt, die vielleicht zu wenig reflektiert werden."

Stand: 20.12.2015, 00:00