MONITOR vom 17.05.2018

Killer-Roboter: Töten ohne Gewissen?

Bericht: Jochen Taßler, Barbara Schmickler

Kommentare zum Thema und der Beitragstext als PDF

Georg Restle: „Sollte es tatsächlich zum Krieg gegen Iran kommen, dürfte sich dieser Krieg deutlich unterscheiden vom Einmarsch US-amerikanischer Truppen im Irak vor 15 Jahren. Denn die Kriege von heute werden mit ganz anderen Waffen geführt. Und die von morgen erst recht. Nicht weniger tödlich, dafür immer autonomer. Das heißt, die Entscheidung über Leben und Tod treffen diese Waffen ganz alleine. Wer die „intelligentesten Waffen“ hat, heißt es, gewinnt die Kriege der Zukunft. Und längst schon hat im Geheimen ein ganz neues Wettrüsten begonnen, an dem auch deutsche Rüstungskonzerne beteiligt sind. Jochen Taßler und Barbara Schmickler über das kriegerische Potenzial von künstlicher Intelligenz - und die Folgen.“

Die Zukunft hat begonnen, Maschinen übernehmen das Schlachtfeld. Hochgerüstet mit Sensoren, gesteuert von künstlicher Intelligenz, also von Computern, die immer intelligenter werden. Sie treffen immer mehr Entscheidungen selbst. Präzise, unermüdlich, ohne Risiko für die eigenen Soldaten. Die Maschinen fahren, erkunden oder zielen selbständig.

Die amerikanische X-47B-Drohne etwa kann bereits von einem Flugzeugträger starten und dort landen. Eine der anspruchsvollsten Übungen für Kampfpiloten. Die X-47B braucht keinen mehr. In Israel patrouillieren bereits autonom arbeitende Grenzroboter, und weltweit arbeiten Wissenschaftler an den intelligenten Maschinen der Zukunft. Roboter, die sich selbständig bewegen - egal wo. Und die Tag für Tag dazulernen. Noch sind es harmlose Prototypen, aber das Geld für ihre Entwicklung kommt auch vom Militär. Was, wenn diese Maschinen in Serie produziert werden? Und Waffen tragen?

Jürgen Schmidhuber ist Informatiker, und einer der führenden Forscher im Bereich künstliche Intelligenz, ein Pionier. Jedes moderne Smartphone arbeitet mit Technologie, die er mit entwickelt hat. Heute baut er in seinem Labor Roboter, die selbständig dazulernen können. Er sieht viel Potenzial in künstlicher Intelligenz. Aber bei der militärischen Nutzung mahnt er - wie viele Wissenschaftler - zu Vorsicht.

Jürgen Schmidhuber, Informatiker: „Wir sind in einem Wettrüsten, schon seit geraumer Zeit, auch wenn es nicht sehr bekannt ist. Aber natürlich haben die Generäle in China Angst davor, dass die Amerikaner etwas machen, was sie selbst nicht mehr machen, das heißt, sie werden nicht die Forschung in diesem Bereich stoppen. Dasselbe gilt für die Russen und Israelis.“

Es ist ein Milliarden-Wettbewerb. Die USA haben schon seit 2016 einen Entwicklungsplan für künstliche Intelligenz und investieren immense Summen. China hat angekündigt, bis 2025 führend auf dem Gebiet werden zu wollen. Und Russlands Präsident Putin sagte erst im vergangenen Jahr, wer in diesem Bereich die Führung übernehme, werde die Welt beherrschen. Und das ist durchaus wörtlich zu verstehen. Denn viele Ergebnisse der Forschungsprogramme können und sollen auch militärisch genutzt werden.

Frank Sauer, Politikwissenschaftler, Universität der Bundeswehr: „Sinn und Zweck dieses gesamten Rüstens hin zu mehr und mehr Autonomie in Waffensystemen ist, einen Wettlauf um mehr Geschwindigkeit. Also, es geht darum, das Finden, Fixieren, Verfolgen, Selektieren und Bekämpfen von Zielen so weit wie möglich automatisch ablaufen zu lassen, ohne dass der langsame Mensch daran noch beteiligt ist, um einen militärtaktischen Vorteil daraus zu haben.“

Wie soll der beste Pilot in Zukunft mit Drohnen mithalten, die Informationen viel schneller verarbeiten als er? Soldaten ziehen sich vom Schlachtfeld zurück. Der US-Drohnenkrieg zeigt schon seit Jahren die Richtung. Der Mensch entscheidet nur noch aus der Distanz, und selbst das muss er nicht mehr zwingend. Die israelische Harop ist eine Kamikaze-Drohne. Sie verfügt bereits über einen Vollautomatik-Modus. Damit kann sie Ziele finden, erfassen und eigenständig zerstören.

Frank Sauer, Politikwissenschaftler, Universität der Bundeswehr: „Der Handlungsbedarf besteht jetzt, denn die Technologie ist eigentlich schon in der Welt. Es ist also keine Diskussion um irgendwelche Zukunftstechnologien, die vielleicht in fünf oder zehn oder 20 Jahren uns ins Haus stehen, sondern die Komponenten sind alle da, man muss sie nur so zusammensetzen, dass man am Ende tatsächlich mit autonomen Waffensystemen endet.“

Letzten Monat bei der UN in Genf. Eine Konferenz zu tödlichen, autonomen Waffensystemen. Experten fordern hier, solche Waffen zu ächten. Auch die Bundesregierung setzt sich dafür ein. Gleichzeitig aber will sie Innovationsmotor im Bereich der künstlichen Intelligenz sein. Und auch die deutsche Rüstungsindustrie will mitmischen im Geschäft der Zukunft, sie arbeitet längst daran.

Rheinmetall etwa hat inzwischen ein neues Produkt im Angebot. Ein unbemanntes Fahrzeug, das teilweise autonom fahren und auch Waffen tragen kann. Und das ist nur der Anfang. Gleich mehrere Großprojekte stehen an. Gerade erst haben Deutschland und Frankreich etwa ein gemeinsames Megaprojekt beschlossen: Das Future Combat Air System. Die Idee: Ein Kampfflugzeug, das von mehreren Drohnen begleitet wird. Diese sollen weitgehend autonom Aufträge erledigen, etwa gegnerische Ziele ausschalten. Gesteuert von KI, also künstlicher Intelligenz.

Jürgen Schmidhuber, Informatiker: „In der nahen Zukunft wird keine KI entscheiden, ob es Krieg gibt, das werden menschliche Politiker tun. Aber lokal in irgendwelchen Konflikten werden natürlich Maschinen zum Einsatz kommen, die sehr schnell irgendwelche möglicherweise tödlichen Entscheidungen treffen.“

Und die Entwicklung wird weitergehen. Künstliche Intelligenz wird die Zukunft prägen, vielleicht mehr, als wir uns vorstellen können. Gerade die großen Tech-Konzerne treiben die Forschung voran, auch im Auftrag des Militärs. Google etwa. Der Konzern erhält vom US-Verteidigungsministerium Milliarden für eine Software, die Aufnahmen von Spionagedrohnen analysiert. Mit Hilfe von Algorithmen filtert die Software Stützpunkte, Fahrzeuge oder Feindbewegungen heraus. Daten, die die Grundlage für militärische Entscheidungen sind. Entscheidungen, die irgendwann Maschinen autonom treffen könnten.

Frank Sauer, Politikwissenschaftler, Universität der Bundeswehr: „Und wenn man sich jetzt vor Augen hält, dass man Waffensysteme hat, die von Algorithmen gesteuert werden, die sich gegenseitig belauern im Pazifik, sagen wir mal chinesische und amerikanische Systeme, und dass da irgendetwas Unvorhergesehenes passiert, dann kann es tatsächlich sein, dass die Streitkräfte zweier Länder sich in einem Krieg miteinander befinden, ohne dass es überhaupt auf eine menschliche Entscheidung zurückzuführen ist.“

Die Frage ist längst nicht mehr, ob Maschinen über Leben und Tod entscheiden. Das können sie bereits. Die Frage ist, ob wir zulassen, dass sie über Krieg und Frieden entscheiden. Führen mögen diesen Krieg dann Maschinen. Die Opfer werden Menschen sein.