Killer-Roboter: Töten ohne Gewissen?

MONITOR vom 17.05.2018

Killer-Roboter: Töten ohne Gewissen?

Bericht: Jochen Taßler, Barbara Schmickler

Kommentare zum Thema und der Beitragstext als PDF

Georg Restle: „Sollte es tatsächlich zum Krieg gegen Iran kommen, dürfte sich dieser Krieg deutlich unterscheiden vom Einmarsch US-amerikanischer Truppen im Irak vor 15 Jahren. Denn die Kriege von heute werden mit ganz anderen Waffen geführt. Und die von morgen erst recht. Nicht weniger tödlich, dafür immer autonomer. Das heißt, die Entscheidung über Leben und Tod treffen diese Waffen ganz alleine. Wer die „intelligentesten Waffen“ hat, heißt es, gewinnt die Kriege der Zukunft. Und längst schon hat im Geheimen ein ganz neues Wettrüsten begonnen, an dem auch deutsche Rüstungskonzerne beteiligt sind. Jochen Taßler und Barbara Schmickler über das kriegerische Potenzial von künstlicher Intelligenz - und die Folgen.“

Die Zukunft hat begonnen, Maschinen übernehmen das Schlachtfeld. Hochgerüstet mit Sensoren, gesteuert von künstlicher Intelligenz, also von Computern, die immer intelligenter werden. Sie treffen immer mehr Entscheidungen selbst. Präzise, unermüdlich, ohne Risiko für die eigenen Soldaten. Die Maschinen fahren, erkunden oder zielen selbständig.

Die amerikanische X-47B-Drohne etwa kann bereits von einem Flugzeugträger starten und dort landen. Eine der anspruchsvollsten Übungen für Kampfpiloten. Die X-47B braucht keinen mehr. In Israel patrouillieren bereits autonom arbeitende Grenzroboter, und weltweit arbeiten Wissenschaftler an den intelligenten Maschinen der Zukunft. Roboter, die sich selbständig bewegen - egal wo. Und die Tag für Tag dazulernen. Noch sind es harmlose Prototypen, aber das Geld für ihre Entwicklung kommt auch vom Militär. Was, wenn diese Maschinen in Serie produziert werden? Und Waffen tragen?

Jürgen Schmidhuber ist Informatiker, und einer der führenden Forscher im Bereich künstliche Intelligenz, ein Pionier. Jedes moderne Smartphone arbeitet mit Technologie, die er mit entwickelt hat. Heute baut er in seinem Labor Roboter, die selbständig dazulernen können. Er sieht viel Potenzial in künstlicher Intelligenz. Aber bei der militärischen Nutzung mahnt er - wie viele Wissenschaftler - zu Vorsicht.

Jürgen Schmidhuber, Informatiker: „Wir sind in einem Wettrüsten, schon seit geraumer Zeit, auch wenn es nicht sehr bekannt ist. Aber natürlich haben die Generäle in China Angst davor, dass die Amerikaner etwas machen, was sie selbst nicht mehr machen, das heißt, sie werden nicht die Forschung in diesem Bereich stoppen. Dasselbe gilt für die Russen und Israelis.“

Es ist ein Milliarden-Wettbewerb. Die USA haben schon seit 2016 einen Entwicklungsplan für künstliche Intelligenz und investieren immense Summen. China hat angekündigt, bis 2025 führend auf dem Gebiet werden zu wollen. Und Russlands Präsident Putin sagte erst im vergangenen Jahr, wer in diesem Bereich die Führung übernehme, werde die Welt beherrschen. Und das ist durchaus wörtlich zu verstehen. Denn viele Ergebnisse der Forschungsprogramme können und sollen auch militärisch genutzt werden.

Frank Sauer, Politikwissenschaftler, Universität der Bundeswehr: „Sinn und Zweck dieses gesamten Rüstens hin zu mehr und mehr Autonomie in Waffensystemen ist, einen Wettlauf um mehr Geschwindigkeit. Also, es geht darum, das Finden, Fixieren, Verfolgen, Selektieren und Bekämpfen von Zielen so weit wie möglich automatisch ablaufen zu lassen, ohne dass der langsame Mensch daran noch beteiligt ist, um einen militärtaktischen Vorteil daraus zu haben.“

Wie soll der beste Pilot in Zukunft mit Drohnen mithalten, die Informationen viel schneller verarbeiten als er? Soldaten ziehen sich vom Schlachtfeld zurück. Der US-Drohnenkrieg zeigt schon seit Jahren die Richtung. Der Mensch entscheidet nur noch aus der Distanz, und selbst das muss er nicht mehr zwingend. Die israelische Harop ist eine Kamikaze-Drohne. Sie verfügt bereits über einen Vollautomatik-Modus. Damit kann sie Ziele finden, erfassen und eigenständig zerstören.

Frank Sauer, Politikwissenschaftler, Universität der Bundeswehr: „Der Handlungsbedarf besteht jetzt, denn die Technologie ist eigentlich schon in der Welt. Es ist also keine Diskussion um irgendwelche Zukunftstechnologien, die vielleicht in fünf oder zehn oder 20 Jahren uns ins Haus stehen, sondern die Komponenten sind alle da, man muss sie nur so zusammensetzen, dass man am Ende tatsächlich mit autonomen Waffensystemen endet.“

Letzten Monat bei der UN in Genf. Eine Konferenz zu tödlichen, autonomen Waffensystemen. Experten fordern hier, solche Waffen zu ächten. Auch die Bundesregierung setzt sich dafür ein. Gleichzeitig aber will sie Innovationsmotor im Bereich der künstlichen Intelligenz sein. Und auch die deutsche Rüstungsindustrie will mitmischen im Geschäft der Zukunft, sie arbeitet längst daran.

Rheinmetall etwa hat inzwischen ein neues Produkt im Angebot. Ein unbemanntes Fahrzeug, das teilweise autonom fahren und auch Waffen tragen kann. Und das ist nur der Anfang. Gleich mehrere Großprojekte stehen an. Gerade erst haben Deutschland und Frankreich etwa ein gemeinsames Megaprojekt beschlossen: Das Future Combat Air System. Die Idee: Ein Kampfflugzeug, das von mehreren Drohnen begleitet wird. Diese sollen weitgehend autonom Aufträge erledigen, etwa gegnerische Ziele ausschalten. Gesteuert von KI, also künstlicher Intelligenz.

Jürgen Schmidhuber, Informatiker: „In der nahen Zukunft wird keine KI entscheiden, ob es Krieg gibt, das werden menschliche Politiker tun. Aber lokal in irgendwelchen Konflikten werden natürlich Maschinen zum Einsatz kommen, die sehr schnell irgendwelche möglicherweise tödlichen Entscheidungen treffen.“

Und die Entwicklung wird weitergehen. Künstliche Intelligenz wird die Zukunft prägen, vielleicht mehr, als wir uns vorstellen können. Gerade die großen Tech-Konzerne treiben die Forschung voran, auch im Auftrag des Militärs. Google etwa. Der Konzern erhält vom US-Verteidigungsministerium Milliarden für eine Software, die Aufnahmen von Spionagedrohnen analysiert. Mit Hilfe von Algorithmen filtert die Software Stützpunkte, Fahrzeuge oder Feindbewegungen heraus. Daten, die die Grundlage für militärische Entscheidungen sind. Entscheidungen, die irgendwann Maschinen autonom treffen könnten.

Frank Sauer, Politikwissenschaftler, Universität der Bundeswehr: „Und wenn man sich jetzt vor Augen hält, dass man Waffensysteme hat, die von Algorithmen gesteuert werden, die sich gegenseitig belauern im Pazifik, sagen wir mal chinesische und amerikanische Systeme, und dass da irgendetwas Unvorhergesehenes passiert, dann kann es tatsächlich sein, dass die Streitkräfte zweier Länder sich in einem Krieg miteinander befinden, ohne dass es überhaupt auf eine menschliche Entscheidung zurückzuführen ist.“

Die Frage ist längst nicht mehr, ob Maschinen über Leben und Tod entscheiden. Das können sie bereits. Die Frage ist, ob wir zulassen, dass sie über Krieg und Frieden entscheiden. Führen mögen diesen Krieg dann Maschinen. Die Opfer werden Menschen sein.

Stand: 15.05.2018, 14:25

Kommentare zum Thema

Kommentar schreiben

*Pflichtfelder

Die Kommentartexte sind auf 1.000 Zeichen beschränkt!

Regeln fürs Kommentieren

Sie sind schlauer als Spam-Automaten. Bitte antworten Sie auf folgende Frage:

Welcher Wochentag kommt nach Samstag?

Warum stellt das Erste diese Fragen?

10 Kommentare

  • 10 Miriam S 22.05.2018, 13:12 Uhr

    "Roboter sind bessere Soldaten als Menschen ... " toll, unsre Entwicklung...meine Frage nur: ob durch Roboter oder Soldat, ... ob der Ermordete danach fragt, welcher Mörder ihm lieber war? Wie kann man nur solche Entwicklungen gut heißen??? Ich meine schon, der Mensch hat großartige Gebilde geschaffen; aber an der Stelle, wo es ihm um Waffen geht, ist er kein Mensch mehr, sondern ein UNMENSCH und das seit er ein Werkzeug einsetzte um Seinesgleichen zu töten. "Der Mensch ist das einzige Lebewesen, das seine eigene Art von der Erde zu vertilgen vermag "

  • 9 WA 21.05.2018, 11:50 Uhr

    es ist erschreckend, wie wenig die Menschheit, ihre kulturellen Ideen reflektiert. Wie schon in einem Kommentar angesprochen ein sehr extremer Film "Terminator", zum autonomen Kampf von Maschinen oder auch die Vorgeschichte zu "Dune - Der Wüstenplanet" oder an unsere Startrek - Jünger die Episode Der Waffenhändler in TNG... usw. Manchmal könnte man glauben die Welt wäre besser dran ohne die überragende Menschheit :(

  • 8 Barbarossa 19.05.2018, 21:58 Uhr

    Roboter sind bessere Soldaten als Menschen ...

  • 7 prophet 18.05.2018, 20:47 Uhr

    Fürchtet euch nicht, denn das Ende ist nah!

  • 6 Philipp 18.05.2018, 06:59 Uhr

    Endlich können Soldaten durch Roboter ersetzt werden. Die UN könnte den Einsatz von Menschen auf dem Schlachtfeld generell verbieten. Es macht Sinn gefährliche Jobs durch Roboter zu ersetzen. Länder welche trotzdem noch Menschen als Soldaten ausbilden müssen boykottiert werden. Alle Länder welche mit solchen Ländern Handel treiben verlieren jegliche internationalen Rechte, werden aufgelöst und ihr Territorium wird an die umliegenden Länder versteigert. ??

  • 5 Klaus 17.05.2018, 22:13 Uhr

    Alles nur Science Fiction, zur Zeit. Es gibt sehr moderne Waffen und Trägersysteme, aber alle haben gemeinsam, daß sie nur hoch automatisiert sind. Alle Entscheidungen über den tödlichen Einsatz treffen Soldaten / Menschen. Und die international Gemeinschaft will alles andere auch nicht zulassen. Siehe auch GGE im April in Genf.

  • 4 Gabriela 17.05.2018, 22:09 Uhr

    Also, gehen die meisten davon aus dass ein Leben ohne Krieg auch in Zukunft nicht möglich ist?

  • 3 K. Schöllhammer 17.05.2018, 22:06 Uhr

    Nicht die Maschinen töten, sondern Derjenige, der den Algorythmus programiert hat. KI ist im Moment noch nichts mehr als nur Rechenleistung.

  • 2 Miriam 17.05.2018, 22:04 Uhr

    Erinnern wir uns an die Science-Fiction aus den 80er und 90er ... Terminator....der Kampf der Maschinen!!! Und heute ist es soweit! Damals wurde es belächelt

  • 1 Miriam S 17.05.2018, 09:10 Uhr

    schon vor ziemlich langer Zeit wurde darauf aufmerksam gemacht, dass der Krieg der Zukunft ein "cyber war" würde und dass die Aufrüstung mit konventionellen Waffen unsinnig sei; aber man verschleuderte weiter die "Ressourcen" Aktuell fehlen uns vor allem kluge Köpfe, die uns zeigen können, welche Algorithmen Entwicklungen fördern könnten um friedlich miteinander um zu gehen. Wo ist das Startup , das sie entwickelt??? Die Jugend ist gefragt !