Bereits 2023 hatten führende KI-Experten, darunter Sam Altman, Chef des ChatGPT-Erfinders OpenAI - vor einer "Auslöschung der Menschheit" durch Künstliche Intelligenz (KI) gewarnt. Sandra Wachter, KI-Forscherin und Professorin von der Universität Oxford, bezeichnete das damals als "PR-Aktion".
Nun haben Forscher diese Warnung im renommierten Wissenschaftsmagazin "Science" wiederholt. Professor Kristian Kersting von der TU Darmstadt hält dies für "absurd".
Wie könnte KI die Menschheit auslöschen?
Die Verfasser des Science-Artikels, die Kersting ausdrücklich als "sehr respektierte Kollegen" bezeichnet, werden recht konkret, was das Auslöschungs-Potenzial von KI angeht. So könnten autonome Systeme etwa die Kontrolle über Waffensysteme, darunter auch biologische Waffen, übernehmen. Eine "Auslöschung der Menschheit" sei denkbar, wenn der Mensch die Kontrolle über solche Systeme verliere.
Wir haben andere intelligente Systeme, die schon viel Schlimmeres anstellen - nämlich den Menschen. Professor Kristian Kersting von der TU Darmstadt
Die Forscher nennen zudem Cyberattacken in großem Maßstab, gesellschaftliche Manipulation und allgegenwärtige Überwachung als - vergleichsweise harmlosere - Risiken. KI-Forscher Kersting kann diesen Szenarien nicht viel abgewinnen.
"Das ist ein bisschen sehr schwarz gemalt, wenn wir jetzt darüber reden, dass vielleicht irgendwann einmal ein mögliches System, das wir uns alle noch gar nicht richtig vorstellen können, irgendwas Schlimmes anstellt." Man sollte sich mehr um das "Hier und Jetzt" kümmern.
Die Forscher im Science-Artikel räumen ein, dass sie nicht wissen, welches Potenzial KI in Zukunft wirklich entfalten wird. Es bestehe aber die Möglichkeit, dass solche Systeme menschliche Fähigkeiten in vielen "kritischen Bereichen" übertreffen werden.
Wann könnte KI zu einer Bedrohung werden?
Diese Entwicklung sei bereits in diesem oder dem nächsten Jahrzehnt möglich, heißt es in dem Artikel. Die Experten weisen auf die schnelle Entwicklung der KI hin und beklagen gleichzeitig die geringe Beachtung, die der Schutz vor ungewollten oder gar gefährlichen Auswüchsen künstlicher Intelligenz bekommt. So beschäftigten sich etwa nur ein bis drei Prozent der Veröffentlichungen zum Thema KI mit ihrer "Sicherheit".
Kersting sieht den Zeitrahmen für eine bedrohliche KI deutlich entspannter: "Ich glaube nicht, dass ich die in meinem Leben noch erleben werde. " Es gehe um "allmächtige" Systeme, und das sei "schwer zu erreichen".
Blicke man auf aktuelle KI-Systeme, bewege man sich auf einem sehr "instabilen" Niveau - eher auf dem einer Katze als auf einem "übermorgen geht die Welt zugrunde durch ein allwissendes System".
Das bestätigt der freie Tech-Journalist Gregor Schmalzried, Host eines KI-Podcasts beim Bayerischen Rundfunk: Aktuelle KI-Systeme "sind meilenweit entfernt von einer Super-KI, die wirklich zur Bedrohung für die Menschheit werden könnte. Das ist auch keine kontroverse Meinung. Da sind wir noch nicht. Das ist wirkliche eine sehr aktuell theoretische Sorge."
Die viel aktuellere Herausforderung sei der Schutz vor Fehlinformationen durch KI-generierte Inhalte. Da seien Gesellschaft und professionelle Nachrichtenanbieter gefordert, sagt Kersting. Seine gute Nachricht für alle, die KI wegen der Verbreitung von Desinformationen als Bedrohung empfinden: "Konsistenten Dialog zu führen, ist sehr schwierig." Da sei der Mensch deutlich überlegen.
Welche Chancen eröffnet Künstliche Intelligenz?
Um das positive Potenzial der KI auszuschöpfen, müsse der Mensch die Entscheidungen über ihren Einsatz treffen. In der Medizin etwa könne KI "Leben retten". Dabei verweist Kersting auch auf den Schutz durch einen rechtlichen Rahmen, den auch der Mensch festlege.
Letztlich trägt der Mensch die Verantwortung dafür, dass sich autonome KI-Systeme in der Zukunft nicht - wie von den Verfassern des Science-Artikels befürchtet - seiner Kontrolle entziehen.
Dann sind sie nach allem, was sich derzeit abzeichnet, eher Lebensretter als potenzielle "Auslöscher der Menschheit": Bei Operationen oder der Patientenüberwachung in Krankenhäusern zeigen sie ihre gute Seite.