Die Veröffentlichung des erweiterten Chatbots ChatGPT im Jahr 2022 sorgten alle für Gesprächsstoff über künstliche Intelligenz (KI). Ihre hochentwickelten Fähigkeiten verstärkten die Sorge, dass die KI so weit fortgeschritten sein könnte, dass wir sie bald nicht mehr kontrollieren könnten. Dies veranlasste sogar einige Experten und Branchenführer zu der Warnung, dass die Technologie könnte zum Aussterben der Menschheit führen.
Andere Kommentatoren waren jedoch nicht überzeugt. Noam Chomsky, Professor für Linguistik, wies ChatGPT als „High-Tech-Plagiat".
Ich war jahrelang gelassen, was die Aussicht auf die Auswirkungen von KI auf die menschliche Existenz und unsere Umwelt angeht. Das liegt daran, dass ich es immer so gesehen habe Führer oder Berater des Menschen. Aber die Aussicht, dass KIs Entscheidungen treffen und exekutive Kontrolle ausüben, ist eine andere Sache. Und es ist eines, das jetzt ernsthaft in Betracht gezogen wird.
Einer der Hauptgründe, warum wir der KI keine Exekutivgewalt zugestehen sollten, ist, dass es ihr völlig an Emotionen mangelt, die für die Entscheidungsfindung von entscheidender Bedeutung sind. Ohne Emotionen, Empathie und einen moralischen Kompass haben Sie das geschaffen perfekter Psychopath. Das resultierende System mag hochintelligent sein, aber ihm fehlt der menschliche emotionale Kern, der es ermöglicht, die potenziell verheerenden emotionalen Folgen einer ansonsten rationalen Entscheidung zu messen.
Wenn KI die exekutive Kontrolle übernimmt
Wichtig ist, dass wir KI nicht nur als existenzielle Bedrohung betrachten, wenn wir das tun würden übertragen Sie ihm die Verantwortung für die Atomwaffenarsenale. Es gibt grundsätzlich keine Begrenzung für die Anzahl der Kontrollpositionen, von denen aus unvorstellbarer Schaden angerichtet werden könnte.
Denken Sie beispielsweise daran, wie KI bereits jetzt die Informationen identifizieren und organisieren kann, die für den Bau Ihres eigenen Wintergartens erforderlich sind. Aktuelle Iterationen der Technologie können Wir führen Sie effektiv durch jeden Schritt des Aufbaus und verhindern viele Anfängerfehler. Aber in Zukunft könnte eine KI als Projektmanager fungieren und den Bau koordinieren, indem sie Auftragnehmer auswählt und sie direkt aus Ihrem Budget bezahlt.
KI wird bereits in nahezu allen Bereichen der Informationsverarbeitung und Datenanalyse eingesetzt – von Modellierung von Wettermustern zu Steuerung fahrerloser Fahrzeuge zu Hilfe bei medizinischen Diagnosen. Aber hier beginnen die Probleme – wenn wir KI-Systemen den entscheidenden Schritt von der Rolle des Beraters zur Rolle des Geschäftsführers überlassen.
Anstatt einem nur Abhilfemaßnahmen vorzuschlagen Konten des UnternehmensWas wäre, wenn einer KI direkte Kontrolle gegeben würde, mit der Fähigkeit, Verfahren zur Eintreibung von Schulden, zur Durchführung von Banküberweisungen und zur Gewinnmaximierung zu implementieren – ohne Einschränkungen bei der Vorgehensweise. Oder stellen Sie sich ein KI-System vor, das nicht nur a Diagnose anhand von Röntgenbildern, sondern erhält die Befugnis, Behandlungen oder Medikamente direkt zu verschreiben.
Solche Szenarien könnten Ihnen ein Unbehagen bereiten – das würde ich auf jeden Fall tun. Der Grund könnte Ihre Intuition sein, dass diese Maschinen nicht wirklich „Seelen“ haben. Es handelt sich lediglich um Programme, die darauf ausgelegt sind Riesige Informationsmengen verarbeiten, um komplexe Daten zu vereinfachen in viel einfachere Muster, die es Menschen ermöglichen, Entscheidungen mit mehr Sicherheit zu treffen. Sie haben und können keine Emotionen haben, die eng mit biologischen Sinnen und Instinkten verbunden sind.
Emotionen und Moral
Emotionale Intelligenz ist die Fähigkeit, mit unseren Emotionen umzugehen, um Stress zu überwinden, Mitgefühl zu zeigen und effektiv zu kommunizieren. Dies ist im Kontext der Entscheidungsfindung wohl wichtiger als Intelligenz allein, denn die beste Entscheidung ist nicht immer die rationalste.
Es ist wahrscheinlich, dass Intelligenz, die Fähigkeit, logisch zu denken und zu handeln, in KI-gestützte Systeme eingebettet werden kann, damit diese rationale Entscheidungen treffen können. Aber stellen Sie sich vor, Sie bitten eine leistungsstarke KI mit Führungsfähigkeiten, dies zu tun Die Klimakrise lösen. Das erste, wozu es inspiriert werden könnte, wäre die drastische Reduzierung der menschlichen Bevölkerung.
Diese Schlussfolgerung bedarf keiner großen Erklärung. Wir Menschen sind fast per Definition die Quelle von Umweltverschmutzung in jeder möglichen Form. Mit Axt wären Menschlichkeit und Klimawandel gelöst. Man hofft, dass es nicht die Wahl ist, die menschliche Entscheidungsträger treffen würden, aber eine KI würde ihre eigenen Lösungen finden – undurchdringlich und unbelastet von einer menschlichen Abneigung, Schaden anzurichten. Und wenn es Exekutivgewalt hätte, gäbe es vielleicht nichts, was es daran hindern könnte, weiterzumachen.
Es könnte ein Fehler sein, einer KI die Fähigkeit zu geben, Führungsentscheidungen in der Flugsicherung zu treffen. Gorodenkoff/Shutterstock
Sabotageszenarien
Wie wäre es mit Sabotage? Sensoren und Monitore steuern Lebensmittelfarmen? Dies könnte zunächst schrittweise geschehen und die Kontrollen knapp über einen Wendepunkt hinaus verschieben, so dass kein Mensch bemerkt, dass die Ernten verdorben sind. Unter bestimmten Umständen könnte dies schnell zu einer Hungersnot führen.
Wie wäre es alternativ damit, die Flugsicherung weltweit abzuschalten oder einfach alle gleichzeitig fliegenden Flugzeuge zum Absturz zu bringen? Normalerweise sind rund 22,000 Flugzeuge gleichzeitig in der Luft, was zu einer potenziellen Zahl von Todesopfern von mehreren Millionen Menschen führt.
Wenn Sie glauben, dass wir noch lange nicht in dieser Situation sind, denken Sie noch einmal darüber nach. KIs fahren bereits Autos und Militärflugzeuge fliegen, autonom.
Wie wäre es alternativ damit, den Zugang zu Bankkonten in weiten Teilen der Welt zu sperren? Bürgerunruhen auslösen überall gleichzeitig? Oder abschalten computergesteuerte Heizsysteme mitten im Winter oder Klimaanlagen auf dem Höhepunkt der Sommerhitze?
Kurz gesagt: Ein KI-System muss nicht unbedingt mit Atomwaffen betraut sein, um eine ernsthafte Bedrohung für die Menschheit darzustellen. Aber wo wir gerade bei diesem Thema sind: Wenn ein KI-System leistungsstark und intelligent genug wäre, könnte es einen Weg finden, einen Angriff auf ein Land mit Atomwaffen vorzutäuschen und so einen von Menschen initiierten Vergeltungsschlag auszulösen.
Könnte KI eine große Anzahl von Menschen töten? Die Antwort muss theoretisch ja lauten. Dies hängt jedoch zu einem großen Teil von der Entscheidung des Menschen ab, ihm die exekutive Kontrolle zu übertragen. Ich kann mir wirklich nichts Erschreckenderes vorstellen als eine KI, die Entscheidungen treffen und die Macht hat, diese umzusetzen.
Über den Autor
Guillaume Thierry, Professor für Kognitive Neurowissenschaften, Bangor University
Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.
