Im Zentrum der Entwicklung der KI scheint das Streben nach Perfektion zu stehen. Und es könnte für die Menschheit genauso gefährlich sein wie das, was aus philosophischen und pseudowissenschaftlichen Ideen des 19. und frühen 20. Jahrhunderts hervorging und zu den Schrecken des Kolonialismus, des Weltkriegs und des Holocaust führte. Anstelle einer von Menschen herrschenden „Herrenrasse“ könnten wir am Ende eine maschinelle herrschen.

Wenn dies extrem erscheint, denken Sie an den menschenfeindlichen Perfektionismus, der auf dem Arbeitsmarkt bereits von zentraler Bedeutung ist. Hier ist die KI-Technologie der nächste Schritt auf dem Weg zu maximaler Produktivität, der die individuelle Handwerkskunst durch die Fabrikproduktionslinie ersetzt hat. Diese massiven Veränderungen in der Produktivität und der Art und Weise, wie wir arbeiten, haben Chancen und Risiken geschaffen, die nun durch eine „vierte industrielle Revolution” in dem KI weiterhin menschliche Arbeitskräfte ersetzt.

. aktuelle Forschungsarbeiten prognostizieren, dass die Automatisierung innerhalb eines Jahrzehnts die Hälfte der derzeitigen Arbeitsplätze ersetzen wird. Zumindest bei diesem Übergang zu einer neuen digitalisierten Wirtschaft werden also viele Menschen ihre Lebensgrundlage verlieren. Selbst wenn wir davon ausgehen, dass diese neue industrielle Revolution eine neue Arbeitskraft hervorbringen wird, die in der Lage ist, sich in dieser von Daten dominierten Welt zurechtzufinden und sie zu beherrschen, werden wir dennoch mit großen sozioökonomischen Problemen konfrontiert sein. Die Störungen werden immens sein und müssen unter die Lupe genommen werden.

Das ultimative Ziel der KI, selbst der eingeschränkten KI, die sehr spezifische Aufgaben übernimmt, besteht darin, jede menschliche kognitive Funktion zu übertreffen und zu perfektionieren. Letztendlich könnten maschinelle Lernsysteme durchaus so programmiert sein, dass sie in allen Bereichen besser sind als Menschen.

Was sie jedoch möglicherweise nie entwickeln, ist die menschliche Note – Empathie, Liebe, Hass oder eine der anderen selbstbewussten Emotionen, die uns menschlich machen. Es sei denn, wir schreiben ihnen diese Gefühle zu, was ja der Fall ist einige von uns tun es bereits mit unseren „Alexas“ und „Siris“.

Produktivität vs. menschliche Note

Die Besessenheit von Perfektion und „Hypereffizienz“ hat tiefgreifende Auswirkungen auf die menschlichen Beziehungen, sogar auf die menschliche Fortpflanzung, da die Menschen ihr Leben in abgeschiedenen, virtuellen Realitäten leben, die sie selbst geschaffen haben. Beispielsweise haben mehrere in den USA und China ansässige Unternehmen Roboterpuppen hergestellt, die als Ersatzpartner schnell ausverkauft sind.

Sogar ein Mann in China heiratete seine Cyber-Puppe, während eine Frau in Frankreich „heiratete“ einen „Robo-Mann“, bewarb ihre Liebesgeschichte als eine Form der „Robo-Sexualität“ und setzte sich für die Legalisierung ihrer Ehe ein. „Ich bin wirklich und total glücklich“, sagte sie. „Unsere Beziehung wird mit der Weiterentwicklung der Technologie immer besser.“ Dort scheint zu sein hohe Nachfrage nach Roboterfrauen und -männern auf der ganzen Welt.

In der vollkommen produktiven Welt würden Menschen als wertlos angesehen, sicherlich im Hinblick auf die Produktivität, aber auch im Hinblick auf unsere schwache Menschlichkeit. Wenn wir diese perfektionistische Lebenseinstellung, die Produktivität und „materielles Wachstum“ über Nachhaltigkeit und individuelles Glück stellt, nicht über Bord werfen, könnte die KI-Forschung eine weitere Kette in der Geschichte selbstzerstörerischer menschlicher Erfindungen sein.

Wir erleben bereits Diskriminierung bei algorithmischen Berechnungen. Vor kurzem ein beliebter Der südkoreanische Chatbot Lee Luda wurde offline genommen. „Sie“ war der Rolle einer 20-jährigen Universitätsstudentin nachempfunden und wurde aus dem Facebook-Messenger entfernt, nachdem sie Hassreden gegenüber LGBT-Personen verwendet hatte.

Mittlerweile tragen automatisierte, auf Töten programmierte Waffen Maximen wie „Produktivität“ und „Effizienz“ in die Schlacht. Dadurch ist der Krieg nachhaltiger geworden. Die Verbreitung von Drohnenkriegen ist ein sehr anschauliches Beispiel für diese neuen Konfliktformen. Sie erschaffen eine virtuelle Realität, die für uns nahezu unerreichbar ist.

Aber es wäre komisch, KI als unvermeidlichen Orwellschen Albtraum einer Armee superintelligenter „Terminatoren“ darzustellen, deren Mission es ist, die Menschheit auszulöschen. Solche dystopischen Vorhersagen sind zu grob, um das Wesentliche der künstlichen Intelligenz und ihrer Auswirkungen auf unser tägliches Leben zu erfassen.

Gesellschaften können von KI profitieren, wenn sie im Hinblick auf nachhaltige wirtschaftliche Entwicklung und menschliche Sicherheit entwickelt wird. Der Zusammenfluss von Macht und KI, der beispielsweise Kontroll- und Überwachungssysteme, sollte nicht das Versprechen einer humanisierten KI ersetzen, die maschinelle Lerntechnologie in den Dienst des Menschen stellt und nicht umgekehrt.

Zu diesem Zweck müssen die KI-Mensch-Schnittstellen, die sich beispielsweise in Gefängnissen, im Gesundheitswesen, in der Regierung, in der sozialen Sicherheit und bei der Grenzkontrolle schnell öffnen, so reguliert werden, dass Ethik und menschliche Sicherheit Vorrang vor institutioneller Effizienz haben. Die Sozial- und Geisteswissenschaften haben eine viel zu sagen über solche Themen.

Grund zur Freude ist die Wahrscheinlichkeit, dass KI niemals ein Ersatz für menschliche Philosophie und Intellektualität sein wird. Um Philosoph zu sein, braucht man schließlich Empathie, ein Verständnis für die Menschheit und unsere angeborenen Gefühle und Motive. Wenn wir unsere Maschinen so programmieren können, dass sie solche ethischen Standards verstehen, dann hat die KI-Forschung die Fähigkeit, unser Leben zu verbessern, was das ultimative Ziel jedes technologischen Fortschritts sein sollte.

Aber wenn die KI-Forschung eine neue Ideologie hervorbringt, die sich auf die Vorstellung von Perfektionismus und maximaler Produktivität konzentriert, dann wird sie eine zerstörerische Kraft sein, die zu mehr Kriegen, mehr Hungersnöten und mehr sozialer und wirtschaftlicher Not, insbesondere für die Armen, führen wird. An diesem Wendepunkt der globalen Geschichte liegt diese Wahl immer noch bei uns.

Über den Autor

Arshin Adib-Moghaddam, Professor für globales Denken und vergleichende Philosophien, SOAS, Universität von London

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.