Wie künstliche Intelligenz der Traum eines Totalitären ist Shutterstock.

Individualistische westliche Gesellschaften bauen auf der Idee auf, dass niemand unsere Gedanken, Wünsche oder Freuden besser kennt als wir. Und so geben wir uns und nicht die Regierung die Verantwortung für unser Leben. Wir neigen dazu, dem Philosophen zuzustimmen Immanuel Kants Behauptung dass niemand das Recht hat, uns seine Vorstellung vom guten Leben aufzuzwingen.

Künstliche Intelligenz (KI) wird dies ändern. Es wird uns besser kennen als wir uns selbst. Eine mit KI bewaffnete Regierung könnte behaupten zu wissen, was ihre Leute wirklich wollen und was sie wirklich glücklich macht. Im besten Fall wird dies zur Rechtfertigung des Paternalismus, im schlimmsten Fall des Totalitarismus verwendet.

Jede Hölle beginnt mit einem Versprechen des Himmels. KI-geführter Totalitarismus wird nicht anders sein. Freiheit wird zum Gehorsam gegenüber dem Staat. Nur die Irrationalen, Boshaften oder Subversiven könnten ihren eigenen Weg wählen wollen.

Um eine solche Dystopie zu verhindern, dürfen wir nicht zulassen, dass andere mehr über uns selbst wissen als wir. Wir können keine Selbsterkennungslücke zulassen.

Die allsehende KI

Im Jahr 2019 behauptete der Milliardär Peter Thiel, AI sei „buchstäblich kommunistisch”. Er wies darauf hin, dass die KI einer Zentralisierungsmacht ermöglicht, die Bürger zu überwachen und mehr über sie zu wissen, als sie über sich selbst wissen. China, bemerkte Thiel, hat AI eifrig angenommen.


Innerself-Abonnieren-Grafik


Wir kennen bereits das Potenzial von AI Unterstützung des Totalitarismus durch Bereitstellung eines orwellschen Überwachungs- und Kontrollsystems. KI gibt Totalitariern aber auch eine philosophische Waffe. Solange wir uns besser kannten als die Regierung, konnte der Liberalismus aufstrebende Totalitaristen in Schach halten.

Aber die KI hat das Spiel verändert. Große Technologieunternehmen sammeln riesige Datenmengen über unser Verhalten. Algorithmen für maschinelles Lernen verwenden diese Daten, um nicht nur zu berechnen, was wir tun werden, sondern wer wir sind.

Heute, KI kann vorhersagen Welche Filme werden wir mögen, welche Neuigkeiten werden wir lesen wollen und wen wir auf Facebook befreundet haben wollen. Es kann vorhersagen, ob Paare bleiben zusammen und wenn wir wollen Selbstmordversuch. Von unseren Facebook-Likes, KI kann vorhersagen unsere religiösen und politischen Ansichten, Persönlichkeit, Intelligenz, Drogenkonsum und Glück.

Die Genauigkeit der Vorhersagen der KI wird sich nur verbessern. In nicht allzu ferner Zukunft als Schriftsteller Yuval Noah Harari hat vorgeschlagen, KI kann uns sagen, wer wir sind, bevor wir selbst wissen.

Diese Entwicklungen haben seismische politische Implikationen. Wenn Regierungen uns besser kennen als wir können, eröffnet sich eine neue Rechtfertigung für Eingriffe in unser Leben. Sie werden uns im Namen unseres eigenen Wohls tyrannisieren.

Freiheit durch Tyrannei

Der Philosoph Jesaja Berlin sah dies 1958 voraus. Er identifizierte zwei Arten von Freiheit. Ein Typ, warnte er, würde zur Tyrannei führen.

Negative Freiheit ist „Freiheit von“. Es ist frei von der Einmischung anderer Menschen oder der Regierung in Ihre Angelegenheiten. Negative Freiheit bedeutet, dass niemand sonst Sie zurückhalten kann, solange Sie nicht die Rechte anderer verletzen.

Positive Freiheit ist dagegen „Freiheit zu“. Es ist die Freiheit, Herr über sich selbst zu sein, die Freiheit, Ihre wahren Wünsche zu erfüllen, die Freiheit, ein rationales Leben zu führen. Wer würde das nicht wollen?

Aber was ist, wenn jemand anderes sagt, dass Sie nicht in Ihrem „wahren Interesse“ handeln, obwohl er weiß, wie Sie es könnten? Wenn Sie nicht zuhören, können sie zwinge dich, frei zu sein - Sie zu Ihrem „eigenen Wohl“ zwingen. Dies ist eine der gefährlichsten Ideen, die jemals entwickelt wurden. Es hat zig Millionen Menschen in getötet Stalins Sowjetunion und Maos China.

Der russische kommunistische Führer Lenin soll gesagt haben, die Kapitalisten würden ihm das Seil verkaufen, mit dem er sie aufhängen würde. Peter Thiel hat argumentiert dass in der KI kapitalistische Technologiefirmen aus dem Silicon Valley dem Kommunismus ein Werkzeug verkauft haben, das die demokratische kapitalistische Gesellschaft zu untergraben droht. KI ist Lenins Seil.

Für uns selbst kämpfen

Wir können eine solche Dystopie nur verhindern, wenn niemand uns besser kennen darf als wir selbst. Wir dürfen niemals jemanden sentimentalisieren, der eine solche Macht über uns als gut gemeinte sucht. Historisch gesehen hat dies immer nur zu einem Unglück geführt.

Eine Möglichkeit, eine Lücke in Bezug auf die Selbsterkenntnis zu schließen, besteht darin, unsere Datenschutzschilde zu erhöhen. Thiel, der KI als kommunistisch bezeichnete, hat argumentiert, dass „Krypto ist libertär”. Kryptowährungen können “Datenschutz ermöglichen”. Datenschutz verringert die Fähigkeit anderer, uns zu kennen und dieses Wissen dann zu nutzen manipuliere uns zu ihrem eigenen Vorteil.

Sich durch KI besser zu kennen, bietet jedoch starke Vorteile. Wir können es möglicherweise nutzen, um besser zu verstehen, was uns glücklich, gesund und reich macht. Es kann helfen leiten unsere Berufswahl. Im Allgemeinen AI verspricht, das Wirtschaftswachstum zu schaffen zur Verbesserung der Gesundheitsgerechtigkeit hält uns voneinander fern.

Das Problem ist nicht, dass KI unsere Selbsterkenntnis verbessert. Das Problem ist a Machtunterschiede in dem, was über uns bekannt ist. Das Wissen über uns ausschließlich in fremden Händen ist die Macht über uns. Aber das Wissen über uns in unseren eigenen Händen ist Macht für uns.

Jeder, der verarbeitet unsere Daten Wissen über uns zu schaffen, sollte gesetzlich verpflichtet sein, uns dieses Wissen zurückzugeben. Wir müssen die Idee von „nichts über uns ohne uns”Für das AI-Zeitalter.

Was uns die KI über uns selbst erzählt, ist, dass wir darüber nachdenken, etwas zu verwenden, und nicht, dass andere vom Missbrauch profitieren. Es sollte immer nur eine Hand auf der Pinne unserer Seele sein. Und es sollte uns gehören.Das Gespräch

Über den Autor

Simon McCarthy-Jones, Associate Professor für Klinische Psychologie und Neuropsychologie, Trinity College Dublin

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.

brechen

Bücher zum Thema:

Über Tyrannei: Zwanzig Lektionen aus dem zwanzigsten Jahrhundert

von Timothy Snyder

Dieses Buch bietet Lehren aus der Geschichte für die Bewahrung und Verteidigung der Demokratie, einschließlich der Bedeutung von Institutionen, der Rolle einzelner Bürger und der Gefahren des Autoritarismus.

Klicken Sie für weitere Informationen oder zum Bestellen

Unsere Zeit ist jetzt: Macht, Zweck und der Kampf für ein faires Amerika

von Stacey Abrams

Die Autorin, Politikerin und Aktivistin, teilt ihre Vision einer inklusiveren und gerechteren Demokratie und bietet praktische Strategien für politisches Engagement und Wählermobilisierung.

Klicken Sie für weitere Informationen oder zum Bestellen

Wie Demokratien sterben

von Steven Levitsky und Daniel Ziblatt

Dieses Buch untersucht die Warnzeichen und Ursachen des demokratischen Zusammenbruchs und stützt sich dabei auf Fallstudien aus der ganzen Welt, um Einblicke in den Schutz der Demokratie zu geben.

Klicken Sie für weitere Informationen oder zum Bestellen

Das Volk, nein: Eine kurze Geschichte des Antipopulismus

von ThomasFrank

Der Autor bietet eine Geschichte populistischer Bewegungen in den Vereinigten Staaten und kritisiert die "antipopulistische" Ideologie, die seiner Meinung nach demokratische Reformen und Fortschritt erstickt hat.

Klicken Sie für weitere Informationen oder zum Bestellen

Demokratie in einem Buch oder weniger: Wie es funktioniert, warum es nicht funktioniert und warum es einfacher ist, es zu reparieren, als Sie denken

von David Litt

Dieses Buch bietet einen Überblick über die Demokratie, einschließlich ihrer Stärken und Schwächen, und schlägt Reformen vor, um das System reaktionsfähiger und rechenschaftspflichtiger zu machen.

Klicken Sie für weitere Informationen oder zum Bestellen