Bild von Susanne Cipriano
Aus der Redaktion:
Wie in diesem Artikel hervorgehoben wird, könnte die Entwicklung KI-gesteuerter politischer Kampagnen, wie etwa der hypothetischen Maschine namens Clogger, die Integrität von Wahlen tiefgreifend untergraben. Durch die Nutzung von Automatisierung, maßgeschneidertem Messaging und verstärkendem Lernen haben diese Maschinen das Potenzial, das Wählerverhalten in großem Umfang zu manipulieren und zu ändern.
In einer Zeit, in der künstliche Intelligenz (KI) rasant voranschreitet, müssen wir wachsam gegenüber den potenziellen Bedrohungen bleiben, die sie für unsere demokratischen Prozesse darstellt. Das Aufkommen KI-gesteuerter Kampagnen stellt das Wesen der Demokratie in Frage. Anstatt dass Wahlen durch die Kraft von Ideen, politischen Vorschlägen und echten Wählerentscheidungen bestimmt werden, könnten sie von Maschinen beeinflusst werden, die ausschließlich auf den Sieg ausgerichtet sind. Die vorherrschenden Inhalte würden von KI-Sprachmodellen stammen, ohne Rücksicht auf Wahrheit oder politische Prinzipien. Im Wesentlichen würde das Wahlergebnis von einer künstlichen Intelligenz diktiert werden, was den demokratischen Prozess untergraben würde.
Um den Aufstieg einer „Clogokratie“ und die Entmachtung der Bürger zu verhindern, ist es von entscheidender Bedeutung, dass wir Maßnahmen ergreifen. Ein verbesserter Schutz der Privatsphäre und strenge Datenschutzgesetze können dazu beitragen, den Zugriff von KI-Maschinen auf personenbezogene Daten einzuschränken und so ihre Wirksamkeit bei der gezielten Ansprache und Manipulation von Personen zu verringern. Wahlkommissionen sollten auch darüber nachdenken, KI-Systeme, die darauf abzielen, Wähler zu beeinflussen, zu verbieten oder streng zu regulieren. Umsetzungsvorschriften, die klare Haftungsausschlüsse erfordern, wenn KI-generierte Nachrichten in politischen Kampagnen verwendet werden. Dies kann für Transparenz sorgen und den Wählern helfen, fundierte Entscheidungen zu treffen.
Wir müssen diese Herausforderungen unbedingt proaktiv angehen und sicherstellen, dass die Macht der KI verantwortungsvoll genutzt wird, um die Grundsätze der Demokratie zu wahren. Durch die Wahrung der Integrität von Wahlen und den Schutz der Wahlfreiheit können wir die Komplexität der KI bewältigen und die Grundlagen demokratischer Regierungsführung bewahren.
Wie KI Wahlen übernehmen könnte – und die Demokratie untergraben könnte
Geschrieben von Archon Fung, Professor für Staatsbürgerschaft und Selbstverwaltung, Harvard Kennedy Schule und Lawrence Lessig, Professor für Recht und Führung, Harvard University
Könnten Organisationen Sprachmodelle mit künstlicher Intelligenz wie ChatGPT nutzen, um Wähler zu bestimmten Verhaltensweisen zu bewegen?
Senator Josh Hawley stellte OpenAI-CEO Sam Altman diese Frage in einem 16. Mai 2023, Anhörung im US-Senat zum Thema künstliche Intelligenz. Altman antwortete, dass er in der Tat besorgt sei, dass manche Menschen Sprachmodelle nutzen könnten, um Wähler zu manipulieren, zu überzeugen und sich auf persönliche Interaktionen mit ihnen einzulassen.
Altman ging nicht näher darauf ein, aber er könnte so etwas wie dieses Szenario im Sinn gehabt haben. Stellen Sie sich vor, dass politische Technologen bald eine Maschine namens Clogger entwickeln – eine politische Kampagne in einer Blackbox. Clogger verfolgt unermüdlich nur ein Ziel: die Chancen zu maximieren, dass sein Kandidat – die Kampagne, die die Dienste von Clogger Inc. kauft – sich bei einer Wahl durchsetzt.
Während Plattformen wie Facebook, Twitter und YouTube Formen der KI nutzen, um Benutzer dazu zu bewegen mehr Zeit verbringen Auf ihren Websites hätte die KI von Clogger ein anderes Ziel: das Abstimmungsverhalten der Menschen zu ändern.
Wie Clogger funktionieren würde
Als ein Politikwissenschaftler und einem Rechtswissenschaftler Wir, die die Schnittstelle von Technologie und Demokratie untersuchen, glauben, dass etwas wie Clogger die Automatisierung nutzen könnte, um den Umfang und möglicherweise die Effektivität von zu steigern Verhaltensmanipulation und Microtargeting-Techniken dass politische Kampagnen seit den frühen 2000er Jahren verwendet werden. Genauso wie Werbetreibende nutzen Ihren Browser- und Social-Media-Verlauf Um jetzt gezielt kommerzielle und politische Anzeigen auszurichten, würde Clogger Ihnen – und Hunderten Millionen anderen Wählern – individuell Aufmerksamkeit schenken.
Es würde drei Fortschritte gegenüber der aktuellen algorithmischen Verhaltensmanipulation bieten. Erstens würde sein Sprachmodell Nachrichten generieren – Texte, soziale Medien und E-Mails, möglicherweise auch Bilder und Videos –, die auf Sie persönlich zugeschnitten sind. Während Werbetreibende strategisch eine relativ kleine Anzahl von Anzeigen platzieren, können Sprachmodelle wie ChatGPT im Laufe einer Kampagne unzählige einzigartige Nachrichten für Sie persönlich – und Millionen für andere – generieren.
Zweitens würde Clogger eine Technik namens verwenden Verstärkung lernen um eine Reihe von Nachrichten zu generieren, die immer wahrscheinlicher werden, dass sie Ihre Stimme ändern. Reinforcement Learning ist ein auf maschinellem Lernen basierender Trial-and-Error-Ansatz, bei dem der Computer Maßnahmen ergreift und Feedback darüber erhält, welche besser funktionieren, um zu lernen, wie ein Ziel erreicht werden kann. Maschinen, die Go, Schach und viele Videospiele spielen können besser als jeder Mensch habe Reinforcement Learning eingesetzt.
Wie Reinforcement Learning funktioniert.
Drittens könnten sich die Nachrichten von Clogger im Laufe einer Kampagne weiterentwickeln, um Ihre Reaktionen auf frühere Meldungen der Maschine und die Erkenntnisse der Maschine über die Änderung der Meinung anderer zu berücksichtigen. Clogger wäre im Laufe der Zeit in der Lage, dynamische „Gespräche“ mit Ihnen – und Millionen anderer Menschen – zu führen. Die Nachrichten von Clogger wären ähnlich Anzeigen, die Ihnen folgen über verschiedene Websites und soziale Medien hinweg.
Die Natur der KI
Drei weitere Features – oder Bugs – sind erwähnenswert.
Erstens können die von Clogger gesendeten Nachrichten politischen Inhalt haben oder auch nicht. Das einzige Ziel der Maschine besteht darin, den Stimmenanteil zu maximieren, und sie würde wahrscheinlich Strategien zur Erreichung dieses Ziels entwickeln, an die kein menschlicher Wahlkämpfer gedacht hätte.
Eine Möglichkeit besteht darin, wahrscheinlichen Wählergegnern Informationen über unpolitische Leidenschaften zu schicken, die sie im Sport oder in der Unterhaltung haben, um die politischen Botschaften, die sie erhalten, zu unterdrücken. Eine andere Möglichkeit besteht darin, abstoßende Nachrichten – zum Beispiel Inkontinenz-Werbung – zu versenden, die zeitlich auf die Nachrichten der Gegner abgestimmt sind. Und ein anderer besteht darin, die Freundesgruppen der Wähler in den sozialen Medien zu manipulieren, um den Eindruck zu erwecken, dass ihre sozialen Kreise den Kandidaten unterstützen.
Zweitens hat Clogger keinen Respekt vor der Wahrheit. Tatsächlich hat es keine Möglichkeit zu wissen, was wahr oder falsch ist. Sprachmodell „Halluzinationen“ stellen für diese Maschine kein Problem dar, da ihr Ziel darin besteht, Ihre Stimme zu ändern, und nicht darin, genaue Informationen bereitzustellen.
Drittens, weil es ein ist Black-Box-Art künstlicher Intelligenz, hätten die Leute keine Möglichkeit zu wissen, welche Strategien es verwendet.
Der Bereich der erklärbaren KI zielt darauf ab, die Black Box vieler Modelle des maschinellen Lernens zu öffnen, damit Menschen verstehen können, wie sie funktionieren.
Clogokratie
Wenn der republikanische Präsidentschaftswahlkampf Clogger im Jahr 2024 einsetzen würde, wäre der demokratische Wahlkampf wahrscheinlich gezwungen, in gleicher Weise zu reagieren, vielleicht mit einer ähnlichen Maschine. Nennen wir es Dogger. Wenn die Wahlkampfmanager glaubten, dass diese Maschinen effektiv seien, könnte der Präsidentschaftswettbewerb durchaus auf Clogger vs. Dogger hinauslaufen, und der Gewinner wäre der Kunde der effektiveren Maschine.
Politikwissenschaftler und Experten hätten viel darüber zu sagen, warum sich die eine oder andere KI durchgesetzt hat, aber wahrscheinlich würde es niemand wirklich wissen. Der Präsident wurde nicht gewählt, weil seine politischen Vorschläge oder politischen Ideen mehr Amerikaner überzeugten, sondern weil er oder sie über die effektivere KI verfügte. Die Inhalte, die den Sieg davontrugen, kämen von einer KI, die sich ausschließlich auf den Sieg konzentrierte und keine eigenen politischen Ideen hatte, und nicht von Kandidaten oder Parteien.
In diesem sehr wichtigen Sinne hätte eher eine Maschine als ein Mensch die Wahl gewonnen. Die Wahl wäre nicht mehr demokratisch, obwohl alle normalen Aktivitäten der Demokratie – die Reden, die Anzeigen, die Botschaften, die Abstimmung und die Auszählung der Stimmen – stattgefunden hätten.
Der von der KI gewählte Präsident könnte dann einen von zwei Wegen wählen. Er oder sie könnte den Mantel der Wahl nutzen, um die Politik der republikanischen oder demokratischen Partei zu verfolgen. Aber da die Ideen der Partei möglicherweise wenig damit zu tun haben, warum die Menschen so gewählt haben, wie sie es getan haben – Clogger und Dogger interessieren sich nicht für politische Ansichten –, würden die Handlungen des Präsidenten nicht unbedingt den Willen der Wähler widerspiegeln. Die Wähler wären von der KI manipuliert worden, anstatt ihre politischen Führer und Richtlinien frei zu wählen.
Ein anderer Weg besteht darin, dass der Präsident die Botschaften, Verhaltensweisen und Richtlinien verfolgt, von denen die Maschine vorhersagt, dass sie die Chancen auf eine Wiederwahl maximieren. Auf diesem Weg hätte der Präsident über den Machterhalt hinaus keine besondere Plattform oder Agenda. Die von Clogger geleiteten Aktionen des Präsidenten würden eher dazu dienen, die Wähler zu manipulieren, als ihren echten Interessen oder sogar der eigenen Ideologie des Präsidenten zu dienen.
Vermeidung von Clogokratie
Es wäre möglich, Wahlmanipulationen durch KI zu vermeiden, wenn Kandidaten, Wahlkämpfer und Berater alle auf den Einsatz einer solchen politischen KI verzichten würden. Wir halten das für unwahrscheinlich. Wenn politisch wirksame Black Boxes entwickelt würden, wäre die Versuchung, sie zu nutzen, nahezu unwiderstehlich. In der Tat könnte es für Politikberater durchaus sinnvoll sein, diese Instrumente im Rahmen ihrer beruflichen Verantwortung einzusetzen, um ihren Kandidaten zum Sieg zu verhelfen. Und sobald ein Kandidat solch ein wirksames Instrument einsetzt, kann von den Gegnern kaum erwartet werden, dass sie sich durch eine einseitige Abrüstung wehren.
Verbesserter Datenschutz würde helfen. Clogger wäre auf den Zugriff auf große Mengen persönlicher Daten angewiesen, um Einzelpersonen anzusprechen, maßgeschneiderte Nachrichten zu erstellen, um sie zu überzeugen oder zu manipulieren, und sie im Verlauf einer Kampagne zu verfolgen und erneut anzusprechen. Jede Information, die Unternehmen oder politische Entscheidungsträger der Maschine vorenthalten, würde sie weniger effektiv machen.
Strenge Datenschutzgesetze könnten dazu beitragen, dass KI nicht mehr manipulativ wirkt.
Eine andere Lösung sind Wahlkommissionen. Sie könnten versuchen, diese Maschinen zu verbieten oder streng zu regulieren. Da ist ein heftige Debatte darüber, ob solche „Replikanten“-Rede, auch wenn es politischer Natur ist, kann reguliert werden. Die extreme Tradition der freien Meinungsäußerung in den USA veranlasst viele führende Wissenschaftler zu der Aussage, dass dies nicht möglich sei.
Es gibt jedoch keinen Grund, den Schutz des Ersten Verfassungszusatzes automatisch auf das Produkt dieser Maschinen auszudehnen. Die Nation könnte sich durchaus dafür entscheiden, Maschinen Rechte zu geben, aber das sollte eine Entscheidung sein, die auf den Herausforderungen der heutigen Zeit basiert. nicht die fehlgeleitete Annahme dass James Madisons Ansichten von 1789 auf die KI anwendbar sein sollten.
Die Regulierungsbehörden der Europäischen Union gehen in diese Richtung. Die politischen Entscheidungsträger überarbeiteten den Entwurf des Europäischen Parlaments zum Gesetz über künstliche Intelligenz und bezeichneten ihn als „KI-Systeme zur Beeinflussung von Wählern im Wahlkampf“. als „hohes Risiko“ und unterliegt der behördlichen Kontrolle.
Ein verfassungsrechtlich sichererer, wenn auch kleinerer Schritt, der teilweise bereits angenommen wurde Europäische Internet-Regulierungsbehörden und im Kalifornien Ziel ist es, Bots zu verbieten, sich als Menschen auszugeben. Beispielsweise könnte eine Regulierung vorschreiben, dass Kampagnenbotschaften mit Haftungsausschlüssen versehen sein müssen, wenn der darin enthaltene Inhalt von Maschinen und nicht von Menschen generiert wird.
Dies würde den Haftungsausschlussanforderungen für Werbung ähneln – „Bezahlt vom Sam Jones for Congress Committee“ –, jedoch geändert, um ihren KI-Ursprung widerzuspiegeln: „Diese KI-generierte Anzeige wurde vom Sam Jones for Congress Committee bezahlt.“ Eine stärkere Version könnte erfordern: „Diese KI-generierte Nachricht wird Ihnen vom Sam Jones for Congress Committee gesendet, weil Clogger vorhergesagt hat, dass dadurch Ihre Chancen, für Sam Jones zu stimmen, um 0.0002 % steigen werden.“ Zumindest glauben wir, dass Wähler wissen sollten, wann ein Bot mit ihnen spricht, und sie sollten auch wissen, warum.
Die Möglichkeit eines Systems wie Clogger zeigt, dass der Weg dahin ist menschliche kollektive Entmachtung Möglicherweise ist kein Übermensch erforderlich künstliche allgemeine Intelligenz. Möglicherweise sind dafür nur übereifrige Aktivisten und Berater erforderlich, die über leistungsstarke neue Tools verfügen, mit denen sie die vielen Knöpfe von Millionen von Menschen wirksam betätigen können.
Über den Autor
Archon Fung, Professor für Staatsbürgerschaft und Selbstverwaltung, Harvard Kennedy Schule und Lawrence Lessig, Professor für Recht und Führung, Harvard University
Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.
Nachtrag des Herausgebers: Das Potenzial der KI, Wahlen zu übernehmen und die Demokratie zu untergraben, ist ein dringendes Anliegen, das unsere Aufmerksamkeit erfordert. Wie in diesem Artikel hervorgehoben wurde, könnte der Aufstieg KI-gesteuerter politischer Kampagnen wie Clogger die Wahlergebnisse verändern, da Maschinen das Wählerverhalten in beispiellosem Ausmaß beeinflussen. Die Folgen einer solchen Verschiebung wären weitreichend, da Wahlen nicht vom Willen des Volkes, sondern von der Wirksamkeit der KI-Manipulation bestimmt würden.
Um diese Entmachtung der Bürger zu verhindern und die Demokratie zu schützen, müssen wir proaktive Maßnahmen ergreifen. Ein robuster Schutz der Privatsphäre und Vorschriften, die den Einfluss von KI-Systemen auf Wahlen begrenzen, sind von entscheidender Bedeutung. Durch die Gewährleistung von Transparenz, die Durchsetzung klarer Haftungsausschlüsse für KI-generierte Inhalte und die Förderung eines verantwortungsvollen Umgangs mit KI können wir die Integrität demokratischer Prozesse wahren und die Grundwerte unserer Gesellschaft schützen.
Es ist wichtig, dass wir wachsam bleiben und gemeinsam daran arbeiten, die Herausforderungen zu meistern, die KI bei Wahlen mit sich bringt. Auf diese Weise können wir die demokratischen Ideale bewahren, die unseren Gesellschaften zugrunde liegen, und eine Zukunft sichern, in der die Macht der Technologie mit den Interessen und Wünschen der Menschen in Einklang steht.
Bücher zum Thema:
Über Tyrannei: Zwanzig Lektionen aus dem zwanzigsten Jahrhundert
von Timothy Snyder
Dieses Buch bietet Lehren aus der Geschichte für die Bewahrung und Verteidigung der Demokratie, einschließlich der Bedeutung von Institutionen, der Rolle einzelner Bürger und der Gefahren des Autoritarismus.
Klicken Sie für weitere Informationen oder zum Bestellen
Unsere Zeit ist jetzt: Macht, Zweck und der Kampf für ein faires Amerika
von Stacey Abrams
Die Autorin, Politikerin und Aktivistin, teilt ihre Vision einer inklusiveren und gerechteren Demokratie und bietet praktische Strategien für politisches Engagement und Wählermobilisierung.
Klicken Sie für weitere Informationen oder zum Bestellen
Wie Demokratien sterben
von Steven Levitsky und Daniel Ziblatt
Dieses Buch untersucht die Warnzeichen und Ursachen des demokratischen Zusammenbruchs und stützt sich dabei auf Fallstudien aus der ganzen Welt, um Einblicke in den Schutz der Demokratie zu geben.
Klicken Sie für weitere Informationen oder zum Bestellen
Das Volk, nein: Eine kurze Geschichte des Antipopulismus
von ThomasFrank
Der Autor bietet eine Geschichte populistischer Bewegungen in den Vereinigten Staaten und kritisiert die "antipopulistische" Ideologie, die seiner Meinung nach demokratische Reformen und Fortschritt erstickt hat.
Klicken Sie für weitere Informationen oder zum Bestellen
Demokratie in einem Buch oder weniger: Wie es funktioniert, warum es nicht funktioniert und warum es einfacher ist, es zu reparieren, als Sie denken
von David Litt
Dieses Buch bietet einen Überblick über die Demokratie, einschließlich ihrer Stärken und Schwächen, und schlägt Reformen vor, um das System reaktionsfähiger und rechenschaftspflichtiger zu machen.
