Die volatile Mischung aus Deepfakes und politischen Kampagnen ist ein guter Grund, auf der Hut zu sein. Sean Anthony Eddy Creative/E+ über Getty Images
Stellen Sie sich eine Oktober Überraschung wie kein anderer: Nur eine Woche vor dem 5. November 2024 enthüllt eine Videoaufzeichnung ein geheimes Treffen zwischen Joe Biden und Wolodymyr Selenskyj. Der amerikanische und der ukrainische Präsident vereinbaren, die Ukraine im Rahmen des „besonderen Notstandsmitgliedschaftsprotokolls“ unverzüglich in die NATO aufzunehmen und sich auf einen Atomwaffenangriff gegen Russland vorzubereiten. Plötzlich steht die Welt an der Schwelle zu Armageddon.
Während Journalisten darauf hinweisen könnten Es gibt kein solches Protokoll Während Social-Media-Nutzern möglicherweise merkwürdige videospielähnliche Qualitäten des Videos auffallen, könnten andere das spüren ihre schlimmsten Ängste wurden bestätigt. Wenn der Wahltag naht, lassen diese besorgten Bürger möglicherweise zu, dass das Video ihre Stimmen beeinflusst, ohne zu ahnen, dass sie gerade durch einen Situations-Deepfake manipuliert wurden – ein Ereignis, das in Wirklichkeit nie stattgefunden hat.
Situations-Deepfakes stellen die nächste Stufe der Technologien dar schon haben erschütterte die Wahrnehmung der Realität durch das Publikum. In unserer Forschung am DeFake-Projekt, meine Kollegen am Rochester Institute of Technology, der University of Mississippi, Michigan State University und ich Untersuchen Sie, wie Deepfakes entstehen und welche Maßnahmen Wähler ergreifen können, um sich dagegen zu wehren.
Sich Ereignisse vorstellen, die nie passiert sind
Ein Deepfake entsteht insbesondere dann, wenn jemand ein Tool der künstlichen Intelligenz nutzt tiefe Lernen, um eine zu manipulieren oder zu erzeugen machen, eine Stimme oder – mit dem Aufstieg von große Sprachmodelle Gefällt mir ChatGPT - Gesprächssprache. Diese können zu „Situations-Deepfakes“ kombiniert werden.
Die Grundidee und die Technologie eines Situations-Deepfakes sind die gleichen wie bei jedem anderen Deepfake, aber mit einem mutigeren Ziel: ein reales Ereignis zu manipulieren oder eines aus dem Nichts zu erfinden. Beispiele hierfür sind Darstellungen von Donald Trumps Verbrechergang und Trump umarmt Anthony Fauci, beides ist nicht passiert. Der Hug Shot wurde von a beworben Twitter-Account im Zusammenhang mit dem Präsidentschaftswahlkampf des Trump-Rivalen Ron DeSantis. Ein Anzeige angreifen Die vom Republikanischen Nationalkomitee veröffentlichte Kampagne 2024 zielte auf Joe Bidens Kampagne ab komplett mit KI erstellt.
Bei der DeFake-Projektsuchen, ist unsere Forschung hat gefunden, dass Deepfakes, einschließlich Situationen, typischerweise durch eine Kombination von erstellt werden Hinzufügen eines Mediums mit einem anderen; mithilfe eines Videos um ein Bild zu animieren oder ein anderes Video zu verändern, genannt Puppenspiel; ein Stück Medium ins Leben rufen, typischerweise unter Verwendung von generative KI; oder eine Kombination dieser Techniken.
Um es klar zu sagen: Viele Situations-Deepfakes werden aus harmlosen Gründen erstellt. Zum Beispiel, Unendliches Odyssee-Magazin produziert gefälschte Standbilder aus Filmen, die wurden nie produziert or hätte niemals existieren können. Aber selbst harmlose Deepfakes geben Anlass zum Innehalten, wie im Fall nahezu glaubwürdiger gefälschter Fotos, die das Bild zeigen Apollo-Mondlandung als Filmproduktion.
Eine Wahl vortäuschen
Versetzen Sie sich nun in die Lage von jemandem, der versucht, Einfluss auf die bevorstehende Wahl zu nehmen. Welche möglichen Situationen möchten Sie möglicherweise schaffen?
Zunächst wäre es wichtig, ob Sie die Abstimmung auf ein bestimmtes Ergebnis hin oder von diesem weg ausrichten möchten. Vielleicht würden Sie einen Kandidaten darstellen, der sich heldenhaft verhält, indem er einen Fußgänger einem schnell fahrenden Auto ausweicht, oder umgekehrt etwas Beleidigendes oder Kriminelles tut. Auch das Format des Situations-Deepfakes wäre wichtig. Anstelle eines Videos könnte es ein Foto sein, vielleicht mit der Unschärfe und den Winkeln, die eine Smartphone-Kamera oder das gefälschte Logo einer Nachrichtenagentur simulieren.
Ihre Zielgruppe wäre der Schlüssel. Anstatt die allgemeine Wählerschaft oder die Basis einer Partei anzusprechen, könnten Sie Verschwörungstheoretiker in wichtigen Wahlbezirken ins Visier nehmen. Sie könnten den Kandidaten oder seine Familienangehörigen als Teilnehmer darstellen satanisches Ritual, Teilnahme an einem Festival im exklusiv und kontrovers Böhmerwald, oder mit a Geheimes Treffen mit einem Außerirdischen.
Wenn Sie den Ehrgeiz und die Fähigkeiten dazu haben, könnten Sie sogar versuchen, die Wahl selbst zu fälschen. Im Juni 2023 wurden russische Fernseh- und Radiosender gehackt und einen vollständigen Mobilmachungsbefehl ausstrahlen durch eine Deepfake des russischen Präsidenten Wladimir Putin. Während dies bei einer US-Wahl schwieriger zu bewerkstelligen wäre, könnte im Prinzip jede Nachrichtenagentur gehackt werden, um Deepfakes ihrer Moderatoren zu verbreiten, die falsche Ergebnisse verkünden oder einen Kandidaten zugeben.
Die Realität verteidigen
Es gibt eine Vielzahl technologischer und psychologischer Möglichkeiten, Situations-Deepfakes zu erkennen und abzuwehren.
Technisch gesehen enthalten alle Deepfakes Hinweise auf ihre wahre Natur. Einige dieser Anzeichen sind für das menschliche Auge erkennbar – etwa übermäßig glatte Haut oder seltsame Beleuchtung oder Architektur –, andere hingegen schon nur durch eine Deepfake-Jagd-KI erkennbar.
Wir bauen DeFakeWir arbeiten daran, ihn rechtzeitig für die Wahlen im Jahr 2024 fertigzustellen. Aber selbst wenn ein ausreichend leistungsfähiger Deepfake-Detektor wie der unsere bis zum Wahltag nicht eingesetzt werden kann, gibt es psychologische Werkzeuge, die Sie als Wähler nutzen können, um Deepfakes zu identifizieren: Hintergrundwissen, Neugier und gesunde Skepsis.
Wenn Sie auf Medieninhalte über eine Person, einen Ort oder ein Ereignis stoßen, die untypisch erscheinen, vertrauen Sie Ihrem Hintergrundwissen. Zum Beispiel in einem jüngster Schwindel über einen Brand im PentagonDas abgebildete Gebäude sieht eher quadratisch als fünfeckig aus, was ein Hinweis darauf sein könnte.
Versuchen Sie jedoch, sich nicht ausschließlich auf Ihr Hintergrundwissen zu verlassen, da dieses fehlerhaft oder lückenhaft sein könnte. Scheuen Sie sich nie davor, mehr aus zuverlässigen Quellen zu erfahren, etwa aus faktengeprüften Nachrichtenberichten, von Experten begutachteten wissenschaftlichen Artikeln oder Interviews mit anerkannten Experten.
Beachten Sie außerdem, dass Deepfakes dazu verwendet werden können, Ihre Identität auszunutzen geneigt zu glauben über eine Person, einen Ort oder ein Ereignis. Eine der besten Möglichkeiten, damit umzugehen, besteht darin, einfach Seien Sie sich Ihrer Vorurteile bewusst und seien Sie etwas zurückhaltend gegenüber allen Medieninhalten, die sie zu bestätigen scheinen.
Selbst wenn es möglich wird, Deepfakes mit perfekten Situationen zu erstellen, wird die Glaubwürdigkeit ihres Themas wahrscheinlich ihre Achillesferse bleiben. Sie haben also, mit oder ohne technologische Lösung, immer noch die Macht, die Wahl vor dem Einfluss gefälschter Ereignisse zu schützen.
Über den Autor
Christoph Schwartz, Postdoktorand für Computersicherheit, Rochester Institute of Technology
Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.
Bücher zum Thema:
Über Tyrannei: Zwanzig Lektionen aus dem zwanzigsten Jahrhundert
von Timothy Snyder
Dieses Buch bietet Lehren aus der Geschichte für die Bewahrung und Verteidigung der Demokratie, einschließlich der Bedeutung von Institutionen, der Rolle einzelner Bürger und der Gefahren des Autoritarismus.
Klicken Sie für weitere Informationen oder zum Bestellen
Unsere Zeit ist jetzt: Macht, Zweck und der Kampf für ein faires Amerika
von Stacey Abrams
Die Autorin, Politikerin und Aktivistin, teilt ihre Vision einer inklusiveren und gerechteren Demokratie und bietet praktische Strategien für politisches Engagement und Wählermobilisierung.
Klicken Sie für weitere Informationen oder zum Bestellen
Wie Demokratien sterben
von Steven Levitsky und Daniel Ziblatt
Dieses Buch untersucht die Warnzeichen und Ursachen des demokratischen Zusammenbruchs und stützt sich dabei auf Fallstudien aus der ganzen Welt, um Einblicke in den Schutz der Demokratie zu geben.
Klicken Sie für weitere Informationen oder zum Bestellen
Das Volk, nein: Eine kurze Geschichte des Antipopulismus
von ThomasFrank
Der Autor bietet eine Geschichte populistischer Bewegungen in den Vereinigten Staaten und kritisiert die "antipopulistische" Ideologie, die seiner Meinung nach demokratische Reformen und Fortschritt erstickt hat.
Klicken Sie für weitere Informationen oder zum Bestellen
Demokratie in einem Buch oder weniger: Wie es funktioniert, warum es nicht funktioniert und warum es einfacher ist, es zu reparieren, als Sie denken
von David Litt
Dieses Buch bietet einen Überblick über die Demokratie, einschließlich ihrer Stärken und Schwächen, und schlägt Reformen vor, um das System reaktionsfähiger und rechenschaftspflichtiger zu machen.
