Ein typischer Social-Bot-Account. CCB
Social-Media-Plattformen sind mehr als bloße Kommunikationsmittel geworden. Sie haben sich zu geschäftigen Schauplätzen entwickelt, in denen Wahrheit und Lüge aufeinanderprallen. Unter diesen Plattformen sticht X hervor prominentes Schlachtfeld. Es ist ein Ort, an dem Desinformationskampagnen gedeihen, die von Armeen KI-gestützter Bots durchgeführt werden, die darauf programmiert sind, die öffentliche Meinung zu beeinflussen und Narrative zu manipulieren.
KI-gestützte Bots sind automatisierte Konten, die menschliches Verhalten nachahmen sollen. Bots in sozialen Medien, Chat-Plattformen und Konversations-KI sind aus dem modernen Leben nicht mehr wegzudenken. Sie werden beispielsweise benötigt, um KI-Anwendungen effektiv laufen zu lassen.
Einige Bots werden jedoch mit böswilliger Absicht erstellt. Erschreckenderweise machen Bots einen erheblichen Teil der Benutzerbasis von X aus. Im Jahr 2017 es wurde geschätzt dass es etwa 23 Millionen Social Bots gab, die 8.5 % der Gesamtnutzer ausmachten. Mehr als zwei Drittel der Tweets stammen aus diesen automatisierten Konten, was die Reichweite der Desinformation vergrößert und den öffentlichen Diskurs trübt.
Wie Bots funktionieren
Sozialer Einfluss ist mittlerweile ein Gut, das durch den Kauf von Bots erworben werden kann. Unternehmen verkaufen Fake-Follower, um die Popularität von Accounts künstlich zu steigern. Diese Follower gibt es zu bemerkenswert günstigen Preisen, viele Prominente zählen zu den Käufern.
Im Rahmen unserer Recherche entdeckten Kollegen und ich beispielsweise einen Bot, der 100 Tweets gepostet hatte, in denen Follower zum Verkauf angeboten wurden.
Mithilfe von KI-Methoden und einem theoretischen Ansatz namens Akteur-Netzwerk-Theorie, meine Kollegen und ich haben untersucht, wie bösartige Social Bots soziale Medien manipulieren und mit alarmierender Wirksamkeit beeinflussen, was Menschen denken und handeln. Mit einer Genauigkeit von 79.7 % können wir feststellen, ob Fake News von einem Menschen oder einem Bot generiert wurden. Es ist von entscheidender Bedeutung zu verstehen, wie sowohl Menschen als auch KI Desinformationen verbreiten, um zu verstehen, wie Menschen KI zur Verbreitung von Fehlinformationen nutzen.
Um ein Beispiel zu nennen, haben wir die Aktivität eines Kontos namens „True Trumpers“ auf Twitter untersucht.
Der Account wurde im August 2017 eingerichtet, hat keine Follower und kein Profilbild, hatte aber zum Zeitpunkt der Recherche 4,423 Tweets gepostet. Dazu gehörte eine Reihe völlig erfundener Geschichten. Es ist erwähnenswert, dass dieser Bot aus einem osteuropäischen Land stammt.
Ein Stream gefälschter Nachrichten von einem Bot-Konto. BuzzFeed, CC BY
Untersuchungen wie diese veranlassten X dazu, die Aktivitäten von Social Bots einzuschränken. Als Reaktion auf die Bedrohung durch Social-Media-Manipulation hat X vorübergehende Lesebeschränkungen eingeführt, um das Scraping und die Manipulation von Daten einzudämmen. Verifizierte Konten sind auf das Lesen von 6,000 Beiträgen pro Tag beschränkt, während nicht verifizierte Konten 600 Beiträge pro Tag lesen können. Da es sich um ein neues Update handelt, wissen wir noch nicht, ob es wirksam war.
Können wir uns schützen?
Letztendlich liegt es jedoch an den Nutzern, Vorsicht walten zu lassen und die Wahrheit von der Unwahrheit zu unterscheiden, insbesondere in Wahlperioden. Durch die kritische Bewertung von Informationen und die Überprüfung von Quellen können Benutzer dazu beitragen, die Integrität demokratischer Prozesse vor dem Ansturm von Bots und Desinformationskampagnen auf X zu schützen. Tatsächlich ist jeder Benutzer ein Frontverteidiger von Wahrheit und Demokratie. Wachsamkeit, kritisches Denken und eine gesunde Portion Skepsis sind wesentliche Schutzausrüstungen.
Bei sozialen Medien ist es für Benutzer wichtig, die Strategien böswilliger Konten zu verstehen.
Böswillige Akteure nutzen häufig Netzwerke von Bots, um falsche Narrative zu verstärken, Trends zu manipulieren und Fehlinformationen schnell zu verbreiten. Benutzer sollten vorsichtig sein, wenn sie auf Konten stoßen, die verdächtiges Verhalten zeigen, wie zum Beispiel übermäßige Beiträge oder sich wiederholende Nachrichten.
Desinformation wird häufig auch über spezielle Fake-News-Websites verbreitet. Diese sollen glaubwürdige Nachrichtenquellen imitieren. Benutzern wird empfohlen, die Authentizität von Nachrichtenquellen zu überprüfen, indem sie die Informationen mit seriösen Quellen vergleichen und Faktenprüfungsorganisationen konsultieren.
Selbstbewusstsein ist eine weitere Form des Schutzes, insbesondere vor Social-Engineering-Taktiken. Psychologische Manipulation wird häufig eingesetzt, um Benutzer dazu zu verleiten, Unwahrheiten zu glauben oder sich auf bestimmte Handlungen einzulassen. Benutzer sollten wachsam bleiben und die Inhalte, auf die sie stoßen, kritisch bewerten, insbesondere in Zeiten erhöhter Sensibilität wie Wahlen.
Indem wir informiert bleiben, uns am zivilen Diskurs beteiligen und uns für Transparenz und Rechenschaftspflicht einsetzen, können wir gemeinsam ein digitales Ökosystem gestalten, das Vertrauen, Transparenz und fundierte Entscheidungsfindung fördert.
Nick Hajli, KI-Stratege und Professor für digitale Strategie, Loughborough University
Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.
Bücher zum Thema:
Über Tyrannei: Zwanzig Lektionen aus dem zwanzigsten Jahrhundert
von Timothy Snyder
Dieses Buch bietet Lehren aus der Geschichte für die Bewahrung und Verteidigung der Demokratie, einschließlich der Bedeutung von Institutionen, der Rolle einzelner Bürger und der Gefahren des Autoritarismus.
Klicken Sie für weitere Informationen oder zum Bestellen
Unsere Zeit ist jetzt: Macht, Zweck und der Kampf für ein faires Amerika
von Stacey Abrams
Die Autorin, Politikerin und Aktivistin, teilt ihre Vision einer inklusiveren und gerechteren Demokratie und bietet praktische Strategien für politisches Engagement und Wählermobilisierung.
Klicken Sie für weitere Informationen oder zum Bestellen
Wie Demokratien sterben
von Steven Levitsky und Daniel Ziblatt
Dieses Buch untersucht die Warnzeichen und Ursachen des demokratischen Zusammenbruchs und stützt sich dabei auf Fallstudien aus der ganzen Welt, um Einblicke in den Schutz der Demokratie zu geben.
Klicken Sie für weitere Informationen oder zum Bestellen
Das Volk, nein: Eine kurze Geschichte des Antipopulismus
von ThomasFrank
Der Autor bietet eine Geschichte populistischer Bewegungen in den Vereinigten Staaten und kritisiert die "antipopulistische" Ideologie, die seiner Meinung nach demokratische Reformen und Fortschritt erstickt hat.
Klicken Sie für weitere Informationen oder zum Bestellen
Demokratie in einem Buch oder weniger: Wie es funktioniert, warum es nicht funktioniert und warum es einfacher ist, es zu reparieren, als Sie denken
von David Litt
Dieses Buch bietet einen Überblick über die Demokratie, einschließlich ihrer Stärken und Schwächen, und schlägt Reformen vor, um das System reaktionsfähiger und rechenschaftspflichtiger zu machen.
Klicken Sie für weitere Informationen oder zum Bestellen
