Mann im Schatten an einem Computer mit bedecktem Kopf, als ob er sich versteckt
Ozrimoz / Shutterstock

Donald Trumps umstrittene Entfernung von Social-Media-Plattformen hat die Debatte um die Zensur von online veröffentlichten Informationen wieder in Gang gebracht. Das Problem der Desinformation und Manipulation in sozialen Medien geht jedoch weit über den Twitter-Account eines Mannes hinaus. Und es ist viel weiter verbreitet als bisher angenommen.

Seit 2016 überwacht unser Team am Oxford Internet Institute die rasche weltweite Verbreitung von Manipulationskampagnen für soziale Medien, die wir als Einsatz digitaler Tools zur Beeinflussung des öffentlichen Online-Verhaltens definieren. In den letzten vier Jahren hat sich die Manipulation von sozialen Medien von einem Nischenproblem zu einem entwickelt globale Bedrohung der Demokratie und der Menschenrechte.

Unser letzter Bericht fanden heraus, dass organisierte Manipulationskampagnen für soziale Medien mittlerweile weltweit verbreitet sind - identifiziert in 81 Ländern im Jahr 2020, ab 70 Länder im Jahr 2019. Die Karte unten zeigt die weltweite Verbreitung dieser 81 Länder, dunkelblau markiert.

In unserem Bericht konzentrieren wir uns auf den Einsatz von „Cyber-Truppen“, bei denen es sich um Teams der Regierung, des Militärs oder der politischen Parteien handelt, die sich für die Manipulation der öffentlichen Meinung in sozialen Medien einsetzen. Cyber-Truppen führen regelmäßig sogenannte "Computer-Propaganda" -Kampagnen durch.

Computerpropaganda beinhaltet die Verwendung von programmierten Bots oder Menschen, um absichtlich irreführende Informationen über das Internet zu verbreiten, oft auf einem industrieller Maßstab.


Innerself-Abonnieren-Grafik


Zu diesem Zweck verwenden Computerpropagandisten ein umfangreiches Toolkit mit Desinformationswerkzeugen. Politische Bots Verstärken Sie Hassreden und erwecken Sie den Eindruck trendiger politischer Botschaften auf Twitter und Facebook. Das illegale Ernte von Daten hilft Propagandisten Zielnachrichten bei bestimmten, oft gefährdeten Einzelpersonen und Gruppen. TrollarmeenIn der Zwischenzeit werden sie regelmäßig eingesetzt, um politischen Aktivismus und die Pressefreiheit zu unterdrücken.

Im Jahr 2020 haben wir 62 Länder identifiziert, in denen staatliche Stellen selbst diese Instrumente nutzen, um die öffentliche Meinung zu formen. In anderen in unsere Studie einbezogenen Ländern werden diese Tools von privaten Organisationen oder ausländischen Akteuren verwendet.

Desinformation zu mieten

Trotz der Cambridge Analytica Skandal Unsere Untersuchungen haben gezeigt, wie sich Privatunternehmen in demokratische Wahlen einmischen können, und haben auch eine alarmierende Zunahme der Nutzung von "Desinformation-for-Hire" -Diensten auf der ganzen Welt festgestellt. Mit staatlichen und politischen Mitteln werden privatwirtschaftliche Cyber-Truppen eingesetzt zunehmend eingestellt werden manipulierte Nachrichten online zu verbreiten oder andere Stimmen in sozialen Medien zu übertönen.

Unsere Forschung ergab, dass staatliche Akteure im Jahr 48 mit privaten Unternehmen für Computerpropaganda in 2020 Ländern zusammenarbeiten, von 21 zwischen XNUMX identifizierten 2017 und 2018und nur neun solcher Fälle zwischen 2016 und 2017. Seit 2007 fast US $ 60 Mio. (49 Mio. GBP) wurden weltweit für Verträge mit diesen Unternehmen ausgegeben.

Darüber hinaus haben wir Beziehungen zwischen angeheuerten Cyber-Truppen und zivilgesellschaftlichen Gruppen aufgedeckt, die eine bestimmte Sache ideologisch unterstützen, wie Jugendgruppen und Social-Media-Influencer. In den USA zum Beispiel die Pro-Trump-Jugendgruppe Wendepunkt Aktion wurde verwendet, um Online-Desinformation und Pro-Trump-Erzählungen über COVID-19- und Mail-In-Stimmzettel zu verbreiten.

Um ihre politischen Ziele zu erreichen, sind Abstrichkampagnen gegen einen politischen Gegner die häufigste Strategie von Cyber-Truppen, die in 94% aller von uns untersuchten Länder eingesetzt werden. In 90% der Länder beobachteten wir die Verbreitung von partei- oder regierungsfreundlicher Propaganda. Die Unterdrückung der Teilnahme durch Trolling oder Belästigung war in 73% der Länder ein Merkmal, während in 48% der Nachrichten der Cyber-Truppen versucht wurde, die Bürger zu polarisieren.

Social Media Moderation

Deutlich, Debatten herum Die Zensur von Trump und seinen Unterstützern in den sozialen Medien deckt nur eine Facette der Desinformationskrise der Branche ab. Da immer mehr Länder in Kampagnen investieren, die darauf abzielen, ihre Bürger aktiv in die Irre zu führen, werden Social-Media-Unternehmen wahrscheinlich vermehrt nach Mäßigung und Regulierung gefragt - und nicht nur nach Trump, seinen Anhängern und verwandte Verschwörungstheorien wie QAnon.

Telefon zeigt Trump Twitter-Konto gesperrtDonald Trump wurde nach den Unruhen im Capitol von Twitter verbannt. pcruciatti / Shutterstock

Bereits in diesem Jahr ist die Verbreitung von Computer-Propaganda-Kampagnen in der gesamten COVID-19-Pandemie und in der Nach den US-Wahlen hat viele Social-Media-Unternehmen dazu veranlasst, den Missbrauch ihrer Plattformen durch das Entfernen von Konten zu begrenzen, von denen sie glauben, dass sie von Cyber-Truppen verwaltet werden.

Zum Beispiel ergab unsere Untersuchung, dass Facebook zwischen Januar 2019 und Dezember 2020 entfernt 10,893 Konten, 12,588 Seiten und 603 Gruppen von seiner Plattform. Im gleichen Zeitraum Twitter entfernt 294,096 Konten und entfernt weiterhin Konten, die ganz rechts verknüpft sind.

Trotz dieser Kontoentfernungen haben unsere Untersuchungen ergeben, dass zwischen Januar 2019 und Dezember 2020 fast 10 Millionen US-Dollar von Cyber-Truppen für politische Werbung ausgegeben wurden. Ein entscheidender Teil der Geschichte ist, dass Social-Media-Unternehmen weiterhin von der Förderung der Desinformation auf ihren Plattformen profitieren. Forderungen nach einer strengeren Regulierung und einer strengeren Polizeiarbeit werden wahrscheinlich Facebook und Twitter folgen, bis sie die Tendenz ihrer Plattformen, Desinformation zu hosten, zu verbreiten und zu vervielfachen, wirklich in den Griff bekommen.

Eine starke, funktionierende Demokratie hängt vom Zugang der Öffentlichkeit zu qualitativ hochwertigen Informationen ab. Dies ermöglicht es den Bürgern, sich auf informierte Beratungen einzulassen und einen Konsens zu suchen. Es ist klar, dass Social-Media-Plattformen in Erleichterung dieses Informationsaustauschs.

Diese Unternehmen sollten daher ihre Bemühungen verstärken, Desinformation sowie alle Cyber-Truppen-Konten, die zur Verbreitung schädlicher Inhalte im Internet verwendet werden, zu kennzeichnen und zu entfernen. Andernfalls wird die fortgesetzte Eskalation der Propagandakampagnen, die unsere Untersuchungen ergeben haben, die politische Polarisierung nur verstärken, das Vertrauen der Öffentlichkeit in Institutionen verringern und die Demokratie weltweit weiter untergraben.

Über den AutorDas Gespräch

Hannah Bailey, Doktorandin in Social Data Science, University of Oxford

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.