Egal wie unschuldig Sie es finden, was Sie in Suchmaschinen eingeben, kann das Verhalten des Internets beeinflussen. Hannah Wei / Unsplash, CC BY

Haben Sie jemals darüber nachgedacht, dass das, was Sie in Google eingeben, oder die ironischen Memes, über die Sie auf Facebook lachen, eine gefährlichere Online-Umgebung schaffen könnten?

Die Regulierung von Online-Räumen gewinnt zunehmend an Dynamik. Regierungen, Verbrauchergruppen und sogar digitale Unternehmen fordern mehr Kontrolle darüber, was online veröffentlicht und geteilt wird.

Wir erkennen jedoch häufig nicht, welche Rolle Sie, ich und wir alle als normale Bürger bei der Gestaltung der digitalen Welt spielen.

Das Privileg, online zu sein, ist mit Rechten und Pflichten verbunden, und wir müssen aktiv nachfragen, was für welche digitale staatsbürgerschaft wir wollen ermutigen.

Jenseits des Trottels

Der Terroranschlag in Christchurch löste eine politische Wende sowohl in Neuseeland als auch in Australien aus.

Australien hat kürzlich einen neues Gesetz Dadurch werden Strafen für Social-Media-Plattformen verhängt, wenn gewalttätige Inhalte nicht entfernt werden, nachdem sie online verfügbar sind.

Plattformen können hinsichtlich ihrer Verantwortlichkeiten für die Moderation von Inhalten hinterherhinken und müssen dies weiterhin tun Machs besser in dieser Hinsicht. Aber diese Art von “Knie-Trottel“Die Reaktion der Politik wird die Verbreitung problematischer Inhalte in den sozialen Medien nicht lösen.

Die Bekämpfung von Hass im Internet erfordert koordinierte Anstrengungen. Plattformen müssen Verbesserung der Durchsetzung ihrer Vorschriften (nicht nur bekannt geben strengere Maßnahmen), um die Sicherheit der Benutzer zu gewährleisten. Sie können auch a überdenken ernsthafte NeugestaltungWeil die Art und Weise, wie sie derzeit Informationen organisieren, auswählen und empfehlen, häufig systemische Probleme in der Gesellschaft wie Rassismus verstärkt.

Diskriminierung ist fest verankert

Natürlich leben voreingenommene Überzeugungen und Inhalte nicht nur online.

In Australien Rassendiskriminierung wurde verewigt in der öffentlichen Politik, und das Land hat eine unversöhnte geschichte der indigenen Enteignung und Unterdrückung.

Heute ist Australiens politischer Mainstream ist immer noch nachsichtig mit bigots und den medien trägt oft bei Angst vor Einwanderung haben.

Wir alle können jedoch dazu beitragen, den Online-Schaden zu verringern.

Es gibt drei Aspekte, die wir bei der Online-Interaktion überdenken könnten, um rassistischen Ideologien den Zugang zu Sauerstoff zu verweigern:

• ein besseres Verständnis der Funktionsweise von Plattformen
• die Entwicklung von Empathie Unterschiede in der Interpretation bei der Auseinandersetzung mit Medien erkennen (anstatt sich auf Absichten zu konzentrieren)
• auf eine produktivere Online-Bekämpfung des Rassismus hinzuarbeiten.

Online-Lauerer und die Verstärkung des Schadens

Weiße Supremacisten und andere reaktionäre Experten suchen im Mainstream und in den sozialen Medien nach Aufmerksamkeit. Neuseelands Ministerpräsidentin Jacinda Ardern weigerte sich zu nennen der Christchurch-Bewaffnete, um zu verhindern, dass seine gewünschte Bekanntheit geschürt wird, und auch einige Medien.

Der Rest von uns könnte Trost finden, weil er nicht dazu beigetragen hat, den gewünschten Ruhm des Christchurch-Angreifers zu stärken. Es ist wahrscheinlich, dass wir sein Video nicht angesehen oder sein Manifest gelesen haben, geschweige denn diesen Inhalt in den sozialen Medien hochgeladen oder geteilt haben.

Aber was ist mit anscheinend weniger schädlichen Praktiken wie der Suche auf Google- und Social-Media-Websites nach Stichwörtern im Zusammenhang mit dem Manifest des Bewaffneten oder seinem Live-Video?

Es ist nicht die Absicht hinter diesen Praktiken, die im Mittelpunkt dieser Debatte stehen sollte, sondern die Konsequenzen daraus. Unsere alltäglichen Interaktionen auf Plattformen beeinflussen Suchalgorithmen für die automatische Vervollständigung sowie die hierarchische Organisation und Empfehlung von Informationen.

In der Tragödie von Christchurch hat der Eifer, auf diese Informationen zuzugreifen, den Verkehr zu problematischen Inhalten und verstärktem Schaden für die muslimische Gemeinschaft geführt, auch wenn wir das Manifest oder das Video nicht geteilt oder hochgeladen haben.

Normalisierung des Hasses durch scheinbar unbeschwerten Humor

Reaktionsgruppen wissen wie profitieren auf Memen und anderen witzigen Inhalten, die degradieren und entmenschlichten.

Mit Ironie an verleugnen Der Rassismus in diesen Witzen, diese rechtsextremen Gruppen verbinden und tauchen neue Mitglieder in eine Online-Kultur ein, die bewusst memetische Medien nutzt, um Spaß auf Kosten anderer zu haben.

Der Terroranschlag von Christchurch hat dies gezeigt Verbindung zwischen Online-Ironie und der Radikalisierung weißer Männer.

Humor, Ironie und Spiel, die in Plattformrichtlinien geschützt sind, dienen jedoch dazu, Rassismus in profaneren und alltäglicheren Kontexten zu tarnen.

Genauso wie alltäglicher Rassismus teilt Diskurse und Vokabeln mit weißer Vormachtstellung, leichtsinnigen rassistischen und sexistischen Witzen sind ebenso schädlich wie Online faschistische Ironie.

Humor und Satire sollte nicht Verstecke für Ignoranz und Bigotterie. Als digitale Bürger sollten wir vorsichtiger darüber sein, mit welchen Witzen wir uns beschäftigen und über welche wir in den sozialen Medien lachen.

Was schädlich ist und was ein Witz ist, ist bei der Interpretation von Inhalten aus einer eingeschränkten Weltanschauung möglicherweise nicht ersichtlich. Die Entwicklung von Empathie für die Interpretation des gleichen Inhalts durch andere ist eine nützliche Fähigkeit, um die Verbreitung rassistischer Ideologien im Internet zu minimieren.

Als Gelehrter danah boyd argumentiert:

Ziel ist es, die vielfältigen Möglichkeiten zu verstehen, die Welt zu verstehen und diese zur Interpretation von Medien zu nutzen.

Wirksamer Antirassismus in den sozialen Medien

Eine gängige Praxis bei der Bekämpfung von Rassismus in sozialen Medien ist es, öffentlich darauf hinzuweisen und die Opfer zu unterstützen. Kritiker der Callout-Kultur und der Solidarität der sozialen Medien erhalten dass diese Taktiken oft nicht als wirksames Mittel gegen Rassismus wirken, da sie eher performativ als befürwortend sind.

Eine Alternative besteht darin, Empörung in produktivere Formen des Antirassismus zu lenken. Beispielsweise können Sie hasserfüllte Online-Inhalte entweder einzeln oder über Organisationen melden, die bereits an diesen Problemen arbeiten, z Das Online-Institut für Hassprävention und für Islamophobie Register Australien.

Die meisten großen Social-Media-Plattformen haben Mühe zu verstehen, wie sich Hass in Kontexten außerhalb der USA artikuliert. Inhalt melden kann helfen Plattformen verstehen kulturspezifische codierte Wörter, Ausdrücke und Witze (von denen die meisten über visuelle Medien vermittelt werden), die Moderatoren möglicherweise nicht verstehen und Algorithmen nicht identifizieren können.

Als digitale Bürger können wir zusammenarbeiten, um denjenigen die Aufmerksamkeit zu verweigern, die online diskriminieren und Schaden zufügen wollen.

Wir können auch lernen, wie unsere alltäglichen Interaktionen unbeabsichtigte Konsequenzen haben und den Hass tatsächlich verstärken können.

Diese Überlegungen mindern jedoch nicht die Verantwortung der Plattformen für den Schutz der Nutzer und negieren auch nicht die Rolle der Regierungen, wirksame Wege zur Regulierung der Plattformen in Zusammenarbeit und Abstimmung mit der Zivilgesellschaft und der Industrie zu finden.

Über den Autor

Ariadna Matamoros-Fernández, Dozentin für Digitale Medien an der School of Communication, Queensland-Universität für Technologie

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.

Bücher zum Thema

at InnerSelf Market und Amazon