Was Facebook uns nicht über seinen Kampf gegen Online-Missbrauch erzählt

Was Facebook uns nicht über seinen Kampf gegen Online-Missbrauch erzählt
Shutterstock

Facebook hat zum ersten Mal Daten zur Verfügung gestellt Umfang der missbräuchlichen Kommentare auf seiner Website veröffentlicht. Dies könnte unter dem wachsenden Druck von Organisationen für Social-Media-Unternehmen getan worden sein, mehr zu sein transparent über Online-Missbrauchoder um nach der Cambridge Analytica Datenskandal. Wie auch immer, die Zahlen machen keine angenehme Lektüre.

In ein Zeitraum von sechs Monaten von Oktober 2017 bis März 20178, 21m sexuell expliziten Bildern, 3.5m grafisch gewalttätigen Posts und 2.5m Formen der Hassrede wurden von seiner Website entfernt. Diese Zahlen zeigen einige auffällige Punkte.

Wie erwartet, zeigen die Daten, dass das Problem schlimmer wird. Zum Beispiel wurde zwischen Januar und März geschätzt, dass für jede 10,000-Nachrichten online, zwischen 22 und 27 grafische Gewalt enthielt, von 16 zu 19 in den letzten drei Monaten. Dies macht deutlich, dass im Vereinigten Königreich die Strafverfolgung für Online-Missbrauch zurückgegangen ist, wie aus der nachstehenden Grafik hervorgeht.

Doch was Facebook uns nicht gesagt hat, ist genauso wichtig.

Das soziale Netzwerk wurde unter wachsendem Druck Bekämpfung von Missbrauch auf seiner Website, insbesondere die Entfernung von terroristische Propaganda nach Ereignissen wie dem 2017 Westminster Angriff und Manchester Arena Bombardierung. Hier war das Unternehmen proaktiv. Zwischen Januar und März 2018, Facebook entfernt 1.9m Nachrichten ermutigen terroristische Propaganda, eine Zunahme von 800,000 Kommentare im Vergleich zu den letzten drei Monaten. Insgesamt wurden 99.5% dieser Nachrichten mit Hilfe der fortschreitenden Technologie lokalisiert.

Auf den ersten Blick sieht es so aus, als habe Facebook erfolgreich Software entwickelt, die diesen Inhalt von seinem Server entfernen kann. Aber Facebook hat keine Zahlen veröffentlicht, die zeigen, wie vorherrschender Terrorist Propaganda ist auf ihrer Seite. Wir wissen also wirklich nicht, wie erfolgreich die Software in dieser Hinsicht ist.

Gewaltsame Beiträge entfernen

Facebook hat auch Technologie verwendet, um die Beseitigung von Grafik Gewalt von seiner Website zu helfen. Zwischen den beiden Dreimonatszeiträumen gab es einen Anstieg von 183% in der Menge der entfernten Posts, die als grafisch heftig bezeichnet wurden. Insgesamt wurden 86% dieser Kommentare von einem Computersystem gekennzeichnet.

Wir wissen aber auch, dass die Facebook-Zahlen auch zeigen, dass bis zu 27 aus allen 10,000-Kommentaren, die es hinter die Erkennungstechnologie geschafft haben, grafische Gewalt enthalten ist. Das hört sich nicht nach vielen an, aber es lohnt sich, die schiere Anzahl der gesamten Kommentare zu berücksichtigen, die von mehr als 2 Milliarden aktiven Nutzern auf der Website gepostet wurden. Eine Schätzung schlägt vor, dass 510,000-Kommentare jede Minute gepostet werden. Wenn genau, würde das bedeuten, dass 1,982,880 heftige Kommentare alle 24-Stunden gepostet werden.

Um die Fehler in seiner Erkennungssoftware auszugleichen, verlässt sich Facebook wie andere soziale Netzwerke seit Jahren auf die Selbstregulierung, zu der die Nutzer ermutigt werden Kommentare melden Sie glauben, sollte nicht auf der Website sein. Zum Beispiel hat 2018 zwischen Januar und März 2.5m-Kommentare entfernt, die als Hassreden betrachtet wurden, und nur 950,000 (38%) dieser Nachrichten wurde von seinem System markiert. Das andere 62% wurden von Benutzern gemeldet. Dies zeigt, dass die Technologie von Facebook Hassreden in ihrem Netzwerk nicht angemessen bekämpft, trotz der wachsenden Besorgnis, dass Social-Networking-Sites tanken Hassverbrechen in der realen Welt.

Wie viele Kommentare werden gemeldet?

Dies bringt uns zu der anderen signifikanten Zahl, die in den von Facebook veröffentlichten Daten nicht enthalten ist: die Gesamtzahl der Kommentare, die von Benutzern gemeldet wurden. Da dies ein grundlegender Mechanismus zur Bekämpfung des Online-Missbrauchs ist, sollte die Anzahl der an das Unternehmen gerichteten Berichte öffentlich zugänglich gemacht werden. Auf diese Weise können wir das gesamte Ausmaß der missbräuchlichen Kommentare, die online gemacht werden, verstehen und gleichzeitig die Gesamtzahl der Nachrichten angeben, die Facebook nicht von der Website entfernt.

Die Entscheidung von Facebook, Daten zu veröffentlichen, die das Ausmaß des Missbrauchs auf seiner Website offen legen, ist ein bedeutender Fortschritt. Twitter wurde dagegen nach ähnlichen Informationen gefragt aber abgelehnt um es zu veröffentlichen, behauptete es wäre irreführend. Natürlich werden nicht alle Kommentare, die von Nutzern von Social-Networking-Sites angezeigt werden, gegen die Nutzungsbedingungen verstoßen. Aber das Versäumnis von Twitter, diese Informationen zu veröffentlichen, legt nahe, dass das Unternehmen nicht bereit ist, das Ausmaß des Missbrauchs auf seiner eigenen Website aufzudecken.

Das GesprächAber selbst Facebook hat noch einen langen Weg vor sich, um zu totaler Transparenz zu gelangen. Im Idealfall würden alle Social-Networking-Sites jährliche Berichte veröffentlichen, wie sie Online-Missbrauch bekämpfen. Dies würde es den Aufsichtsbehörden und der Öffentlichkeit ermöglichen, die Unternehmen direkter zu vertreten, um Fehler bei der Entfernung von Online-Missbrauch von ihren Servern zu berücksichtigen.

Über den Autor

Laura Bliss, Doktorandin im Sozialmedienrecht, Edge Hill Universität

Dieser Artikel wurde ursprünglich veröffentlicht am Das Gespräch.. Lies das Original Artikel.

Bücher zum Thema:

{amazonWS: searchindex = Bücher; Schlüsselwörter = Online-Missbrauch; maxresults = 3}

enafarzh-CNzh-TWtlfrdehiiditjamsptrues

Folge InnerSelf weiter

Google-Plus-Symbolfacebook-icontwitter-iconRSS-Symbol

Holen Sie sich das Neueste per E-Mail

{Emailcloak = off}

Folge InnerSelf weiter

Google-Plus-Symbolfacebook-icontwitter-iconRSS-Symbol

Holen Sie sich das Neueste per E-Mail

{Emailcloak = off}