Private Unternehmen überwachen Online-Hass ohne unabhängige Aufsicht oder Regulierung, was schwerwiegende Folgen hat und Risiken für die grundlegenden Menschenrechte und Grundfreiheiten mit sich bringt. (Shutterstock)

Der Fackelmarsch der bewaffneten weißen Supremacisten vor kurzem in Charlottesville, Virginia, führt weiterhin eine Debatte darüber, wie Hassgruppen reguliert werden sollten. Angesichts des wachsenden öffentlichen Drucks nach dem Vormarsch eilten Internet-Unternehmen dazu, Websites zu entfernen, die gewalttätige Hassreden plädierten.

Los Papa hat seine Domain-Dienste beendet Zur neonazistischen Website The Daily Stormer, wie auch Google. Cloudflare, ein Unternehmen, das Websites auch vor Online-Angriffen schützt verboten die Hass-Website von ihrer Plattform. Russland ordnete die Baustelle an aus dem Land gehostet werden.

Meine Forschung und mein Buch Chokepoints: Globale private Regelung im Internet Sie zeigen, dass viele Internet-Unternehmen bereits Inhalte "entfernen" und "freiwillig" verbieten - dh ohne Gesetzgebung oder Gerichtsverfahren. Wichtige Intermediäre wie Google, PayPal, GoDaddy, Twitter und Facebook überwachen ihre Plattformen freiwillig, um sexuellen Missbrauch von Kindern, Extremismus und den unerlaubten Handel mit gefälschten Waren zu ermöglichen.

Viele Menschen begrüßen verständlicherweise diese Bemühungen, Hassreden und andere störende Inhalte auszumerzen. Die Bemühungen der Internet-Unternehmen als De-facto-Regulatoren der Rede werfen jedoch ernste Fragen auf: Wie sollten Online-Inhalte reguliert werden? Von wem?

Ich befürworte keine weißen Supremacisten, und ich argumentiere nicht gegen eine gewisse Polizeiarbeit. Ich sage vielmehr, dass wir ernsthaft überlegen müssen, wie Online-Inhalte reguliert werden sollen, da der nächste Fall nicht so eindeutig sein kann.

Es gibt erhebliche Probleme, wenn man sich bei der Überwachung des Internets auf mächtige Unternehmen verlässt, weil ihre Durchsetzungspraktiken unübersichtlich und für willkürliche Interpretationen anfällig sind.

Störender Präzedenzfall

In einem ernüchternden Gegensatz zum Jubeln der Internet-Unternehmen wegen ihres öffentlichen Widerstandes gegen den Daily Stormer warnte Matthew Prince, CEO von Cloudflare, eine differenzierte, vorsichtige Perspektive und warnte, dass der Rückzug von Diensten von Hassgruppen aufgrund des öffentlichen Drucks einen problematischen Präzedenzfall bei der Überwachung von Online-Sprache darstellt .

In einer Blog-Post Prince erklärte das Vorgehen von Cloudflare gegen den Daily Stormer und argumentierte, dass das Unternehmen ein ordnungsgemäßes Verfahren für einen "wichtigeren Grundsatz" als die Redefreiheit hält. Ein ordnungsgemäßes Verfahren bedeutet, dass "Sie in der Lage sein sollten, die Regeln zu kennen, die ein System befolgt, wenn Sie sich an diesem System beteiligen." Diese Aussage erfasst treffend die inhärenten Probleme von Intermediären, die als De-facto-Regulatoren für Inhalte und Online-Verhalten fungieren.

Früher in diesem Jahr, Mitarbeiter von Shopify und hunderte von Tausende gedrängt und Petition die Online-Commerce-Plattform, mit der das rechtmäßige Internetgeschäft von Breitbart Media nicht mehr gehostet werden kann. Stellvertretender Vorsitzender wieder eingesetzt Stephen Bannon Anrufe Breitbart "die Plattform für das Alt-Rechts". Der sogenannte "alt-right" - ein Begriff, der durch bekannt gemacht wird Richard Bertrand Spencer - deckt eine Mischung aus weißen Suprematisten, Separatisten, Neonazis, Faschisten, Rassisten, Antisemiten, Islamophoben und populistischen konservativen Ideologien ab.

Shopify-Chef Tobias Lütke sagte, er verteidige die freie Meinungsäußerung als das Ottawa-Unternehmen weiterhin Breitbarts Online-Shop unter Druck setzte Mitarbeiter kündigen. Nach der Öffentlichkeit Druck und eine Basiskampagne genannt #DeleteShopify führte zu einer Prüfung, die mehr enthüllte fragwürdiges GeschäftWar Shopify gezwungen annehmen "Nutzungsrichtlinie."

Die gegensätzlichen Beispiele von The Daily Stormer und dessen Streichung durch Internetfirmen sowie Shopifys unerschütterliche Unterstützung für Breitbart zeigen Extreme eines Dilemmas, das nur eine Verschärfung verspricht.

Willkürliche Politik, Regulierung

Internet-Intermediäre haben das Potenzial, zu einer Vielzahl von Themen mächtige Regulierungsbehörden zu sein, da sie schnell und ohne gerichtliche Anordnung handeln können. Es ist wichtig, dass sie Spielraum haben, um Inhalte zu zensieren oder Benutzer im Rahmen ihrer Nutzungsbedingungen zu verbieten.

PayPal behält sich das Recht vor, seine Dienste für Nutzer einzustellen. “aus irgendeinem Grund und zu jeder Zeit, “Sprache, die in den meisten Serviceverträgen der Intermediäre wiedergegeben wird. Die Fähigkeit zur willkürlichen Regulierung wird somit zu internen Regeln der Intermediäre.

Prince warnte davor, dass das Vorgehen von Cloudflare gegen den Daily Stormer einen Präzedenzfall für polizeiliche Vermittler schafft, ohne dass dies gerichtlich angeordnet werden müsse.

Diese Vermittler handeln häufig auf Veranlassung von Regierungen, die es vorziehen, dass Unternehmen der öffentlichen (aber weitgehend nicht nachvollziehbaren) Aufgabe der Regulierung des Internets gegenüberstehen. Diese Unternehmen sind jedoch im Allgemeinen schlecht gerüstet, um die Rechtmäßigkeit von der Illegalität zu unterscheiden, was zu unrechtmäßigen Außerbetriebnahmen führt und irrtümlich auf gesetzwidriges Verhalten abzielt.

Gleichermaßen problematisch: Die Durchsetzungsprozesse von Vermittlern sind oft undurchsichtig, da ihre Moderatoren ihre komplexen, sich schnell ändernden internen Regeln willkürlich interpretieren. Diese Probleme werden durch den zunehmenden Einsatz automatisierter Tools durch Intermediäre verstärkt, um problematische Inhalte auf ihren Plattformen zu erkennen und zu entfernen.

Es besteht auch die Sorge um den sogenannten Mission-Creep, wenn Regeln, die zum ersten Mal gegen Kindesmissbrauch oder Terrorismus - bemerkenswerte Katalysatoren für Durchsetzungsmaßnahmen - erlassen wurden, später auf andere, weniger schädliche Probleme angewendet werden, beispielsweise auf das unerlaubte Herunterladen von urheberrechtlich geschützten Inhalten.

Die dystopische Zukunft ist da

Regulierungsanstrengungen erstrecken sich im Allgemeinen von der Zensur gewalttätiger Hassrede auf andere, die von einigen als kontrovers angesehen werden, wie zum Beispiel die von Black Lives Matter. Die Regierungen auf der ganzen Welt üben regelmäßig Druck auf Vermittler aus Zensur und Track Kritiker und politische Gegner.

Wenn wichtige Intermediäre zu Aufsichtsbehörden werden, die für die Überwachung von Inhalten im Auftrag von Regierungen oder als Reaktion auf Protestaktionen verantwortlich sind, steigt ihre ohnehin schon beträchtliche Macht. In den USA ansässige Internet-Unternehmen dominieren bereits viele Branchen, darunter Suche, Werbung, Domain-Registrierung, Zahlungsverkehr und soziale Medien. Cloudflare's Prince zu Recht gewarnt Durch die Abhängigkeit von „wenigen riesigen Netzwerken“ wird eine „kleine Anzahl von Unternehmen weitgehend bestimmen, was online sein kann und was nicht“.

Diese dystopische Zukunft ist bereits da.

Der Abbau des Daily Stormer macht die Welt zweifellos zu einem besseren Ort. Aber wollen wir wirklich, dass Unternehmen wie Facebook und Twitter unabhängig, willkürlich und geheim entscheiden, auf welche Inhalte wir zugreifen und sie teilen können?

Was können wir angesichts dieser scheinbar hartnäckigen Probleme tun? Erstens sollten wir es vermeiden, auf der Grundlage von Protesten oder Druck der Medien zu regieren. Stattdessen, Wir brauchen klare Regeln Vermittler in die Lage zu versetzen, konsistent, transparent und mit Respekt vor dem ordnungsgemäßen Verfahren zu reagieren, wie von Prince empfohlen

Die Regierungen sollten die Art und vor allem die Einschränkungen der Regulierungsaufgaben der Intermediäre klarstellen. Schließlich müssen wir auf die Regulierung als Reaktion auf bestimmte Krisen - so genannte "falsche Nachrichten", Terrorismus und Hassgruppen, verzichten und stattdessen kritisch darüber nachdenken, wie wir das Internet regieren können und sollen.

Über den Autor

Natasha Tusikov, Assistenzprofessorin, Kriminologie, Abteilung für Sozialwissenschaften, York Universität, Kanada

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.

Bücher zum Thema

at InnerSelf Market und Amazon