Forscher haben ein Modell entwickelt, mit dem sich vorhersagen lässt, welche Online-Konversationen sich möglicherweise abzeichnen und entgleisen.

Nach der Analyse hunderter Austauschprozesse zwischen Wikipedia-Redakteuren entwickelten die Forscher ein Computerprogramm, das zu Beginn einer Konversation nach Warnzeichen in der Sprache der Teilnehmer sucht - etwa nach wiederholten, direkten Fragen oder nach dem Wort "Sie" - um vorherzusagen, was zuerst geschah Bürgergespräche würden schief gehen. (Anmerkung des Editors: Informationen zum Online-Quiz finden Sie am Ende dieses Artikels.) ("Rate mal, welche Konversation schief geht") Online-Quiz: http://awry.infosci.cornell.edu/)

Früherer Austausch, der Grüße, Dankesbekundungen, Hecken wie "es scheint" und die Wörter "ich" und "wir" enthielten, wurde eher zivilisiert, fand die Studie heraus.

"Es gibt Millionen solcher Diskussionen, die jeden Tag stattfinden, und du kannst sie unmöglich alle live überwachen. Ein auf diesem Befund basierendes System könnte den menschlichen Moderatoren helfen, ihre Aufmerksamkeit besser zu lenken ", sagt Cristian Danescu-Niculescu-Mizil, Dozent für Informationswissenschaft an der Cornell University und Koautor von das Papier.

"Wir, als Menschen, haben eine Intuition, ob eine Unterhaltung schief geht, aber es ist oft nur ein Verdacht. Wir können es nicht 100 Prozent der Zeit tun. Wir fragen uns, ob wir Systeme bauen können, um diese Intuition zu reproduzieren oder sogar darüber hinauszugehen ", sagt Danescu-Niculescu-Mizil.

Das Computermodell, das auch Google's Perspective, ein maschinelles Lernwerkzeug zur Bewertung der "Toxizität", berücksichtigt, war zu 65 Prozent der Zeit korrekt. Menschen schätzten 72 Prozent der Zeit korrekt.

Menschen können ihre eigene Fähigkeit testen, welche Gespräche bei einem Online-Quiz entgleisen werden.

Die Studie analysierte 1,270-Konversationen, die zivilisiert begannen, aber zu persönlichen Angriffen degenerierten, die aus 50-Millionen-Konversationen über 16 Millionen Wikipedia-Gesprächsthemen stammten, auf denen Redakteure Artikel oder andere Themen diskutierten. Sie untersuchten den Austausch in Paaren und verglichen jedes Gespräch, das schlecht endete, mit einem, das zum selben Thema erfolgreich war, so dass die Ergebnisse nicht durch sensible Themen wie die Politik verzerrt wurden.

Die Forscher hoffen, dass dieses Modell verwendet werden kann, um gefährdete Gespräche zu retten und den Online-Dialog zu verbessern, anstatt bestimmte Nutzer zu verbieten oder bestimmte Themen zu zensieren. Einige Online-Poster, wie zum Beispiel nicht-englische Muttersprachler, erkennen möglicherweise nicht, dass sie als aggressiv wahrgenommen werden können, und Anstupser aus einem solchen System könnten ihnen helfen, sich selbst anzupassen.

"Wenn ich Werkzeuge habe, die persönliche Angriffe finden, ist es schon zu spät, weil der Angriff bereits passiert ist und die Leute ihn bereits gesehen haben", sagt Co-Autor Jonathan P. Chang, Doktorand in Cornell. "Aber wenn du verstehst, dass dieses Gespräch in eine schlechte Richtung geht und etwas unternimmt, könnte das den Ort ein wenig freundlicher machen."

Das Paper, das zusammen mit weiteren Mitarbeitern von Jigsaw und der Wikimedia Foundation verfasst wurde, wird Teil des Jahrestreffens der Association for Computational Linguistics (Juli 2018) in Melbourne, Australien sein.

*****

Rate mal, welche Unterhaltung schief geht!

Online Quiz Anleitung:

In dieser Aufgabe werden Ihnen 15-Unterhaltungspaare angezeigt. Für jede Konversation werden nur die ersten beiden Kommentare in der Konversation angezeigt. Ihre Aufgabe besteht darin, basierend auf diesen Konversationsstartern zu erraten, welche Konversation wahrscheinlicher ist führt schließlich zu einem persönlichen Angriff von einem der beiden ursprünglichen Benutzer. 

Nachdem Sie jede Frage beantwortet haben, erhalten Sie eine sofortige Rückmeldung, ob Ihre Antwort richtig war (grün markiert) oder falsch (rot markiert).

Weitere Details:

Bei Ihrer Vermutung sollten Sie die folgende Definition eines persönlichen Angriffs als Referenz verwenden:

A persönlicher Angriff ist ein Kommentar, der unhöflich, beleidigend oder respektlos gegenüber einer Person / Gruppe oder gegenüber dieser Person / Gruppe Aktionen und / oder Arbeit ist.

Denken Sie daran, dass Sie in den Kommentaren keine persönlichen Angriffe suchen gezeigt. Vielmehr sollten Sie Ihre Intuition der sozialen Dynamik verwenden, um zu entscheiden, welcher Austausch eher dazu führt, dass einer der Teilnehmer einen persönlichen Angriff (der Ihnen nicht angezeigt wird) veröffentlicht. 

Manchmal scheint es so, als würde weder ein Zitat zu einem Angriff führen, noch dass beide gleichermaßen wahrscheinlich sind. Bitte beachten Sie jedoch, dass die Quellengespräche bereits von Menschen kommentiert wurden und tatsächlich zu einem persönlichen Angriff führen. Tun Sie Ihr Bestes, um diese bestehenden Etiketten zu "bergen"! 

Dies ist keine leichte Aufgabe, und es kann einige Minuten dauern, um jede Frage zu beantworten. Da dies eine schwierige Aufgabe ist, sind die ersten drei Fragen "Aufwärmfragen", die sich nicht auf Ihre Punktzahl auswirken; Sie sind da, um Ihnen zu helfen, Ihren Sinn dafür, welche Faktoren zukünftige Angriffe signalisieren können, zu "kalibrieren". Aber erinnere dich, Ihre Aufgabe besteht darin, so viele Etiketten wie möglich wiederherzustellen. 

Aufgrund der Art der Aufgabe können einige dieser Kommentare anstößige Inhalte enthalten. Das tut uns leid.

Klicken Sie hier für ein Online-Quiz.

Quelle: Cornell University

Bücher zum Thema

at InnerSelf Market und Amazon