Suchmaschinen bieten häufig eine verzerrende Mischung aus Informationen und Fehlinformationen. Crispin la valiente / Moment über Getty Images, CC BY-ND

Suchmaschinen sind eines der wichtigsten Tore der Gesellschaft zu Informationen und Menschen, aber sie sind auch Kanäle für Fehlinformationen. Ähnlich zu problematische Social-Media-AlgorithmenSuchmaschinen lernen, Ihnen zu dienen, was Sie und andere zuvor angeklickt haben. Da die Menschen von der Sensation angezogen werden, kann dieser Tanz zwischen Algorithmen und der menschlichen Natur die Verbreitung von Fehlinformationen fördern.

Suchmaschinenunternehmen verdienen wie die meisten Online-Dienste Geld nicht nur durch den Verkauf von Anzeigen, sondern auch durch die Verfolgung von Nutzern und den Verkauf ihrer Daten durch Echtzeit-Gebote darauf. Menschen werden oft durch ihren Wunsch nach sensationellen und unterhaltsamen Nachrichten sowie Informationen, die entweder kontrovers sind oder ihre Ansichten bestätigen, zu Fehlinformationen geführt. Eine Studie ergab, dass populärere YouTube-Videos über Diabetes sind weniger wahrscheinlich, medizinisch gültige Informationen zu haben als weniger beliebte Videos zu diesem Thema zum Beispiel.

Anzeigengesteuerte Suchmaschinen wie Social Media-Plattformen sollen das Klicken auf verlockende Links belohnen, da sie den Suchunternehmen dabei helfen, ihre Geschäftsmetriken zu verbessern. Als Forscher, der studiert die Such- und EmpfehlungssystemeIch und meine Kollegen zeigen, dass diese gefährliche Kombination aus Unternehmensgewinnmotiv und individueller Anfälligkeit macht es schwierig, das Problem zu beheben.

Wie Suchergebnisse schief gehen

Wenn Sie auf ein Suchergebnis klicken, erfährt der Suchalgorithmus, dass der Link, auf den Sie geklickt haben, für Ihre Suchanfrage relevant ist. Das nennt man Relevanz Feedback. Dieses Feedback hilft der Suchmaschine, diesem Link in Zukunft für diese Abfrage ein höheres Gewicht zu verleihen. Wenn genügend Leute genügend oft auf diesen Link klicken und so ein starkes Feedback zur Relevanz geben, wird diese Website in den Suchergebnissen für diese und verwandte Abfragen höher angezeigt.

Menschen sind Klicken Sie eher auf die oben angezeigten Links auf der Suchergebnisliste. Dies führt zu einer positiven Rückkopplungsschleife - je höher eine Website angezeigt wird, desto mehr Klicks gibt es, und diese Website bewegt sich höher oder hält sie höher. Suchmaschinenoptimierungstechniken nutzen dieses Wissen, um die Sichtbarkeit von Websites zu erhöhen.

Dieses Fehlinformationsproblem hat zwei Aspekte: Wie wird ein Suchalgorithmus bewertet und wie reagiert der Mensch auf Überschriften, Titel und Ausschnitte? Suchmaschinen werden, wie die meisten Online-Dienste, anhand einer Reihe von Metriken beurteilt, von denen eine die Benutzerinteraktion ist. Es liegt im Interesse der Suchmaschinenunternehmen, Ihnen Dinge zu geben, die Sie lesen, ansehen oder einfach anklicken möchten. Wenn eine Suchmaschine oder ein Empfehlungssystem eine Liste der anzuzeigenden Elemente erstellt, berechnet sie daher die Wahrscheinlichkeit, dass Sie auf die Elemente klicken.

Traditionell sollte dies die Informationen hervorbringen, die am relevantesten sind. Der Begriff der Relevanz ist jedoch verschwommen, weil die Leute die Suche verwendet haben, um zu finden unterhaltsame Suchergebnisse sowie wirklich relevante Informationen.

Stellen Sie sich vor, Sie suchen einen Klavierstimmer. Wenn Ihnen jemand ein Video von einer Katze zeigt, die Klavier spielt, würden Sie darauf klicken? Viele würden, auch wenn das nichts mit Klavierstimmen zu tun hat. Der Suchdienst fühlt sich mit positivem Relevanz-Feedback bestätigt und erfährt, dass es in Ordnung ist, eine Katze zu zeigen, die Klavier spielt, wenn Menschen nach Klavierstimmern suchen.

In vielen Fällen ist es sogar noch besser, als die relevanten Ergebnisse zu zeigen. Die Leute schauen sich gerne lustige Katzenvideos an und das Suchsystem erhält mehr Klicks und mehr Benutzereingriffe.

Dies könnte harmlos erscheinen. Was ist, wenn die Leute von Zeit zu Zeit abgelenkt werden und auf Ergebnisse klicken, die für die Suchanfrage nicht relevant sind? Das Problem ist, dass die Menschen von aufregenden Bildern und sensationellen Schlagzeilen angezogen werden. Sie neigen dazu, auf Verschwörungstheorien und sensationelle Nachrichten zu klicken, nicht nur Katzen, die Klavier spielen, und das auch mehr als nur auf echte Neuigkeiten zu klicken oder relevante Informationen.

Berühmte, aber falsche Spinnen

Im Jahr 2018 sucht nach "neue tödliche Spinne" auf Google versetzt Nach einem Facebook-Post, in dem behauptet wurde, eine neue tödliche Spinne habe mehrere Menschen in mehreren Bundesstaaten getötet. Meine Kollegen und ich haben in der ersten Woche dieser Trendabfrage die 100 besten Ergebnisse der Google-Suche nach „neuer tödlicher Spinne“ analysiert.

Die ersten beiden Seiten der Google-Suchergebnisse für "Neue tödliche Spinne" im August 2018 (schattierter Bereich) bezogen sich auf den ursprünglichen gefälschten Nachrichtenbeitrag zu diesem Thema, nicht auf entlarvende oder anderweitig sachliche Informationen. Chirag Schah, CC BY-ND

Es stellte sich diese Geschichte heraus war falsch, aber die Leute, die danach suchten, waren größtenteils Fehlinformationen im Zusammenhang mit dem ursprünglichen gefälschten Beitrag ausgesetzt. Während die Nutzer weiterhin auf diese Fehlinformationen klickten und diese weitergaben, stellte Google diese Seiten weiterhin oben in den Suchergebnissen bereit.

Dieses Muster von aufregenden und nicht verifizierten Geschichten, die auftauchen und auf die Menschen klicken, setzt sich fort, wobei die Menschen anscheinend entweder nicht an der Wahrheit interessiert sind oder glauben, dass die Geschichten wahr sein müssen, wenn ein vertrauenswürdiger Dienst wie die Google-Suche ihnen diese Geschichten zeigt. In jüngerer Zeit a widerlegter Bericht Die Behauptung, China habe das Coronavirus aus einem Labor austreten lassen, hat aufgrund dieses Teufelskreises bei Suchmaschinen an Bedeutung gewonnen.

Finde die Fehlinformationen

Um zu testen, wie gut Menschen zwischen genauen Informationen und Fehlinformationen unterscheiden, haben wir ein einfaches Spiel namens „Google oder nicht. ” Dieses Online-Spiel zeigt zwei Ergebnissätze für dieselbe Abfrage. Das Ziel ist einfach: Wählen Sie das Set aus, das zuverlässig, vertrauenswürdig oder am relevantesten ist.

In Tests kann etwa die Hälfte der Zeit nicht den Unterschied zwischen Google-Suchergebnissen mit Fehlinformationen und solchen mit nur vertrauenswürdigen Ergebnissen feststellen. Chirag Schah, CC BY-ND

Einer dieser beiden Sätze hat ein oder zwei Ergebnisse, die entweder verifiziert und als Fehlinformation oder als entlarvte Geschichte gekennzeichnet werden. Wir haben das Spiel öffentlich zugänglich gemacht und über verschiedene Social-Media-Kanäle beworben. Insgesamt haben wir 2,100 Antworten aus über 30 Ländern gesammelt.

Als wir die Ergebnisse analysierten, fanden wir das Etwa die Hälfte der Zeit, in der Menschen fälschlicherweise das Set mit ein oder zwei Fehlinformationen als vertrauenswürdig auswählten. Unsere Experimente mit Hunderten anderer Benutzer über viele Iterationen haben zu ähnlichen Ergebnissen geführt. Mit anderen Worten, ungefähr die Hälfte der Zeit, in der Menschen Ergebnisse auswählen, die Verschwörungstheorien und falsche Nachrichten enthalten. Je mehr Menschen diese ungenauen und irreführenden Ergebnisse auswählen, desto mehr lernen die Suchmaschinen, dass dies das ist, was die Menschen wollen.

Abgesehen von Fragen der Big Tech-Regulierung und Selbstregulierung ist es wichtig, dass die Menschen verstehen, wie diese Systeme funktionieren und wie sie Geld verdienen. Andernfalls werden Marktwirtschaften und die natürliche Neigung der Menschen, sich für auffällige Verbindungen zu interessieren, den Teufelskreis am Laufen halten.

Über den Autor

Chirag Shah, außerordentlicher Professor für Informationswissenschaft, Universität von Washington

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.