Informationen sind ein wertvolles Gut. Und dank der Technologie gibt es sie Millionen Terabyte davon online.

Tools der künstlichen Intelligenz (KI) wie ChatGPT verwalten diese Informationen nun in unserem Namen – sie sammeln sie, fassen sie zusammen und präsentieren sie uns zurück.

Doch diese „Auslagerung“ des Informationsmanagements auf KI – so praktisch sie auch ist – hat Konsequenzen. Es kann nicht nur beeinflussen was wir denken, aber möglicherweise auch wie wir glauben.

Was passiert in einer Welt, in der KI-Algorithmen entscheiden, welche Informationen erhalten bleiben und was auf der Strecke bleibt?

Der Aufstieg der personalisierten KI

Generative KI-Tools basieren auf Modellen, die auf Hunderten von Gigabytes trainiert wurden bereits vorhandene Daten. Anhand dieser Daten lernen sie, selbstständig Texte, Bilder, Audio- und Videoinhalte zu erstellen und können auf Benutzeranfragen reagieren, indem sie die „wahrscheinlichste“ Antwort zusammenstellen.

ChatGPT wird verwendet von Millionen Leute, obwohl es vor weniger als einem Jahr öffentlich veröffentlicht wurde. Im Juni kam die Hinzufügung von benutzerdefinierte Antworten machte den ohnehin schon beeindruckenden Chatbot noch nützlicher. Mit dieser Funktion können Benutzer benutzerdefinierte Anweisungen speichern, die erklären, wofür sie den Bot verwenden und wie er reagieren soll.

Dies ist eines von mehreren Beispielen für „personalisierte KI“: eine Kategorie von KI-Tools, die Inhalte generieren, die den spezifischen Bedürfnissen und Vorlieben des Benutzers entsprechen.

Ein weiteres Beispiel ist das kürzlich eingeführte Meta virtueller Assistent, Meta-KI. Dieser Chatbot kann Gespräche führen, Bilder erstellen und Aufgaben auf den Plattformen von Meta ausführen, darunter WhatsApp, Messenger und Instagram.

Mustafa Suleyman, Forscher für künstliche Intelligenz und Mitbegründer von DeepMind, beschreibt personalisierte KI ist eher eine Beziehung als eine Technologie:

Es ist ein Freund. […] Es wird wirklich immer präsent sein und an Ihrer Seite sein, mit Ihnen leben – im Grunde genommen in Ihrem Team. Ich stelle es mir gerne so vor, als hätte man einen großartigen Trainer an seiner Seite.

Allerdings sind diese Technologien auch umstritten und es werden Bedenken geäußert Datenhoheit, vorspannen und Fehlinformation.

Technologieunternehmen versuchen, Wege zu finden, diese Probleme zu bekämpfen. Beispielsweise hat Google Quelllinks zu von KI erstellten Suchzusammenfassungen hinzugefügt Generative Sucherfahrung (SGE)-Tool, das Anfang des Jahres unter Beschuss geriet aufbieten ungenaue und problematische Antworten.

Die Technologie hat unser Denken bereits verändert

Wie werden generative KI-Tools – und insbesondere solche, die auf uns zugeschnitten sind – unser Denken verändern?

Um dies zu verstehen, werfen wir einen Blick auf die frühen 1990er Jahre, als das Internet zum ersten Mal in unser Leben kam. Die Menschen konnten plötzlich auf Informationen über so ziemlich alles zugreifen, sei es Bankgeschäfte, Backen, Unterrichten oder Reisen.

Fast 30 Jahre später haben Studien gezeigt, wie die Verbindung mit diesem globalen „Hive Mind“ unsere Wahrnehmung, unser Gedächtnis und unsere Kreativität verändert hat.

Zum Beispiel sofortigen Zugriff auf das Äquivalent von 305.5 Milliarden Seiten der Informationen hat die Menschen erhöht Metawissen – also ihr Wissen über Wissen. Eine Auswirkung davon ist die „Google-Effekt„: ein Phänomen, bei dem die Online-Suche unsere Fähigkeit, Informationen zu finden, erhöht, aber unsere Erinnerung daran, um welche Informationen es sich handelt, verringert.

Einerseits hat sich gezeigt, dass die Verlagerung unseres Denkens auf Suchmaschinen unsere mentalen Reserven freisetzt Problemlösung und kreatives Denken. Andererseits wird der Online-Informationsabruf mit einer Zunahme in Verbindung gebracht Ablenkbarkeit und Abhängigkeit.

Untersuchungen zeigen auch, dass die Online-Suche – unabhängig von der Menge oder Qualität der abgerufenen Informationen – unsere Produktivität steigert kognitives Selbstwertgefühl. Mit anderen Worten: Es stärkt unseren Glauben an unsere eigene „Klugheit“.

Kombinieren Sie dies mit der Tatsache, dass Das Hinterfragen von Informationen ist mühsam – und je mehr wir unserer Suchmaschine vertrauen, desto weniger kritisch sind wir sich mit seinen Ergebnissen auseinandersetzen – und Sie können sehen, warum der Zugang zu beispiellosen Informationsmengen uns nicht unbedingt klüger macht.

Sollten wir unser Denken „auslagern“?

Heutige generative KI-Tools gehen viel weiter, als uns nur Suchergebnisse zu präsentieren. Sie suchen die Informationen für uns, bewerten sie, synthetisieren sie und präsentieren sie uns zurück.

Welche Auswirkungen könnte das haben? Ohne die Förderung einer von Menschen geleiteten Qualitätskontrolle sind die Aussichten nicht vielversprechend.

Die Fähigkeit der generativen KI, Reaktionen zu erzeugen, die sich vertraut, objektiv und ansprechend anfühlen, macht uns anfälliger für kognitive Voreingenommenheit.

Das AutomatisierungsverzerrungBeispielsweise ist es die menschliche Tendenz, die Integrität maschinell gewonnener Informationen zu überschätzen. Und das bloße Bloßstellung Der Effekt besteht darin, dass wir eher Informationen vertrauen, die als vertraut oder persönlich dargestellt werden.

Forschung in sozialen Medien kann uns helfen, die Auswirkungen solcher Vorurteile zu verstehen. In einer Studie aus dem Jahr 2016 berichteten Facebook-Nutzer sich besser „auf dem Laufenden“ fühlen basierend auf der Menge der online veröffentlichten Nachrichteninhalte – und nicht darauf, wie viel davon sie tatsächlich lesen.

Wir wissen auch, dass „Filterblasen„, die von Social-Media-Algorithmen erstellt werden – bei denen unsere Feeds nach unseren Interessen gefiltert werden – schränken die Vielfalt der Inhalte ein, denen wir ausgesetzt sind.

Es hat sich gezeigt, dass dieser Prozess der Informationsverengung zunimmt ideologische Polarisierung indem die Neigung der Menschen, alternative Perspektiven in Betracht zu ziehen, verringert wird. Es hat sich auch gezeigt, dass es unsere Wahrscheinlichkeit erhöht, dieser Krankheit ausgesetzt zu sein gefälschte Nachrichten.

KI nutzen, um klug zu werden und nicht zu verdummen

Generative KI ist zweifellos eine revolutionäre Kraft mit dem Potenzial, Großes für die Gesellschaft zu bewirken. Es könnte unser Bildungssystem umgestalten, indem es Folgendes bereitstellt personalisierte Inhalte, ändern Sie unsere Arbeitspraktiken durch Beschleunigung Schreiben und Informationsanalyse, und verschieben Sie die Grenzen von wissenschaftliche Entdeckung.

Es hat sogar das Potenzial, unsere Beziehungen positiv zu verändern, indem es uns hilft, mit anderen zu kommunizieren und Kontakte zu knüpfen, und kann manchmal auch als... fungieren Form der synthetischen Kameradschaft.

Aber wenn unsere einzige Möglichkeit, die Zukunft zu beurteilen, darin besteht, in die Vergangenheit zu blicken, ist es vielleicht jetzt an der Zeit, darüber nachzudenken, wie sowohl das Internet als auch die sozialen Medien unsere Erkenntnisse verändert haben, und einige davon anzuwenden Vorsichtsmaßnahmen. Entwicklung KI-Kompetenz ist ein guter Ausgangspunkt, ebenso wie die Entwicklung von KI-Tools, die menschliche Autonomie und kritisches Denken fördern.

Letztendlich müssen wir beide unsere eigenen verstehen und die Stärken und Schwächen der KI um sicherzustellen, dass diese „denkenden“ Begleiter uns helfen, die Zukunft zu gestalten, die wir wollen – und nicht die, die zufällig ganz oben auf der Liste steht.

Sarah Vivienne Bentley, Forschungswissenschaftler, Verantwortungsvolle Innovation, Data61, CSIRO; Claire Maurer, Leitender Forschungswissenschaftler, CSIRO und Einat Grimberg, Postdoktorand in Technologie- und Sozialwissenschaften, CSIRO

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.