Shutterstock

Künstliche Intelligenz (KI) lernt mehr darüber, wie man mit (und an) Menschen arbeitet. EIN aktuellen Studie hat gezeigt, wie KI lernen kann, Schwachstellen in menschlichen Gewohnheiten und Verhaltensweisen zu identifizieren und sie zur Beeinflussung menschlicher Entscheidungen zu nutzen.

Es mag klischeehaft erscheinen zu sagen, dass KI jeden Aspekt unserer Lebens- und Arbeitsweise verändert, aber es ist wahr. Verschiedene Formen der KI wirken in so unterschiedlichen Bereichen wie Impfstoffentwicklung, Umweltmanagement und Büroverwaltung. Und während KI keine menschenähnliche Intelligenz und Emotionen besitzt, sind ihre Fähigkeiten mächtig und entwickeln sich schnell.

Es besteht noch kein Grund zur Sorge über eine Maschinenübernahme, aber diese jüngste Entdeckung unterstreicht die Leistungsfähigkeit der KI und unterstreicht die Notwendigkeit einer ordnungsgemäßen Steuerung, um Missbrauch zu verhindern.

Wie KI lernen kann, menschliches Verhalten zu beeinflussen

Ein Team von Forschern an CSIROs Data61, der Daten- und Digitalarm der australischen nationalen Wissenschaftsagentur, entwickelte eine systematische Methode zum Auffinden und Ausnutzen von Schwachstellen in der Art und Weise, wie Menschen Entscheidungen treffen, unter Verwendung einer Art KI-System, das als wiederkehrendes neuronales Netzwerk bezeichnet wird, und tiefgreifendes Lernen zur Verstärkung. Um ihr Modell zu testen, führten sie drei Experimente durch, bei denen menschliche Teilnehmer Spiele gegen einen Computer spielten.

Das erste Experiment umfasste Teilnehmer, die auf rot oder blau gefärbte Kästchen klickten, um eine gefälschte Währung zu gewinnen. Die KI lernte die Auswahlmuster des Teilnehmers und führte sie zu einer bestimmten Auswahl. Die KI war in etwa 70% der Fälle erfolgreich.

Im zweiten Experiment mussten die Teilnehmer einen Bildschirm betrachten und eine Taste drücken, wenn ihnen ein bestimmtes Symbol angezeigt wird (z. B. ein orangefarbenes Dreieck), und nicht drücken, wenn ihnen ein anderes angezeigt wird (z. B. ein blauer Kreis). Hier machte sich die KI daran, die Reihenfolge der Symbole so anzuordnen, dass die Teilnehmer mehr Fehler machten und eine Steigerung von fast 25% erzielten.

Das dritte Experiment bestand aus mehreren Runden, in denen ein Teilnehmer vorgab, ein Investor zu sein, der einem Treuhänder (der KI) Geld gab. Die KI würde dann dem Teilnehmer einen Geldbetrag zurückgeben, der dann entscheiden würde, wie viel in die nächste Runde investiert werden soll. Dieses Spiel wurde in zwei verschiedenen Modi gespielt: In einem wollte die KI maximieren, wie viel Geld sie letztendlich hatte, und in dem anderen strebte die KI eine gerechte Verteilung des Geldes zwischen sich und dem menschlichen Investor an. Die KI war in jedem Modus sehr erfolgreich.

In jedem Experiment lernte die Maschine aus den Antworten der Teilnehmer und identifizierte und zielte auf Schwachstellen bei der Entscheidungsfindung der Menschen ab. Das Endergebnis war, dass die Maschine gelernt hatte, die Teilnehmer zu bestimmten Aktionen zu führen.

In Experimenten n Das KI-System hat erfolgreich gelernt, menschliche Entscheidungen zu beeinflussen. Shutterstock

Was die Forschung für die Zukunft der KI bedeutet

Diese Ergebnisse sind immer noch recht abstrakt und beinhalten begrenzte und unrealistische Situationen. Weitere Untersuchungen sind erforderlich, um festzustellen, wie dieser Ansatz in die Tat umgesetzt und zum Nutzen der Gesellschaft eingesetzt werden kann.

Die Forschung fördert jedoch nicht nur unser Verständnis dafür, was KI kann, sondern auch, wie Menschen Entscheidungen treffen. Es zeigt, dass Maschinen durch ihre Interaktion mit uns lernen können, menschliche Entscheidungen zu steuern.

Die Forschung hat eine enorme Bandbreite möglicher Anwendungen, von der Verbesserung der Verhaltenswissenschaften und der öffentlichen Ordnung zur Verbesserung der sozialen Wohlfahrt bis hin zum Verständnis und zur Beeinflussung, wie Menschen gesunde Essgewohnheiten oder erneuerbare Energien annehmen. KI und maschinelles Lernen könnten verwendet werden, um die Schwachstellen von Menschen in bestimmten Situationen zu erkennen und ihnen zu helfen, schlechte Entscheidungen zu vermeiden.

Die Methode kann auch zur Abwehr von Einflussangriffen eingesetzt werden. Maschinen könnten gelehrt werden, uns zu warnen, wenn wir beispielsweise online beeinflusst werden, und uns dabei zu helfen, ein Verhalten zu entwickeln, um unsere Verwundbarkeit zu verschleiern (z. B. indem wir nicht auf einige Seiten klicken oder auf andere klicken, um eine falsche Spur zu hinterlassen).

Was kommt als nächstes?

Wie jede Technologie kann KI für gut oder schlecht eingesetzt werden, und eine ordnungsgemäße Verwaltung ist entscheidend, um sicherzustellen, dass sie verantwortungsbewusst implementiert wird. Letztes Jahr hat CSIRO eine KI-Ethik-Framework für die australische Regierung als frühen Schritt auf diesem Weg.

KI und maschinelles Lernen sind in der Regel sehr datenhungrig. Daher ist es wichtig sicherzustellen, dass wir über wirksame Systeme für die Datenverwaltung und den Datenzugriff verfügen. Die Implementierung angemessener Einwilligungsverfahren und des Schutzes der Privatsphäre beim Sammeln von Daten ist unerlässlich.

Unternehmen, die KI einsetzen und entwickeln, müssen sicherstellen, dass sie wissen, was diese Technologien können und was nicht, und sich potenzieller Risiken und Vorteile bewusst sein.

Über den Autor

Jon Whittle, Regisseur, Daten61

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.