Ahmet Misirligul / Shutterstock

Der Kurzfilm Slaughterbots zeigt eine nahe Zukunft, in der Schwärme von Mikrodrohnen Tausende von Menschen für ihren politischen Glauben ermorden. Erschienen im November 2017 Von Wissenschaftlern und Aktivisten vor den Gefahren der fortgeschrittenen künstlichen Intelligenz (KI) gewarnt, wurde es schnell viral und zog bisher mehr als 3m-Aufrufe an. Es half ein Funken Öffentliche Debatte über die Zukunft autonomer Waffen und übte Druck auf das Diplomatentreffen bei den Vereinten Nationen aus Übereinkommen über konventionelle Waffen.

Diese Art von spekulativem Science-Fiction-Geschichtenerzählen ist jedoch nicht nur nützlich, um Aufmerksamkeit zu erregen. Die Menschen, die fortschrittliche Technologien entwerfen und bauen, können anhand von Geschichten die Konsequenzen ihrer Arbeit abwägen und sicherstellen, dass diese für immer genutzt wird. Und wir glauben, dass diese Art von „Science-Fiction-Prototyping“ oder „Design-Fiction“ dazu beitragen könnte, dass menschliche Vorurteile nicht in neue Technologien eindringen und die Vorurteile und Ungerechtigkeiten der Gesellschaft weiter festigen.

{vembed Y=9CO6M2HsoIA}

Ein Bias kann dazu führen, dass bestimmte Kategorien (Ergebnisse, Personen oder Ideen) willkürlich anderen vorgezogen werden. Zum Beispiel könnten manche Leute voreingenommen sein, Frauen für Führungsaufgaben einzustellen, unabhängig davon, ob sie sich dessen bewusst sind oder nicht.

Technologie, die auf Daten aufbaut, die eine solche Verzerrung aufzeichnen, kann enden das Problem zu replizieren. Zum Beispiel könnte eine Rekrutierungssoftware, die die besten Lebensläufe für einen bestimmten Job auswählt, so programmiert werden, dass nach Merkmalen gesucht wird, die eine unbewusste Neigung gegenüber Männern widerspiegeln. In diesem Fall begünstigt der Algorithmus die Lebensläufe der Männer. Und das ist nicht theoretisch - es ist eigentlich mit Amazon passiert.

Entwerfen von Algorithmen ohne Berücksichtigung möglicher negativer Auswirkungen wurde verglichen den Ärzten „über die Vorteile einer bestimmten Behandlung schreiben und die Nebenwirkungen völlig ignorieren, egal wie ernst sie sind“.

Einige Technologiefirmen und Forscher versuchen, das Problem anzugehen. Zum Beispiel hat Google eine Reihe von ethischen Grundsätzen um die Entwicklung der KI zu leiten. Und britische Wissenschaftler haben eine Initiative namens ins Leben gerufen Nicht gleich das zielt darauf ab, mehr Fairness und Gerechtigkeit bei der Gestaltung und Nutzung von Technologie zu fördern.

Das Problem ist, dass Unternehmen in der Öffentlichkeit dazu neigen, nur eine positive Vision der möglichen Folgen von Technologien der nahen Zukunft zu liefern. Beispielsweise werden fahrerlose Autos häufig als Lösung all unserer Transportprobleme von den Kosten bis zur Sicherheit dargestellt, wobei die gestiegenen Kosten ignoriert werden Gefahren von Cyberangriffen oder die Tatsache, dass sie die Menschen dazu ermutigen könnten zu Fuß oder mit dem Fahrrad weniger.

Die Schwierigkeit, die Funktionsweise digitaler Technologien zu verstehen, insbesondere jene, die stark von undurchsichtigen Algorithmen bestimmt werden, erschwert es den Menschen auch, eine komplexe und umfassende Sicht auf die Probleme zu haben. Diese Situation erzeugt eine Spannung zwischen einer beruhigenden positiven Erzählung und dem vagen Verdacht, dass Vorurteile zu einem gewissen Grad in die Technologien um uns herum eingebettet sind. Hier kann unserer Meinung nach das Geschichtenerzählen durch Design-Fiction zum Tragen kommen.

Geschichten sind eine natürliche Methode, um über Möglichkeiten und komplexe Situationen nachzudenken, und wir haben sie unser ganzes Leben lang gehört. Science Fiction kann uns helfen, über die Auswirkungen von Technologien der nahen Zukunft auf die Gesellschaft zu spekulieren, so wie es Slaughterbots tut. Dies kann auch Fragen der sozialen Gerechtigkeit einschließen, wie dies bei bestimmten Gruppen wie Flüchtlingen und Migranten der Fall sein kann ausgenommen von digitale Innovationen.

Die (mögliche) Zukunft aufdecken

Entwerfen Sie fiktive Geschichten bieten Designern, Ingenieuren und Zukunftsforschern (unter anderem) eine neue Möglichkeit, die Auswirkungen von Technologie aus menschlicher Sicht zu betrachten und diese mit möglichen zukünftigen Anforderungen zu verknüpfen. Mit einer Mischung aus Logik und Vorstellungskraft kann Design Fiction Aspekte der Übernahme und Nutzung von Technologie aufdecken und Gespräche über diese beginnen zukünftige Auswirkungen.

Zum Beispiel die Kurzgeschichte „Crime-Sourcing”Untersucht, was passieren könnte, wenn AI Crowdsourcing-Informationen und eine kriminelle Datenbank verwenden würde, um vorherzusagen, wer einen Mord begehen könnte. Die Forscher stellten fest, dass das „Crime-Sourcing“ -Modell aufgrund der Tatsache, dass die Datenbank mit Personen aus ethnischen Minderheitengruppen gefüllt war, die aus sozialen Gründen statistisch gesehen häufiger zu einer erneuten Zuwiderhandlung neigten Minderheiten zu Unrecht verdächtigen als weiße Leute.

Man muss kein talentierter Schriftsteller sein oder einen tollen Film machen, um Design-Fiction zu produzieren. Brainstorming-Aktivitäten mit Karten und Storyboards wurden verwendet Design Fiction zu entwickeln und dabei zu helfen, den Storytelling-Prozess zu entwickeln. Die Verbreitung von Workshops, in denen diese Art von Instrumenten zum Einsatz kommt, würde es mehr Ingenieuren, Unternehmern und politischen Entscheidungsträgern ermöglichen, diese Bewertungsmethode anzuwenden. Die Veröffentlichung der daraus resultierenden Arbeiten würde dazu beitragen, potenzielle Verzerrungen bei Technologien aufzudecken, bevor sie Auswirkungen auf die Gesellschaft haben.

Durch die Anregung von Designern, auf diese Weise mehr Geschichten zu erstellen und zu teilen, würde sichergestellt, dass die Darstellung, die der neuen Technologie zugrunde liegt, nicht nur ein positives, noch ein äußerst negatives oder dystopisches Bild liefert. Stattdessen werden die Menschen in der Lage sein, beide Aspekte des Geschehens um uns herum zu schätzen.

Über die Autoren

Alessio Malizia, Professor für User Experience Design, University of Hertfordshire und Silvio Carta, Leiter Kunst und Design und Vorsitzender der Forschungsgruppe Design, University of Hertfordshire

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.