Wie künstliche Intelligenzsysteme die Demokratie bedrohen könnten

Privatleben

US-Technologieriese Microsoft hat sich mit einer chinesischen Militäruniversität zusammengetan entwickeln künstliche Intelligenzsysteme Dies könnte möglicherweise die Möglichkeiten der staatlichen Überwachung und Zensur verbessern. Zwei US-Senatoren öffentlich verurteilt die Partnerschaft, aber was die Nationale Universität für Verteidigungstechnologie in China will von Microsoft nicht die einzige Sorge.

As meine Forschung zeigtwirkt sich das Aufkommen der digitalen Unterdrückung tiefgreifend aus die Beziehung zwischen Bürger und Staat. Neue Technologien rüsten Regierungen mit beispiellosen Fähigkeiten zur Überwachung, Verfolgung und Überwachung einzelner Menschen auf. Auch Regierungen in Demokratien mit starken Traditionen von Rechtsstaatlichkeit finden sich versucht zu missbrauchen diese neuen Fähigkeiten.

In Staaten mit unerklärliche Institutionen und häufige MenschenrechtsverletzungenKI-Systeme verursachen höchstwahrscheinlich größeren Schaden. China ist ein prominentes Beispiel. Seine Führung hat KI-Technologien begeistert aufgenommen und die Welt gegründet am raffiniertesten Überwachungsstaat in Provinz XinjiangVerfolgt die täglichen Bewegungen der Bürger und die Nutzung des Smartphones.

Seine Nutzung dieser Technologien präsentiert ein cooles Modell für Mitautokraten und eine direkte Bedrohung für offene demokratische Gesellschaften. Obwohl es keine Beweise dafür gibt, dass andere Regierungen dieses Niveau der KI-Überwachung nachgeahmt haben, exportieren chinesische Unternehmen weltweit aktiv dieselben zugrunde liegenden Technologien.

Zunehmende Abhängigkeit von AI-Tools in den USA

Künstliche Intelligenzsysteme Überall in der modernen Welt sind Smartphones, Internet-Suchmaschinen, digitale Sprachassistenten und Netflix-Filmwarteschlangen installiert. Viele Menschen wissen es nicht Wie schnell sich die KI dank immer größerer zu analysierender Datenmengen ausdehnt, um Algorithmen und fortschrittliche Computerchips zu verbessern.

Immer wenn mehr Informationen zur Verfügung stehen und die Analyse einfacher wird, sind die Regierungen interessiert - und nicht nur autoritäre. In den USA zum Beispiel sahen die 1970 Enthüllungen, die Regierungsbehörden - wie das FBI, die CIA und die NSA - aufgestellt hatten expansive inländische Überwachungsnetze Bürgerrechtsaktivisten, politische Aktivisten und indianische Gruppen zu überwachen und zu belästigen. Diese Probleme sind nicht beseitigt: Die digitale Technologie hat die Fähigkeit von noch mehr Agenturen, eine noch aufdringlichere Überwachung durchzuführen, vertieft.

Privatleben Wie fair sagen Algorithmen voraus, wo die Polizei am stärksten fokussiert sein sollte? Arnout de Vries


Holen Sie sich das Neueste von InnerSelf


Zum Beispiel hat die US-Polizei KI-Technologien eifrig angenommen. Sie haben damit begonnen, Software zu verwenden soll vorhersagen, wo Verbrechen passieren werden zu entscheiden, wohin die Beamten auf Patrouille geschickt werden sollen. Sie benutzen auch Gesichtserkennung und DNA-Analyse bei strafrechtlichen Ermittlungen. Aber Analysen dieser Systeme zeigen die Daten, auf denen diese Systeme trainiert sind sind oft voreingenommen und führen zu unfaire Ergebnisse, sowie fälschlicherweise festgestellt, dass Afroamerikaner eher Straftaten begehen als andere Gruppen.

KI-Überwachung auf der ganzen Welt

In autoritären Ländern können KI-Systeme die interne Kontrolle und Überwachung direkt unterstützen und helfen Innere Sicherheitskräfte verarbeiten riesige Mengen an Informationen - einschließlich Social-Media-Posts, Textnachrichten, E-Mails und Telefonanrufen - schneller und effizienter. Die Polizei kann soziale Trends erkennen und bestimmte Menschen wer könnte das Regime aufgrund der von diesen Systemen aufgedeckten Informationen bedrohen.

Beispielsweise hat die chinesische Regierung KI in Regionen, in denen ethnische Minderheiten in China leben, in großem Maßstab eingesetzt. Überwachungssysteme in Xinjiang und Tibet wurden beschrieben alsOrwellian. ”Diese Bemühungen haben enthalten obligatorische DNA-Proben, Wi-Fi-Netzwerküberwachung und weit verbreitete Gesichtserkennungskameras, alle mit integrierten Datenanalyseplattformen verbunden. Mit Hilfe dieser Systeme haben chinesische Behörden nach Angaben des US-Außenministeriums „willkürlich inhaftiert“ zwischen 1 und 2 Millionen Menschen.

My Die Forschung befasst sich mit 90-Ländern auf der ganzen Welt mit Regierungstypen von geschlossenen autoritären bis hin zu fehlerhaften Demokratien, darunter Thailand, die Türkei, Bangladesch und Kenia. Ich habe festgestellt, dass chinesische Unternehmen sind AI-Überwachungstechnologie exportieren zu mindestens 54 dieser Länder. Häufig ist diese Technologie Teil des Flaggschiffs Chinas Gürtel und Straßen Initiative, die ein umfangreiches Netz von Straßen, Eisenbahnen, Energiepipelines und Telekommunikationsnetzen finanziert 60% der Weltbevölkerung dienen und Volkswirtschaften, die 40% des globalen BIP erwirtschaften.

Zum Beispiel mögen chinesische Unternehmen Huawei und ZTE bauen „Smart Cities“ in Pakistan, die Phillipinen und Kenia, mit umfangreicher eingebauter Überwachungstechnologie. Zum Beispiel hat Huawei ausgestattet Bonifacio Global City auf den Philippinen mit hochauflösenden, mit dem Internet verbundenen Kameras, die24 / 7 intelligente Sicherheitsüberwachung mit Datenanalysen zur Aufdeckung von Straftaten und zur Verwaltung des Datenverkehrs. “

Privatleben Bonifacio Global City auf den Philippinen verfügt über zahlreiche eingebettete Überwachungsgeräte. alveo land / Wikimedia Commons

Hikvision, Yitu und SenseTime liefern hochmoderne Gesichtserkennungskameras für den Einsatz an Orten wie Singapur - die die Einrichtung eines Überwachungsprogramms mit 110,000-Kameras auf Laternenpfählen montiert um den Stadtstaat. Simbabwe schafft eine nationale Bilddatenbank das kann für die Gesichtserkennung verwendet werden.

Der Verkauf fortschrittlicher Geräte zu Gewinnzwecken unterscheidet sich jedoch vom Austausch von Technologie mit einem ausdrücklichen geopolitischen Zweck. Diese neuen Funktionen können die Samen für die globale Überwachung pflanzen: Da die Regierungen auf chinesische Technologie zunehmend abhängig werden, um ihre Bevölkerung zu verwalten und Macht zu halten, werden sie stärker unter Druck konfrontiert mit Chinas Agenda auszurichten. Derzeit scheint es jedoch das Hauptmotiv Chinas zu sein, den Markt für neue Technologien zu dominieren und dabei viel Geld zu verdienen.

KI und Desinformation

AI bietet nicht nur umfassende und präzise Überwachungsfunktionen, sondern kann auch dazu beitragen, dass repressive Regierungen die verfügbaren Informationen manipulieren und Desinformationen verbreiten. Diese Kampagnen können automatisiert oder durch Automatisierung unterstützt und bereitgestellt werden hyperpersonalisierte Nachrichten gerichtet auf - oder gegen - bestimmte Menschen oder Gruppen.

AI untermauert auch die Technologie, die allgemein alsDeepfake, ”In denen Algorithmen erstellen realistische Video- und Audiofälschungen. Muddying das Wasser zwischen Wahrheit und Fiktion in einer engen Wahl nützlich werden, wenn ein Kandidat gefälschte Videos schaffen könnte, einen Gegner zu tun und sagen Dinge zeigt, die nie wirklich passiert ist.

Ein frühes Deepfake-Video zeigt einige der Gefahren der fortschrittlichen Technologie.

Meines Erachtens sollte die Politik in Demokratien denken Sie sorgfältig über die Risiken der KI-Systeme, um ihre eigenen Gesellschaften und die Menschen unter autoritären Regimen leben auf der ganzen Welt. Eine kritische Frage ist, wie viele Länder das chinesische Modell der digitalen Überwachung übernehmen werden. Aber nicht nur autoritäre Länder spüren die Anziehungskraft. Und es sind nicht nur chinesische Unternehmen, die die Technologie verbreiten: Viele US-Unternehmen, auch Microsoft IBM, Cisco und Thermo Fisher Auch böse Regierungen verfügen über ausgefeilte Fähigkeiten. Der Missbrauch von KI ist nicht auf autokratische Staaten beschränkt.Das Gespräch

Über den Autor

Steven Feldstein, Frank und Bethine Church, Lehrstuhl für öffentliche Angelegenheiten und außerordentlicher Professor, School of Public Service, Boise State University

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.

Bücher zum Thema

{amazonWS: searchindex = Bücher; keywords = KI-Überwachung; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

Folge InnerSelf weiter

facebook-icontwitter-iconRSS-Symbol

Holen Sie sich das Neueste per E-Mail

{Emailcloak = off}