Wie Big Tech seine eigenen Ethikregeln entwirft, um Kontrolle und Verantwortlichkeit zu vermeiden

Datenethik ist heute ein Célèbre.

"Digitale Ethik und Datenschutz" wurden in das Forschungs- und Beratungsunternehmen Gartner's aufgenommen Top Ten der strategischen Technologietrends für 2019. Davor wurde kaum etwas erwähnt.

Im vergangenen Jahr Regierungen, Konzerne und Politik und Technologie Think Tanks haben veröffentlicht Datenethik Führungen. Eine ganze Kohorte von Datenethikern hat sich magisch materialisiert.

Warum dieses plötzliche Interesse an Datenethik? Was ist Datenethik? Wessen Interessen dienen die Richtlinien?

Um zu verstehen, was los ist, ist es notwendig, einen Schritt zurückzutreten und sich anzusehen, wie sich die Informationslandschaft entwickelt hat.

Das Bild, das sich abzeichnet, zeigt eine Branche, die gegen die regulatorischen Beschränkungen, die für alle anderen gelten, immun ist.


Innerself-Abonnieren-Grafik


Der Glanz ist weg

In den letzten Jahren hat die Informationsbranche an Glanz verloren.

Das Snowden Offenbarungen, der Cambridge Analytica Skandal, Social Media ermöglicht Hassreden, der Waffe der Information und ihre Rolle bei der Untergrabung demokratischer Institutionen haben alle dazu beigetragen.

Das Geschäftsmodell, mit dem persönliche Informationen für den Verkauf von Werbung monetarisiert werden, wird jetzt als faustisches Geschäft angesehen - vielleicht lohnt sich das Opfer doch nicht. Von 2017 zu 2018 gab es eine 6% Rückgang der Facebook-Nutzer in den USA auf dem lukrativen 12-34-Markt.

Diese Bedenken haben zu Aufforderungen zur Regulierung geführt. Diese haben jedoch Probleme, sich gegen die vorherrschende regulatorische Orthodoxie für den Technologiesektor durchzusetzen. Dies geht auf Al Gore zurück fünf Prinzipien für die Aktivierung der so genannten "globalen Informationsautobahn".

Das dritte Prinzip lautete, dass die Regulierungspolitik „einen flexiblen Regulierungsrahmen schaffen würde, der mit den raschen technologischen und marktbedingten Veränderungen Schritt halten kann“. Dies war Code für keine Regulierung oder Selbstregulierung. In Australien war es bekannt als "Light Touch" -Regelung.

Big Tech handelte mit Straflosigkeit, weitgehend befreit von alltäglichen Bedenken der „alten“ Wirtschaft wie Verbraucherschutz, Produkthaftung, Wettbewerbsrecht oder insbesondere Datenschutz.

Kreise näher

Europa hat diesen Laissez-Faire-Ansatz nie vollständig übernommen. Der Datenschutz stand schon immer ganz oben auf der Tagesordnung und mündete in die 2018-Datenschutzgrundverordnung (DSGVO). Dies bietet Einzelpersonen in der Europäischen Union die weltweit umfassendsten Datenschutzrechte. Die Rechte haben eine extraterritoriale Reichweite, beinhalten regulatorische Aufsicht und beschäftigen zivilrechtliche Bußgelder von augenscheinlichem Ausmaß. Andere Gerichtsbarkeiten beginnen zu folgen.

Parallel dazu beginnen Regulierungsbehörden aus anderen Disziplinen, sich zu kreisen. Die kartellrechtlichen Aufsichtsbehörden beschäftigen sich erneut mit Informationsmonopolen und dem Einsatz von Marktmacht durch Big-Tech-Unternehmen, um den Wettbewerb einzuschränken.

In Australien forderte der ACCC a neue Regulierungsbehörde Überwachung und Untersuchung der Wirkung von Algorithmen auf das Ranking von Nachrichten und journalistischen Inhalten.

Der Bericht des UK Select Committee on Communications zum Thema Regulierung in einer digitalen Welt hat hat eine neue Digital Authority empfohlen Überwachung der „fragmentierten“ Regulierung des digitalen Umfelds anhand von zehn Regulierungsprinzipien, wobei festzuhalten ist, dass die „Elfenregulierung durch Online-Plattformen eindeutig fehlschlägt“. Menschenrechtsregulierungsbehörden untersuchen die Rolle von Algorithmen bei der Schaffung und Verankerung von Diskriminierung.

Daten bedeuten Geld

Big Tech will nicht reguliert werden. Sie möchte nicht, dass ihre unbegrenzte Möglichkeit, persönliche Informationen zu sammeln, eingeschränkt wird oder dass Schutzmaßnahmen vom Typ GDPR zur globalen Norm werden. Persönliche Informationen sind das Rohmaterial für die Algorithmen, mit denen unsere Aufmerksamkeit monetarisiert werden kann.

Für eine Branche, die stolz darauf ist, „disruptiv“ zu sein, ist es die größte Sorge der Big Tech, das sich verschärfende regulatorische Umfeld zu verhindern, um selbst nicht gestört zu werden. Die Datenethik ist eines der Mittel, die sie zur Bekämpfung der Regulierung entwickelt hat. Dies geschieht, indem die mit der Ethik verbundenen Tugenden angeeignet, aber von Inhalt oder Konsequenz befreit werden.

Nehmen Googles Prinzipien für KI. (AI ist künstliche Intelligenz). Diese sind:

  • sozial nützlich sein
  • Vermeiden Sie es, unfaire Vorurteile zu erzeugen oder zu verstärken
  • gebaut und auf Sicherheit geprüft werden
  • gegenüber Menschen rechenschaftspflichtig sein
  • Gestaltungsprinzipien für den Datenschutz einbeziehen
  • Aufrechterhaltung hoher Standards für wissenschaftliche Spitzenleistungen
  • für Verwendungen zur Verfügung gestellt werden, die diesen Grundsätzen entsprechen.

Diese „Prinzipien“ ähneln auffallend den auf Instagram veröffentlichten Wohlfühl-Homilien, die uns auffordern, „gut miteinander umzugehen“ oder nicht „die Sonne auf unseren Zorn untergehen zu lassen“, und sind ungefähr genauso nützlich.

Wirklich? Screenshot vom März 28 2019

Auf die Probe stellen

Testen wir eines der Prinzipien von Google: "Seien Sie den Menschen gegenüber rechenschaftspflichtig."

Hier gibt es mehrere Zweideutigkeitsschichten. Bedeutet dies, dass die KI-Algorithmen von Google gegenüber "Personen" im Allgemeinen, gegenüber den "Personen" von Google oder gegenüber den "Personen" einer anderen Person, beispielsweise einem unabhängigen Regulierer, rechenschaftspflichtig sein sollten?

Wird Google in letzterem Fall den Algorithmus für die Analyse bereitstellen, etwaige Fehler korrigieren und den entstandenen Schaden kompensieren?

Wenn Googles KI-Algorithmen fälschlicherweise zu dem Schluss kommen, dass ich ein Terrorist bin, und diese Informationen dann an nationale Sicherheitsbehörden weiterleiten, die diese Informationen verwenden, um mich festzunehmen, ohne Kontakt zur Außenwelt zu halten und mich zu verhören, wird Google für seine Fahrlässigkeit oder meinen Beitrag zu einer falschen Inhaftierung verantwortlich gemacht? Wie wird es zur Rechenschaft gezogen? Wen bitte ich um Gerechtigkeit, wenn ich mit Googles Version der Rechenschaftspflicht unzufrieden bin?

Nützliche Ethik beinhaltet Rechenschaftspflicht

Die Ethik befasst sich mit den moralischen Prinzipien, die Einfluss darauf haben, wie Individuen Entscheidungen treffen und wie sie ihr Leben führen.

Ethik wurde seit Äonen untersucht und diskutiert. Innerhalb der westlichen Traditionen wird die Ethik zurückverfolgt Sokrates. Dazu gehören philosophische Positionen wie deontologische (pflichtbezogene) Ethik, Konsequentialismus, Utilitarismus und Existentialismus, um nur einige zu nennen. Es ist nicht überraschend, dass keine dieser Antworten die gleichen Antworten auf die Fragen liefert, was eine Person unter bestimmten Umständen tun muss.

"Angewandte Ethik" zielt darauf ab, die Prinzipien der Ethik auf reale Situationen anzuwenden. Es gibt zahlreiche Beispiele.

Die Ethik des öffentlichen Sektors ist gesetzlich geregelt. Es gibt Konsequenzen für diejenigen, die gegen sie verstoßen, einschließlich Disziplinarmaßnahmen, Beendigung des Arbeitsverhältnisses und manchmal strafrechtlicher Sanktionen. Um Anwalt zu werden, musste ich einem Gericht den Nachweis erbringen, dass ich eine „gesunde und ordentliche Person“ bin. Um weiter üben zu können, muss ich die detaillierten Anforderungen erfüllen, die in den australischen Verhaltensregeln für Anwälte festgelegt sind. Wenn ich sie verletze, gibt es Konsequenzen.

Angewandte Ethik zeichnet sich dadurch aus, dass sie spezifisch ist, Feedback-Schleifen gibt, Leitlinien zur Verfügung stehen, in die Organisations- und Berufskultur eingebettet sind, dass eine ordnungsgemäße Aufsicht besteht, dass bei Verstößen Konsequenzen auftreten und dass es unabhängige Durchsetzungsmechanismen und echte Abhilfemaßnahmen gibt . Sie sind Teil eines Regulierungsapparats und nicht nur „Wohlfühl-Aussagen“.

Gute, hochrangige Prinzipien der Datenethik eignen sich nicht für die Regulierung von Big Tech. Angewandte Ethik mag eine Rolle spielen, aber weil sie berufs- oder disziplinspezifisch sind, kann man sich nicht darauf verlassen, dass sie das schwere Heben vollständig oder sogar größtenteils erledigt.

Die mit Big Tech verbundenen Schäden können nur durch eine ordnungsgemäße Regulierung behoben werden.Das Gespräch

Über den Autor

David Watts, Professor für Informationsrecht und -politik, La Trobe University

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.

Bücher zum Thema:

at InnerSelf Market und Amazon