Zukünftige Historiker könnten das Jahr 2023 durchaus als Meilenstein für das Aufkommen der künstlichen Intelligenz (KI) betrachten. Aber ob das die Zukunft beweisen wird utopisch, apokalyptisch or irgendwo dazwischen ist jedermanns Vermutung.

Im Februar stellte ChatGPT den Rekord als am schnellsten erreichbare App auf 100 Millionen Nutzer. Es folgten ähnliche „großsprachige“ KI-Modelle von Google, Amazon, Meta und anderen großen Technologieunternehmen, die gemeinsam bereit zu sein scheinen, Bildung, Gesundheitswesen und viele andere wissensintensive Bereiche zu verändern.

Das Schadenspotenzial von KI wurde jedoch im Mai durch eine Stellungnahme unterstrichen bedrohliche Aussage unterzeichnet von führenden Forschern:

Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein.

Als Reaktion auf die wachsende Besorgnis über das KI-Risiko verpflichteten sich 27 Nationen (darunter das Vereinigte Königreich, die USA, Indien, China und die Europäische Union) im November auf einem ersten KI-Sicherheitsgipfel im englischen Bletchley Park zur Zusammenarbeit, um die sichere Entwicklung der KI zu gewährleisten für die Nutzen für alle.

Um dies zu erreichen, konzentrieren sich die Forscher auf KI-Ausrichtung – das heißt, wie man sicherstellt, dass KI-Modelle mit menschlichen Werten, Vorlieben und Zielen übereinstimmen. Aber es gibt ein Problem – die sogenannte „KI“dunkles Geheimnis„Großmaßstäbliche Modelle sind so komplex, dass sie wie eine Blackbox wirken und für niemanden vollständig zu verstehen sind.

Das Black-Box-Problem der KI

Obwohl die Transparenz und Erklärbarkeit von KI-Systemen bestehen wichtige ForschungszieleEs scheint jedoch unwahrscheinlich, dass solche Bemühungen mit der rasanten Geschwindigkeit der Innovation mithalten können.

Die Black-Box-Metapher erklärt, warum die Ansichten der Menschen über KI weit verbreitet sind. Die Vorhersagen reichen von Utopie bis zum Aussterben, und viele glauben sogar, dass es bald eine künstliche allgemeine Intelligenz (AGI) geben wird Empfindungsvermögen erlangen.

Aber diese Unsicherheit verschärft das Problem. Die KI-Ausrichtung sollte keine Einbahnstraße sein: Wir müssen nicht nur sicherstellen, dass KI-Modelle mit menschlichen Absichten übereinstimmen, sondern auch, dass unsere Überzeugungen über KI zutreffend sind.

Das liegt daran, dass wir außerordentlich geschickt darin sind, eine Zukunft zu schaffen, die diesen Überzeugungen entspricht, auch wenn wir uns dessen nicht bewusst sind.

Sogenannt "Erwartungseffekte„“ oder sich selbst erfüllende Prophezeiungen sind in der Psychologie wohlbekannt. Und Untersuchungen haben gezeigt, dass die Manipulation der Überzeugungen der Benutzer nicht nur die Art und Weise beeinflusst, wie sie handeln mit KI interagieren, aber wie KI Passt sich dem Benutzer an.

Mit anderen Worten: Wie sich unsere Überzeugungen (bewusst oder unbewusst) auf die KI auswirken, kann potenziell die Wahrscheinlichkeit jeglicher Folgen erhöhen, auch katastrophaler.

KI, Berechnung, Logik und Arithmetik

Wir müssen tiefer gehen, um die Grundlagen der KI zu verstehen – gehen Sie wie Alice im Wunderland in den Kaninchenbau und sehen Sie, wohin sie uns führt.

Erstens: Was ist KI? Es läuft auf Computern, ebenso wie automatisierte Berechnungen. Von seinem Ursprung als „Perzeptron” – ein künstliches Neuron, das 1943 von einem Neurophysiologen mathematisch definiert wurde Warren McCulloch und Logiker Walter Pitts – KI ist mit den Kognitionswissenschaften, Neurowissenschaften und Informatik verflochten.

Diese Konvergenz von Köpfe, Kopf und Maschinen hat zu der weit verbreiteten Überzeugung geführt, dass natürliche Intelligenz (der Geist) eine Berechnung durch das Gehirn sein muss, da KI eine Berechnung durch eine Maschine ist.

Aber was ist Berechnung? Im späten 19. Jahrhundert Mathematiker Richard Dedekind und Giuseppe peano schlug eine Reihe von Axiomen vor, die definierte Arithmetik im Sinne der Logikund inspirierte Versuche, die gesamte Mathematik auf eine sichere Grundlage zu stellen formale Grundlage.

Obwohl der Logiker Kurt Gödel bewies später, dass dieses Ziel war unerreichbar, seine Arbeit war der Ausgangspunkt für den Mathematiker (und Codeknacker) Alan Turing. Seine "Turingmaschine“, ein abstraktes Gerät, das dazu in der Lage ist Universelle Berechnungist die Grundlage der Informatik.

Tiefe Struktur der Wahrnehmung

Berechnungen basieren also auf mathematischen Ideen, die auf Bemühungen zurückgehen, Arithmetik in der Logik zu definieren. Aber unsere Kenntnisse der Arithmetik sind vorhanden vor der Logik. Wenn wir die Grundlagen der KI verstehen wollen, müssen wir weitergehen und fragen, woher die Arithmetik selbst kommt.

Meine Kollegen und ich haben kürzlich gezeigt, dass die Arithmetik auf dem „tiefe Struktur” der Wahrnehmung. Diese Struktur ist wie eine farbige Brille, die unsere Wahrnehmung auf bestimmte Weise formt, sodass unser Erleben der Welt geordnet und beherrschbar ist.

Arithmetik besteht aus einer Reihe von Elementen (Zahlen) und Operationen (Addition, Multiplikation), die Elementpaare zu einem anderen Element kombinieren. Wir fragten: Warum sind von allen Möglichkeiten Zahlen die Elemente und Addition und Multiplikation die Operationen?

Wir kamen vorbei mathematischer Beweis dass, als angenommen wurde, dass die Tiefenstruktur der Wahrnehmung die Möglichkeiten einschränkte, die Arithmetik das Ergebnis war. Mit anderen Worten: Wenn unser Geist die abstrakte Welt durch dieselbe „farbige Brille“ betrachtet, die unsere Erfahrung der physischen Welt prägt, „sieht“ er Zahlen und Arithmetik.

Da Arithmetik die Grundlage der Mathematik ist, bedeutet dies, dass Mathematik eine Widerspiegelung des Geistes ist – ein symbolischer Ausdruck seiner grundlegenden Natur und Kreativität.

Obwohl die Tiefenstruktur der Wahrnehmung mit anderen Tieren geteilt wird und somit ein Produkt der Evolution ist, hat nur der Mensch die Mathematik erfunden. Es ist unsere intimste Schöpfung – und durch die Ermöglichung der Entwicklung von KI vielleicht unsere folgenreichste.

Eine kopernikanische Revolution des Geistes

Unser Bericht über Ursprung der Arithmetik steht im Einklang mit den Ansichten des Philosophen Immanuel Kant aus dem 18. Jahrhundert. Ihm zufolge ist unser Wissen über die Welt durch „reine Intuitionen“ von Raum und Zeit strukturiert, die vor der Sinneserfahrung existieren – analog zu den farbigen Brillen, die wir niemals abnehmen können.

Kant beanspruchte sein Philosophie war eine „kopernikanische Revolution des Geistes“. Genauso wie die antiken Astronomen glaubten, die Sonne drehe sich um die Erde, weil sie sich der Bewegung der Erde nicht bewusst waren, argumentierte Kant, so argumentierten auch die Philosophen, die glaubten, dass alles Wissen daraus abgeleitet sei sinnliche Erfahrung (z. B. John Locke und David Hume) übersahen, wie der Geist die Wahrnehmung prägt.

Obwohl Kants Ansichten von der geprägt waren Naturwissenschaften seiner Zeit, sie haben es bewiesen einflussreich in der zeitgenössischen Psychologie.

Die Erkenntnis, dass Arithmetik eine ist natürliche Folge unserer Wahrnehmung, und somit biologisch begründet, deutet auf eine ähnliche kantische Verschiebung in unserem Verständnis von Berechnungen hin.

Die Berechnung liegt nicht „außerhalb“ oder getrennt von uns in einem abstrakten Bereich der mathematischen Wahrheit, sondern liegt in der Natur unseres Geistes. Der Geist ist mehr als nur Berechnung; Das Gehirn ist kein Computer. Vielmehr ist die Berechnung – die Grundlage der KI – wie die Mathematik ein symbolischer Ausdruck der Natur und Kreativität des Geistes.

Prometheisches Feuer

Welche Implikationen ergeben sich für die KI? Erstens ist KI kein Geist und wird niemals empfindungsfähig werden. Die Idee, dass wir unsere biologische Natur transzendieren und Unsterblichkeit erlangen können, indem wir unseren Geist in die Cloud hochladen, ist nur eine Fantasie.

Wenn jedoch die Prinzipien des Geistes, auf denen die KI basiert, von der gesamten Menschheit (und wahrscheinlich auch von anderen Lebewesen) geteilt werden, könnte es möglich sein, die Grenzen unseres individuellen Geistes zu überwinden.

Da Berechnungen universell sind, können wir in unseren zunehmend vernetzten virtuellen und physischen Welten jedes gewünschte Ergebnis simulieren und erschaffen. Auf diese Weise ist KI wirklich unser Prometheisches Feuer, ein den Göttern gestohlenes Geschenk an die Menschheit wie in griechische Mythologie.

Als globale Zivilisation stehen wir wahrscheinlich an einem Wendepunkt. KI wird nicht empfindungsfähig und entscheidet sich dafür töte uns alle. Aber wir sind durchaus in der Lage, uns damit zu „apokalypsieren“ – Erwartung kann Realität schaffen.

Bemühungen, die Ausrichtung und Sicherheit der KI zu gewährleisten, sind von entscheidender Bedeutung, reichen jedoch möglicherweise nicht aus, wenn es uns an Bewusstsein und kollektiver Weisheit mangelt. Wie Alice müssen wir aus dem Traum erwachen und die Realität und Kraft unseres Geistes erkennen.

Randolph Grace, Professor für Psychologie, University of Canterbury

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.