Mit der Kürzliche Entlassung und schnelle Wiedereinstellung von Sam Altman von OpenAI stehen erneut Debatten rund um die Entwicklung und den Einsatz künstlicher Intelligenz (KI) im Mittelpunkt. Was noch ungewöhnlicher ist, ist, dass ein wichtiges Thema in der Medienberichterstattung die Fähigkeit war KI-Systeme zum Rechnen.
Anscheinend hing ein Teil des Dramas bei OpenAI mit der Entwicklung eines neuen Systems durch das Unternehmen zusammen KI-Algorithmus namens Q*. Das System wurde als bedeutender Fortschritt bezeichnet und eines seiner herausragenden Merkmale war die Fähigkeit, mathematisch zu argumentieren.
Aber ist Mathematik nicht die Grundlage der KI? Wie könnte ein KI-System Probleme mit dem mathematischen Denken haben, wenn man bedenkt, dass Computer und Taschenrechner mathematische Aufgaben ausführen können?
KI ist keine einzelne Einheit. Es handelt sich um einen Flickenteppich aus Strategien zur Durchführung von Berechnungen ohne direkte Anweisung von Menschen. Wie wir sehen werden, sind einige KI-Systeme in Mathematik kompetent.
Allerdings hat eine der wichtigsten aktuellen Technologien, die großen Sprachmodelle (LLMs) hinter KI-Chatbots wie ChatGPT, bisher Schwierigkeiten, mathematisches Denken nachzuahmen. Dies liegt daran, dass sie so konzipiert sind, dass sie sich auf die Sprache konzentrieren.
Wenn der neue Q*-Algorithmus des Unternehmens unbekannte mathematische Probleme lösen kann, dann könnte das durchaus sein ein bedeutender Durchbruch sein. Mathematik ist eine alte Form des menschlichen Denkens Große Sprachmodelle (LLMs) haben bisher Schwierigkeiten gehabt, sie nachzuahmen. LLMs sind die Technologie, die Systemen wie zugrunde liegt ChatGPT von OpenAI.
Zum Zeitpunkt des Verfassens dieses Artikels sind die Details des Q*-Algorithmus und seiner Fähigkeiten begrenzt, aber äußerst faszinierend. Bevor Q* als Erfolg gewertet wird, müssen also verschiedene Feinheiten berücksichtigt werden.
Beispielsweise ist Mathematik ein Fach, mit dem sich jeder in unterschiedlichem Ausmaß beschäftigt, und es bleibt unklar, auf welchem mathematischen Niveau Q* kompetent ist. Es wurden jedoch wissenschaftliche Arbeiten veröffentlicht, die alternative Formen der KI nutzen, um die Mathematik auf Forschungsniveau voranzutreiben (darunter auch einige, die ich selbst geschrieben habeund eines, das von einem Team von Mathematikern in Zusammenarbeit mit Forschern von Google DeepMind verfasst wurde.
Diese KI-Systeme könnten als kompetent in Mathematik bezeichnet werden. Es ist jedoch wahrscheinlich, dass Q* nicht dazu dient, Wissenschaftlern bei ihrer Arbeit zu helfen, sondern eher für einen anderen Zweck gedacht ist.
Auch wenn Q* nicht in der Lage ist, die Grenzen der Spitzenforschung zu verschieben, so ist es doch sehr wahrscheinlich, dass in der Art und Weise, wie es gebaut wurde, eine gewisse Bedeutung zu finden ist, die verlockende Möglichkeiten für die zukünftige Entwicklung eröffnen könnte.
Immer komfortabler
Als Gesellschaft fühlen wir uns immer wohler damit, dass spezialisierte KI zur Lösung vorgegebener Problemtypen eingesetzt wird. Zum Beispiel, digitale Assistenten, Gesichtserkennung und Online-Empfehlungssysteme wird den meisten Menschen bekannt sein. Was schwer fassbar bleibt, ist ein sogenanntes „Künstliche Allgemeine Intelligenz“ (AGI) das über umfassende Denkfähigkeiten verfügt, die mit denen eines Menschen vergleichbar sind.
Mathematik ist eine Grundkompetenz, die wir jedem Schulkind vermitteln möchten und die sicherlich als grundlegender Meilenstein bei der Suche nach AGI gelten würde. Wie sonst könnten mathematisch kompetente KI-Systeme der Gesellschaft helfen?
Die mathematische Denkweise ist für eine Vielzahl von Anwendungen relevant, beispielsweise für Codierung und Technik, und daher ist mathematisches Denken eine wichtige übertragbare Fähigkeit sowohl für die menschliche als auch für die künstliche Intelligenz. Eine Ironie besteht darin, dass KI grundsätzlich auf Mathematik basiert.
Viele der von KI-Algorithmen implementierten Techniken laufen beispielsweise letztlich auf einen mathematischen Bereich hinaus, der als „…“ bezeichnet wird Matrixalgebra. Eine Matrix ist einfach ein Zahlenraster, wofür ein digitales Bild ein bekanntes Beispiel ist. Jedes Pixel ist nichts weiter als numerische Daten.
Auch große Sprachmodelle sind von Natur aus mathematisch. Anhand einer großen Textprobe kann eine Maschine die Wahrscheinlichkeiten für die Wörter lernen, die es gibt höchstwahrscheinlich einer Aufforderung (oder Frage) des Benutzers folgen zum Chatbot. Wenn Sie möchten, dass sich ein vorab ausgebildeter LLM auf ein bestimmtes Thema spezialisiert, kann er auf mathematische Literatur oder einen anderen Lernbereich abgestimmt werden. Ein LLM kann Texte generieren, die sich lesen, als ob sie Mathematik verstehen würden.
Leider führt dies zu einem LLM, das zwar gut blufft, aber schlecht im Detail ist. Das Problem besteht darin, dass einer mathematischen Aussage per Definition eine Aussage zugeordnet werden kann eindeutiger boolescher Wert (das heißt, wahr oder falsch). Beim mathematischen Denken geht es um die logische Ableitung neuer mathematischer Aussagen aus bereits etablierten.
des Teufels Anwalt
Natürlich wird jeder Ansatz zum mathematischen Denken, der auf sprachlichen Wahrscheinlichkeiten beruht, von seiner Spur abweichen. Eine Möglichkeit, dies zu umgehen, könnte darin bestehen, ein System der formalen Verifizierung in die Architektur zu integrieren (genau wie das LLM aufgebaut ist), das die Logik hinter den Sprüngen des großen Sprachmodells kontinuierlich überprüft.
Ein Hinweis darauf, dass dies geschehen ist, könnte im Namen Q* liegen, der sich plausibel darauf beziehen könnte ein Algorithmus, der bereits in den 1970er Jahren entwickelt wurde um beim deduktiven Denken zu helfen. Alternativ könnte sich Q* auf Q-Learning beziehen, bei dem sich ein Modell im Laufe der Zeit verbessern kann, indem es auf korrekte Schlussfolgerungen prüft und diese belohnt.
Beim Aufbau mathematisch leistungsfähiger KIs bestehen jedoch mehrere Herausforderungen. Beispielsweise bestehen einige der interessantesten Mathematikereignisse aus höchst unwahrscheinlichen Ereignissen. Es gibt viele Situationen, in denen man denken könnte, dass ein Muster existiert, das auf kleinen Zahlen basiert, dieses jedoch unerwartet zusammenbricht, wenn man genügend Fälle überprüft. Diese Fähigkeit lässt sich nur schwer in eine Maschine integrieren.
Eine weitere Herausforderung könnte überraschend sein: Mathematische Forschung kann sehr kreativ sein. Das muss so sein, denn Praktiker müssen neue Konzepte erfinden und dennoch innerhalb der Vorgaben bleiben formale Regeln eines antiken Themas.
Eine KI-Methodik, die nur darauf trainiert ist, Muster in bereits existierender Mathematik zu finden, könnte vermutlich niemals wirklich neue Mathematik schaffen. Angesichts der Verbindung zwischen Mathematik und Technologie scheint dies die Konzeption neuer technologischer Revolutionen auszuschließen.
Aber spielen wir für einen Moment den Advokaten des Teufels und stellen wir uns vor, ob KI tatsächlich neue Mathematik schaffen könnte. Das bisherige Argument dagegen hat einen Fehler, denn man könnte auch sagen, dass die besten menschlichen Mathematiker ebenfalls ausschließlich auf bereits existierender Mathematik ausgebildet wurden. Große Sprachmodelle haben uns schon einmal überrascht und werden es wieder tun.
Tom Oliver, Dozent, Informatik und Ingenieurwesen, University of Westminster
Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.
