Getty Images

Künstliche Intelligenz (KI) entwickelt sich schnell und wird zu einem wichtigen Hilfsmittel in der klinischen Versorgung. Forschungsergebnisse deuten darauf hin, dass KI-Algorithmen dies genau können Melanome erkennen und zukünftigen Brustkrebs vorhersagen.

Aber bevor KI in den routinemäßigen klinischen Einsatz integriert werden kann, müssen wir uns der Herausforderung der algorithmischen Verzerrung stellen. KI-Algorithmen können inhärente Vorurteile aufweisen, die zu Diskriminierung und Datenschutzproblemen führen können. KI-Systeme könnten auch ohne die erforderliche Aufsicht oder menschliche Eingabe Entscheidungen treffen.

 Ein Beispiel für die potenziell schädlichen Auswirkungen von KI stammt aus einem internationales Projekt das darauf abzielt, KI einzusetzen, um Leben zu retten, indem es bahnbrechende medizinische Behandlungen entwickelt. In einem Experiment kehrte das Team sein „gutes“ KI-Modell um, um Optionen für ein neues KI-Modell zu schaffen, das „Schaden“ anrichtet.

In weniger als sechs Stunden Training generierte der umgekehrte KI-Algorithmus Zehntausende potenzieller chemischer Kampfstoffe, von denen viele gefährlicher waren als aktuelle Kampfstoffe. Dies ist ein extremes Beispiel für chemische Verbindungen, aber es dient als Weckruf, um die bekannten und möglicherweise nicht erkennbaren ethischen Konsequenzen der KI zu bewerten.

KI in der klinischen Versorgung

In der Medizin haben wir es mit den privatesten Daten der Menschen und oft lebensverändernden Entscheidungen zu tun. Robuste KI-Ethik-Frameworks sind unerlässlich.

Das Australisches Epilepsie-Projekt zielt darauf ab, das Leben der Menschen zu verbessern und die klinische Versorgung breiter verfügbar zu machen. Basierend auf fortschrittlicher Bildgebung des Gehirns, genetischen und kognitiven Informationen von Tausenden von Menschen mit Epilepsie planen wir, KI dazu einzusetzen beantworten derzeit unbeantwortbare Fragen.

Werden die Anfälle dieser Person weitergehen? Welches Medikament ist am wirksamsten? Ist eine Gehirnoperation eine praktikable Behandlungsoption? Dies sind grundlegende Fragen, mit denen die moderne Medizin zu kämpfen hat.

Als KI-Leiter dieses Projekts ist meine Hauptsorge, dass sich die KI schnell entwickelt und die regulatorische Aufsicht minimal ist. Aus diesen Gründen haben wir kürzlich eine gegründet ethischer Rahmen für den Einsatz von KI als klinisches Support-Tool. Dieser Rahmen soll sicherstellen, dass unsere KI-Technologien offen, sicher und vertrauenswürdig sind, und gleichzeitig Inklusivität und Fairness in der klinischen Versorgung fördern.

Wie implementieren wir also KI-Ethik in der Medizin, um Vorurteile zu reduzieren und die Kontrolle über Algorithmen zu behalten? Für KI gilt der Informatik-Grundsatz „Garbage in, Garbage out“. Angenommen, wir sammeln voreingenommene Daten aus kleinen Stichproben. Unsere KI-Algorithmen werden wahrscheinlich voreingenommen und in einer anderen klinischen Umgebung nicht replizierbar sein.

Beispiele für Verzerrungen sind in modernen KI-Modellen nicht schwer zu finden. Beliebte große Sprachmodelle (z. B. ChatGPT) und latente Diffusionsmodelle (DALL-E und Stable Diffusion) zeigen, wie explizite Vorurteile hinsichtlich Geschlecht, ethnischer Zugehörigkeit und sozioökonomischem Status auftreten können.

Forscher fanden heraus, dass einfache Benutzeraufforderungen Bilder erzeugen, die ethnische, geschlechtsspezifische und Klassenstereotype aufrechterhalten. Zum Beispiel eine Aufforderung für einen Arzt generiert meistens Bilder von männlichen Ärzten, was nicht der Realität entspricht, da etwa die Hälfte aller Ärzte in den OECD-Ländern weiblich sind.

Sichere Implementierung medizinischer KI

Die Lösung zur Verhinderung von Vorurteilen und Diskriminierung ist nicht trivial. Die Ermöglichung der gesundheitlichen Gleichstellung und die Förderung der Inklusion in klinischen Studien gehören wahrscheinlich dazu primäre Lösungen zur Bekämpfung von Vorurteilen in der medizinischen KI.

Ermutigenderweise schlug die US-amerikanische Food and Drug Administration kürzlich vor Vielfalt verpflichtend machen in klinischen Studien. Dieser Vorschlag stellt einen Schritt in Richtung weniger voreingenommener und gemeinschaftsbasierter klinischer Studien dar.

Ein weiteres Hindernis für den Fortschritt sind begrenzte Forschungsmittel. KI-Algorithmen erfordern in der Regel erhebliche Datenmengen, die teuer werden können. Es ist von entscheidender Bedeutung, verbesserte Finanzierungsmechanismen einzurichten, die Forschern die notwendigen Ressourcen zur Verfügung stellen, um klinisch relevante Daten zu sammeln, die für KI-Anwendungen geeignet sind.

Wir argumentieren auch, dass wir immer das Innenleben von KI-Algorithmen kennen und verstehen sollten, wie sie zu ihren Schlussfolgerungen und Empfehlungen kommen. Dieses Konzept wird in der KI oft als „Erklärbarkeit“ bezeichnet. Es bezieht sich auf die Idee, dass Mensch und Maschine zusammenarbeiten müssen, um optimale Ergebnisse zu erzielen.

Wir betrachten die Implementierung von Vorhersagen in Modellen lieber als „erweiterte“ als als „künstliche“ Intelligenz – Algorithmen sollten Teil des Prozesses sein und die Ärzteschaft muss die Kontrolle über die Entscheidungsfindung behalten.

Wir fördern nicht nur die Verwendung erklärbarer Algorithmen, sondern unterstützen auch transparente und offene Wissenschaft. Wissenschaftler sollten Einzelheiten zu KI-Modellen und ihrer Methodik veröffentlichen, um die Transparenz und Reproduzierbarkeit zu verbessern.

Was brauchen wir in Aotearoa Neuseeland, um die sichere Implementierung von KI in der medizinischen Versorgung zu gewährleisten? KI-Ethikbelange werden in erster Linie von Experten auf diesem Gebiet geleitet. Allerdings sind gezielte KI-Regulierungen, wie die EU-basiert Gesetz über künstliche Intelligenz wurden vorgeschlagen, die sich mit diesen ethischen Erwägungen befassen.

Das europäische KI-Gesetz wird begrüßt und wird Menschen schützen, die in „sicherer KI“ arbeiten. Die britische Regierung hat kürzlich ihre veröffentlicht proaktiver Ansatz zur KI-Regulierung, die als Blaupause für andere staatliche Maßnahmen zur KI-Sicherheit dient.

In Aotearoa plädieren wir dafür, eine proaktive und nicht reaktive Haltung gegenüber der KI-Sicherheit einzunehmen. Es wird einen ethischen Rahmen für den Einsatz von KI in der klinischen Versorgung und anderen Bereichen schaffen und zu einer interpretierbaren, sicheren und unvoreingenommenen KI führen. Folglich wird unser Vertrauen wachsen, dass diese leistungsstarke Technologie der Gesellschaft zugute kommt und sie gleichzeitig vor Schaden schützt.

Über den Autor

Mangor Pedersen, außerordentlicher Professor für Psychologie und Neurowissenschaften, Technische Universität Auckland

Dieser Artikel wird erneut veröffentlicht Das Gespräch unter einer Creative Commons-Lizenz. Lies das Original Artikel.

Bücher zum Thema:

Der Körper behält den Überblick: Gehirn, Geist und Körper bei der Heilung von Traumata

von Bessel van der Kolk

Dieses Buch untersucht die Verbindungen zwischen Trauma und körperlicher und geistiger Gesundheit und bietet Einblicke und Strategien für Heilung und Genesung.

Klicken Sie für weitere Informationen oder zum Bestellen

Atem: Die neue Wissenschaft einer verlorenen Kunst

von James Nestor

Dieses Buch untersucht die Wissenschaft und Praxis des Atmens und bietet Einblicke und Techniken zur Verbesserung der körperlichen und geistigen Gesundheit.

Klicken Sie für weitere Informationen oder zum Bestellen

Das Pflanzenparadoxon: Die versteckten Gefahren in "gesunden" Lebensmitteln, die Krankheiten und Gewichtszunahme verursachen

von Steven R. Gundry

Dieses Buch untersucht die Zusammenhänge zwischen Ernährung, Gesundheit und Krankheit und bietet Einblicke und Strategien zur Verbesserung der allgemeinen Gesundheit und des Wohlbefindens.

Klicken Sie für weitere Informationen oder zum Bestellen

Der Immunitätscode: Das neue Paradigma für echte Gesundheit und radikales Anti-Aging

von Joel Greene

Dieses Buch bietet eine neue Perspektive auf Gesundheit und Immunität, stützt sich auf Prinzipien der Epigenetik und bietet Einblicke und Strategien zur Optimierung von Gesundheit und Alterung.

Klicken Sie für weitere Informationen oder zum Bestellen

Der vollständige Leitfaden zum Fasten: Heilen Sie Ihren Körper durch intermittierendes, alternierendes und verlängertes Fasten

von Dr. Jason Fung und Jimmy Moore

Dieses Buch untersucht die Wissenschaft und Praxis des Fastens und bietet Einblicke und Strategien zur Verbesserung der allgemeinen Gesundheit und des Wohlbefindens.

Klicken Sie für weitere Informationen oder zum Bestellen