Die Zukunft beginnt jetzt
Interview: Adrian Ritter
Technologie Wie wird die Künstliche Intelligenz (KI) die Medizin verändern? Ein Gespräch mit Medizininformatik-Professor Michael Krauthammer über KI, die Medizinprüfungen besteht und künftig vielleicht eigene Definitionen von Gesundheit und Krankheit entwickelt.
Die Künstliche Intelligenz ist in aller Munde – spätestens seit ChatGPT. Erleben wir gerade die nächste Stufe der KI?
Das kann man durchaus so bezeichnen. 2015 hat die Künstliche Intelligenz bei der Bildanalyse das Niveau des Menschen erreicht oder gar überstiegen – wenn es also darum geht, auf Bildern Objekte zu erkennen. Und jetzt hat die KI mit der neuartigen GPT-Technologie ein bisher unerreichtes Niveau bei dem Textverständnis und der Textkreation erreicht.
Kann die KI jetzt «denken» oder sammelt sie einfach zusammen, was sie im Internet findet?
Künstliche Intelligenz kann nicht selber denken im Sinne eines kreativen Denkens wie wir Menschen. Aber sie leistet auch viel mehr als nur Informationen zu sammeln. Sie hat mit GPT einen grossen Schritt dabei gemacht, einfachere Denkfunktionen des Menschen nachzubilden. So kann sie mit ihrem enormen Wissen – KI hat ja Zugriff auf alles im Internet verfügbare Wissen – beispielsweise Vergleiche anstellen. Auch wenn dabei noch Fehler passieren, wie die Erfahrungen mit ChatGPT zeigen, kommt die Künstliche Intelligenz offensichtlich doch in vielen Fällen zu stimmigen Ergebnissen.
Woran sieht man das – am Beispiel der Medizin?
Mehrere Studien [1] zeigten kürzlich, dass Künstliche Intelligenz inzwischen bei Fragen aus dem US-Medizinexamen eine vergleichbare Erfolgsquote erzielt wie Studierende. Und was die Bildanalyse betrifft: KI wird heute insbesondere in der Radiologie und Pathologie schon häufig und gewinnbringend eingesetzt, etwa um Hirnveränderungen oder Tumoren zu erkennen. Das Prinzip: Man füttert die Künstliche Intelligenz mit einer Fülle von Fallbeispielen, lässt sie Aufgaben lösen und gibt ihr Rückmeldung, wo sie richtig und wo sie falsch lag. Mit solchen Korrekturen lässt sich KI unter anderem auf medizinische Bedürfnisse feinabstimmen.
Abgesehen von der Bildanalyse: Wie lässt sich Künstliche Intelligenz grundsätzlich in der Medizin nutzen?
Künstliche Intelligenz kann einen Beitrag dazu leisten, mehrere aktuelle Probleme im Gesundheitswesen anzugehen. Sie kann Gesundheitsfachpersonen von Routinetätigkeiten entlasten und damit dem Fachkräftemangel entgegenwirken und die Arbeitszufriedenheit verbessern. Zudem kann sie dazu beitragen, die Qualität in der Medizin zu steigern, durch effizientere Prozesse die Gesundheitskosten zu senken und Innovationen zu ermöglichen – etwa bei der Entwicklung neuer Medikamente.
Ihr Forschungsteam entwickelt KI-Anwendungen. Wie tragen diese konkret dazu bei, solche Verbesserungen zu bewirken?
Lassen Sie mich ein paar Beispiele geben, bei denen wir mit dem Universitätsspital Zürich zusammenarbeiten. Eine unserer Anwendungen hilft mittels Bildanalyse, die medizinische Diagnostik und Behandlung zu verbessern: Wir haben Algorithmen entwickelt, die auf Bildern Folgeschäden einer rheumatischen Erkrankung frühzeitig erkennen [2].ADVERTISING
Eine Stärke der Künstlichen Intelligenz ist es auch, aufgrund von Daten von Patientinnen und Patienten den weiteren Krankheitsverlauf vorauszusagen. So versuchen wir in einem neuen Projekt mittels Algorithmen das Risiko für ein Delir nach einer Operation vorauszusagen. Dies zwei Beispiele, bei denen es um den Aspekt der Qualität geht.
Bei einer anderen Anwendung haben wir das Ziel, Ärztinnen und Ärzte von Routinetätigkeiten zu entlasten. Wir entwickeln anhand einer grossen Anzahl Thorax-Röntgenbilder eine KI, die automatisiert medizinische Berichte erstellt [3]. Dabei setzen wir eine Kombination aus Bildanalyse und GPT-Technologie zur Textgenerierung ein.
Kommen diese Anwendungen schon bald klinisch zum Einsatz?
Wir sind in der Forschungsphase. Bei den Projekten in der Rheumatologie und Radiologie konnten wir bereits zeigen, dass das Prinzip funktioniert und gute Resultate erzielt. Da geht es jetzt in einem nächsten Schritt darum, die Technologie in klinischen Studien zu validieren.
Inwiefern sind KI-Anwendungen heute in der Medizin schon zugelassen?
Wir müssen zwei Arten von Anwendungen unterscheiden. Einerseits solche, bei denen die KI dem Menschen assistiert und dieser weiterhin die Entscheidungen trifft. Und andererseits Anwendungen, bei denen die KI autonom Entscheidungen trifft. Bis heute sind fast ausschliesslich assistierende Systeme zugelassen. Es gibt in den USA ein paar wenige Ausnahmen von zugelassenen autonomen Systemen, bei denen das Risiko für den Menschen gering ist. Interessant ist: Die bisherige Forschung zeigt oft, dass der grösste Nutzen bei einer Kombination menschlicher und maschineller Fähigkeiten entsteht. In Studien [4] konnte beispielsweise die Erkennung von Knochenbrüchen auf Röntgenbildern durch die Assistenz von KI verbessert werden.
Welche Gefahren der KI sehen Sie? Kritisiert wird oft, Algorithmen seien eine Blackbox und enthielten Verzerrungen.
Das ist bisweilen durchaus der Fall. So wurde auch berichtet, dass die eben erwähnte KI in seltenen Fällen offensichtliche Knochenbrüche übersieht. Allerdings: Menschen machen auch Fehler, haben auch kognitive Verzerrungen und können ihre Entscheidungen nicht immer rational erklären. Insofern stellt sich die Frage, ob wir bei Mensch und KI nicht mit zweierlei Massstäben messen. So wie der Mensch nicht perfekt ist, wird wohl auch die Künstliche Intelligenz nie perfekt sein. Die zentrale Frage für uns ist: Können wir der Künstlichen Intelligenz vertrauen?ADVERTISING
Können wir?
Wir dürfen auf jeden Fall Erwartungen an sie stellen. Künstliche Intelligenz muss robuste, also zuverlässige, reproduzierbare Resultate liefern. Und sie muss in Zukunft weniger Blackbox sein und auch Erklärungen liefern, wie sie zu ihren Aussagen kommt. Zudem dürfen wir in Zukunft erwarten, dass sie uns sagt, wie sicher sie sich in ihren Aussagen ist. Statt «Auf diesem Bildabschnitt ist ein Knochenbruch ersichtlich» wollen wir hören: «Mit 95 Prozent Sicherheit ist hier ein Knochenbruch ersichtlich». Technisch lässt sich noch vieles verbessern, um KI robuster zu machen. Man kann zum Beispiel die Zuverlässigkeit erhöhen, indem man eine KI mit Daten aus einem Spital in Zürich entwickelt und dann mit Daten aus Basel testet.
Welche Rolle wird die Künstliche Intelligenz in der Medizin wohl in Zukunft spielen?
Ich denke, in der näheren Zukunft wird es noch so sein, dass KI nur klar definierte Aufgaben zur Unterstützung der Fachpersonen übernimmt. Und sie kann zur Qualitätssicherung beitragen. Etwa indem sie im Hintergrund medizinische Prozesse überwacht und in Notfallsituation die medizinische Versorgung zielgerechter koordiniert. In einem nächsten Schritt wird Künstliche Intelligenz Routinefälle der Diagnostik übernehmen.
Und in der weiteren Zukunft?
Eine Entwicklung geht dahin, dass die Forschung versucht, den Menschen mit «digitalen Zwillingen» im virtuellen Modell zu simulieren. Das kann helfen, Krankheiten zu verhindern, frühzeitig zu erkennen und auch die Wirksamkeit von Therapien vorgängig zu bestimmen. Ich kann mir vorstellen, dass die Künstliche Intelligenz dabei neue Dimensionen erreichen wird.
Das heisst?
Vielleicht wird die KI eigene Definitionen von Gesundheit und Krankheit entwickeln. Nehmen wir das Beispiel Demenz. Das ist eine von Menschen geschaffene Definition einer Krankheit. KI wird aber vielleicht bei noch gesunden Menschen Dysbalancen in bestimmten physiologischen Parametern finden, die gemäss ihren Daten mit dem Risiko von Demenz verbunden sind. Entsprechend wird sie präventive Massnahmen empfehlen, bevor eine von uns Menschen definierte Krankheit vorliegt. Ich kann mir vorstellen, dass wir in der ferneren Zukunft nicht mehr alles nachvollziehen können, was uns KI vorschlägt. Weil sie nicht mehr mit unserer heutigen Vorstellung von Medizin arbeiten wird. Umso wichtiger wird es, dass Künstliche Intelligenz transparent macht, wie sie zu ihren Aussagen kommt.ADVERTISING
Wird die Entwicklung in Richtung von immer autonomeren Formen der KI gehen?
Das ist wahrscheinlich so. Vorläufig ist es sicher sinnvoll, wenn der Mensch weiterhin präsent ist und die letztendliche Entscheidung trifft, etwa bei einer Diagnose oder Behandlung. Er muss prüfen, ob eine KI-Aussage plausibel ist. Was autonomere Formen anbelangt: Wir müssen zuerst Prozesse entwickeln, die das korrekte Funktionieren der KI ständig überwachen. Künstliche Intelligenz ist sehr anfällig auf Änderungen im System – etwa wenn ein Röntgengerät ausgetauscht wird. Wichtig ist deshalb, immer wieder mit klinischen Studien die KI-basierten Empfehlungen zu überprüfen. Nur dann ist die Basis gelegt, um autonome Systeme einsetzen zu können. Die FMH hat übrigens entsprechende Leitplanken kürzlich in einem Positionspapier [5] festgehalten.
Welche Einstellung haben Ärztinnen und Ärzte gegenüber der KI?
Ich stelle in Gesprächen ein wachsendes Interesse und eine zunehmende Offenheit gegenüber dem Einsatz von KI in der Medizin fest. Ich denke, das hat damit zu tun, dass Gesundheitsfachpersonen stark unter Zeitdruck und administrativen Arbeiten leiden. Sie sehen die Chance, hier durch Künstliche Intelligenz entlastet zu werden und wieder mehr Zeit für die Patientinnen und Patienten zu haben. Das scheint mir durchaus eine realistische Hoffnung zu sein. Denn klar ist: Den Menschen und das Zwischenmenschliche wird es immer brauchen in der Medizin. Was KI aber sicher bewirken wird, ist eine Verschiebung der Hierarchien.
Wie meinen Sie das?
Künstliche Intelligenz ist nach dem Internet die nächste Entwicklung, die das Wissensmonopol der Ärztinnen und Ärzte auflöst. Eine Studie [6] hat kürzlich gezeigt, dass ChatGPT auf typische Gesundheitsfragen ausgewogenere, aber erstaunlicherweise auch empathischere Antworten als Fachpersonen liefern kann. Zudem werden Patientinnen und Patienten zunehmend Anwendungen mit KI verwenden, um ihren Gesundheitszustand zu überwachen. Als nächsten Schritt kann ich mir durchaus vorstellen, dass Menschen mit KI-Unterstützung einfachere Gesundheitssituationen selber meistern können – im Sinne auch von Selbstmedikation. Wir müssen uns als Gesellschaft fragen, ob wir in diese Richtung gehen wollen. Wobei: Wir brauchen neue Ideen, um das Gesundheitssystem zu entlasten und Kosten zu sparen.
Die Diskussion um die rechtliche Regelung der Künstlichen Intelligenz ist in der Schweiz, in der EU und weltweit in vollem Gange. Was brauchen wir?
Bei den rechtlichen Fragen gibt es zwei Aspekte. Einerseits müssen Datenschutz und Privatsphäre gewährt bleiben. Andererseits geht es darum, dass KI gerecht eingesetzt wird. Dabei ist Transparenz besonders wichtig – auch gegenüber den Ärztinnen und Ärzten. Wenn Spitäler etwa KI-Systeme im Hintergrund laufen lassen, um die Qualität zu sichern, muss dies gegenüber den Mitarbeitenden klar deklariert werden.ADVERTISING
Die grundsätzliche Frage ist, ob wir eine separate rechtliche Regelung der KI brauchen oder ob die bisherige Gesetzgebung ausreicht, um auch KI-Anwendungen abzudecken. Als Medizininformatiker kann ich diese Frage nicht abschliessend beantworten. Ich plädiere aber dafür, ein gutes Mittelmass zu finden. Wir sollen uns als Gesellschaft sicher fühlen, aber gleichzeitig den nötigen Raum für Innovationen ermöglichen.
Literatur
1 https://arxiv.org/abs/2212.13138
2 https://academic.oup.com/rheumatology/advance-article/doi/10.1093/rheumatology/keac541/6798619
3 https://aclanthology.org/2021.findings-emnlp.241/
4 https://pubs.rsna.org/doi/10.1148/radiol.210937
5 https://www.fmh.ch/files/pdf27/20220914_fmh_brosch-ki_d.pdf
Copyright
Published under the copyright license
“Attribution – Non-Commercial – NoDerivatives 4.0”.
No commercial reuse without permission.
See: emh.ch/en/emh/rights-and-licences/