Auf Visite mit Dr. KI

Um den künftigen Herausforderungen gewachsen zu sein, macht auch im Gesundheitswesen das Zauberwort „Künstliche Intelligenz (KI) die Runde. Der Begriff geht zurück auf das Jahr 1956 und umfasste zunächst vor allem EDV-Programme, die zum Beispiel in der Lage waren, Schachzüge zu berechnen und mögliche Varianten und Szenarien darzustellen.

Heute kann KI wesentlich mehr. Maschinen erbringen menschenähnliche Intelligenzleistungen wie Lernen, Urteilen und Problemlösen. Ein Teilgebiet von KI ist die Technologie des maschinellen Lernens (Machine Learning; siehe „Kleines KI-Lexikon“). Sie lehrt Computer, aus Daten und Erfahrung zu lernen und Aufgaben immer besser auszuführen. Ausgefeilte Algorithmen können in unstrukturierten Datensätzen wie Bildern, Texten oder gesprochener Sprache Muster erkennen und anschließend Entscheidungen selbstständig treffen. Als vielversprechendste Methode des Machine Learning wird aktuell Deep Learning gesehen, das neuronale Netze mit mehreren Ebenen und einem großen Datenvolumen nutzt. Das maschinelle Lernen geschieht entweder durch Training anhand eines Datensatzes mit bereits bekannten Outputs, oder Algorithmen müssen selbst Muster in Daten erkennen.

Für Laien eine Technik mit sieben Siegeln.

Auf viele Menschen wirkt das zunächst bedrohlich. Dies liegt nicht zuletzt daran, dass KI eine höchst komplexe, für Laien kaum durchschaubare Technologie ist. Die Durchdringung der Gesellschaft und der Wirtschaft mit digitalen Medien und Instrumenten ist ja auch noch gar nicht so alt. Seit gerade mal 20 Jahren steht das Internet allen offen, und erst vor zehn Jahren kamen die ersten Smartphones auf den Markt, die die Kommunikation veränderten. Heute tauschen sich weltweit Milliarden Menschen über so­ziale Plattformen wie selbstverständlich aus, ohne sich näher mit den zugrunde liegenden Technologien zu beschäftigen. Der unmittelbare Nutzen und die einfache Bedienbarkeit sind entscheidende Gründe dafür.

Was mithilfe von KI möglich ist, kam erstmals vor zehn Jahren ins öffentliche Bewusstsein, als der IBM-Computer Watson in der US-amerikanischen Gameshow Jeopardy gegen seine menschlichen Konkurrenten gewann. Seitdem hat der Einsatz von KI im Kontext der zunehmenden Digitalisierung und von Big Data branchenübergreifend zugenommen. Was vor einigen Jahren noch Science Fiction war, beispielsweise selbstfahrende Autos, ist längst keine Zukunftsmusik mehr – auch wenn die Technik noch nicht ganz ausgereift ist.

Im Bereich der Medizin sehen Forscher KI als einen wichtigen Schlüssel zu einem längeren und gesünderen Leben. Die Einsatzmöglichkeiten sind vielfältig wie das Gesundheitswesen selbst: von Diagnoseverfahren über Bildungsangebote, Wissens­datenbanken, Datenverschlüsselung, Patientenberatung, Forschung und Entwicklung bis hin zu Public Health.

Mehr Zeit fürs Zwischenmenschliche.

KI kann den Arzt bei der Auswertung von Bilddaten entlasten und bietet so Zeitersparnis bei gleichzeitig hoher Treffsicherheit in Diagnose und Therapie. Der Vorteil liegt auf der Hand: Während die Maschine sich um Routineaufgaben kümmert, bleibt Zeit für Zwischenmensch­liches, für das Gespräch zwischen Arzt und Patient – Zeit, die heute in der Gesundheitsversorgung oftmals fehlt.

Auch eröffnet KI Chancen für eine personalisierte Medizin. Da beispielsweise keine Krebserkrankung der anderen gleicht, kann eine bestimmte Therapie dem einen Patienten helfen, dem anderen jedoch nicht. KI ist in der Lage, die feinsten Unter­schiede etwa auf MRTs zu erkennen und so Handlungsempfehlungen für eine individuelle Therapie anzubieten.

Zudem stellt KI eine echte Alternative zu Dr. Google dar. So können Chatbots – das sind Computerprogramme, die sich schriftlich mit Patienten unterhalten und deren Fragen beantworten – erste Ansprechpartner bei unklaren Symptomen sein. Auch kann KI Menschen, die eine Demenz im Frühstadium haben, mit Sprachsystemen helfen, erste Gedächtnislücken zu überbrücken. Somit ist KI keine Bedrohung, sondern ein Hilfsmittel für eine bessere und patientenzentrierte Versorgung. Es geht also nicht um ein „Entweder-Oder“, also Mensch und Arzt gegen KI und Maschine, sondern um deren intelligenten Einsatz.

Natürlich gibt es auch Rückschläge beim Einsatz von KI. Berichten zufolge empfahl der Supercomputer Watson bei Tumor­erkrankungen falsche Behandlungen. Wären sie eingesetzt worden, hätte das den Tod von Patienten bedeutet. Gründe hierfür waren unter anderem die mangelhafte Qualität sowie die unzureichende Menge der Daten, die in das Programm eingespeist worden waren. Die Entwickler verteidigen das Programm und glauben an seine Weiterentwicklung.

Zwischen Ethik und Effizienz.

Solche Rückschläge bringen KI in Misskredit und werfen zugleich ethische Fragen auf. Führen KI-Anwendungen zu einer effektiveren und effizienteren Diagnostik und Therapie und setzen Ressourcen für Gespräche und den persönlichen Kontakt zwischen Arzt und Patient frei, ist ihr Einsatz ethisch geboten. Damit sind aber weitere Fragen verbunden: Welche möglichen Risiken und Schadenspotenziale stehen den möglichen Vorteilen für die Patientenversorgung gegenüber, beispielsweise durch eine unvollständige, verzerrte oder fehlerhafte Datengrundlage oder durch Fehler in der Funktion oder bei der Anwendung der KI-Systeme? Wie wirken sich die Systeme auf die Patientenautonomie aus? Und wer trägt die Verantwortung, wenn etwas bei ihrem Einsatz schief geht?

Medizinischer Sachverstand bei der Entwicklung.

Der Einsatz von KI-Systemen in der Medizin ist dann ethisch vertretbar, wenn die Systeme nachweislich die Patientenversorgung verbessern und dabei vertretbare Schadenspotenziale aufweisen. Um einen Nutzen für die Patientenversorgung bieten zu können, müssen die Systeme einen nachgewiesenen Bedarf an Entscheidungsunterstützung decken. Nur wenn das System einer klar definierten Zielsetzung dient ist sichergestellt, dass die Technik nicht um ihrer selbst willen, sondern als „dienende“ Technologie eingesetzt wird.

Deshalb ist vorab festzulegen, welche Aufgaben KI in einer evidenzbasierten, patientenzentrierten Versorgung erfüllen kann und soll. Dabei ist das Leistungsspektrum der Gesundheitsversorgung zu berücksichtigen. Allgemein wird heute eine Unterstützung und nicht ein Ersetzen ärztlicher Entscheidungen als angemessenes Ziel von KI-Anwendungen angesehen. Deshalb ist es sinnvoll, Ärzte in die Entwicklung von KI-Systemen einzubeziehen und das Feld nicht allein Informatikern zu überlassen.

Schutz vor unautorisierten Zugriffen.

Zudem ist bei selbst­lernenden Maschinen zu berücksichtigen, dass die Datengrundlage beim Training der Systeme in der Regel nicht auf randomisierten, kontrollierten Studien beruht, sondern auf Routinedaten aus der medizinischen Versorgung. Diese unterliegen vielfältigen Einflüssen wie Vergütungsmodalitäten, Verfügbarkeit von Ressourcen und unterschiedlichen Praxisstilen. Bei der Auswertung lassen sich zudem nur Korrelationen und keine Kausalitäten ermitteln, die aufgrund der riesigen Datenmengen mit einer hohen Rate falsch positiver Ergebnisse verbunden ist. Dies ist beim Einsatz von KI-Systemen zu berücksichtigen. Für die nicht vollständig zu eliminierenden Fehlerpotenziale und Risiken durch unautorisierte Zugriffe („Hacker“) sind entsprechende technische und prozedurale Vorkehrungen zu treffen. Deshalb ist jedes einzelne System vor seinem Einsatz daraufhin zu prüfen.

Den Menschen nicht auf den Körper reduzieren.

Wie bereits erwähnt, gefährdet KI nicht die Arzt-Patient-Beziehung. Im Gegenteil: KI in Apps kann die Patientenautonomie stärken und damit eine gemeinsame Entscheidung (shared decision making) unterstützen. Algorithmen als Helfer bei der Diagnostik sind eher unproblematisch. Denn sie nehmen nicht die Entscheidung über eine Behandlung vorweg, sondern verbessern lediglich die Entscheidungsgrundlage für Arzt und Patient. Allerdings ist dabei zu berücksichtigen, dass die Systeme häufig vor allem molekularbiologische beziehungsweise physiologische Para­meter verarbeiten. Deshalb ist bereits bei der Diagnostik darauf zu achten, den Patienten als Ganzes zu sehen und ihn nicht auf seinen Körper zu reduzieren.

Nutzen und Schaden sind abzuwägen.

Bei Behandlungs-Algorithmen ist zudem zu berücksichtigen, dass jede therapeutische Entscheidung unvermeidbar Werturteile erfordert, zum Beispiel hinsichtlich des Behandlungsziels. Auch sind Nutzen und Schadenspotenziale von Therapien abzuwägen. Sind die im Algorithmus implementierten Werturteile nicht transparent, besteht die Gefahr, dass individuelle Patientenpräferenzen nicht genügend berücksichtigt werden. Dann aber droht eine paternalistische Medizin. Diese Gefahr ist insofern besonders beachtenswert, da KI-Systeme Objektivität und fachliche Präzision suggerieren. Um individuelle Patientenpräferenzen zu berücksichtigen, müssen Behandlungsalgorithmen im Design und bei der Anwendung flexibel sein.

Im Idealfall weist das System den Arzt auf die jeweils erforderlichen Werturteile hin und fordert ihn auf, den Pa­tienten in seine Entscheidungsfindung einzubeziehen. Dadurch ließe sich eine patientenzentrierte Medizin durch den Einsatz eines KI-Systems fördern.

Patient muss Herr seiner Daten sein.

KI setzt die Verarbeitung großer Daten­mengen sowohl bei der Entwicklung als auch bei der Anwendung voraus. Da gesundheitsbezogene Daten aufgrund möglicher Diskriminierung beim Zugang zu Arbeitsstellen oder Versicherungen besonders sensibel sind, werfen Big-Data-Anwendungen in der Medizin Fragen zum Schutz der Privatsphäre auf.

Auf der einen Seite ist er eine wesentliche Voraussetzung für die Integrität eines Menschen und seiner sozialen Beziehungen. Auf der anderen Seite profitieren die Betroffenen davon, wenn ihre gesundheitsbezogenen Daten für die eigene Behandlung besser verfügbar sind oder wenn sie im Rahmen der Forschung dazu beitragen, Diagnostik und Therapie zu verbessern.

Es besteht deshalb weitgehende Einigkeit darüber, dass gesundheitsrelevante Daten unter kontrollierten Bedingungen erfasst, gespeichert, weitergegeben und ausgewertet werden sollten. Dabei kommt der Einwilligung des Betroffenen als Ausdruck seiner informationellen Selbstbestimmung traditionell eine besondere Bedeutung zu. Hinzu kommen technische und prozedurale Maßnahmen zum Schutz der Daten gegen unautorisierten Zugriff und systembedingten Verlust. Die Datenschutz-Grundverordnung DSGVO gibt seit 2018 europaweit einheitliche Regelungen zum Schutz personenbezogener Daten vor.

Privatsphäre oder Datenspende?

Bei der Speicherung von Daten und Biomaterialen lassen sich allerdings künftige Entwicklungen in Forschung und Klinik kaum vorhersehen. Deshalb werden zunehmend flexiblere Möglichkeiten der Einwilligung in die Datenspeicherung und -nutzung diskutiert. Noch weitergehender könnte man fragen, ob es nicht eine solidarische Pflicht zu einer anonymen Datenspende gibt, da nicht nur die All­gemeinheit, sondern auch der Einzelne selbst von der Verfügbarkeit großer Datenmengen profitieren kann.

Der Deutsche Ethikrat hat mit der „Datensouveränität“ ein Konzept verantwortlicher informationeller Freiheitsgestaltung vorgeschlagen, bei dem der Einzelne selbstbestimmt und verantwortlich („souverän“) mit seinen personenbezogenen Daten umgeht (siehe Kasten „Lesetipps“). Dies soll eine Balance zwischen dem Schutz der Persönlichkeitsrechte des Einzelnen und dem potenziellen Nutzen von Big Data für die allgemeine Versorgung von Patienten und Entwicklung neuer diagnostischer und therapeutischer Ansätze ermöglichen.

Qualitätsstandards für lernende Maschinen.

Bei KI-Anwendungen spielt aber nicht nur der Datenschutz eine Rolle. Auch stellen sich Fragen zur Haftung. Üblicherweise trägt der Arzt die letzte Verantwortung für die Entscheidung, auch wenn er dabei durch technische Geräte unterstützt wird. Die Übernahme der Verantwortung setzt allerdings voraus, dass der behandelnde Arzt die technischen Grundlagen der Entscheidungsfindung nachvollziehen und in der Anwendung noch einmal selbst kritisch überprüfen kann.

Kommen selbstlernende Systeme zum Einsatz, dürfte es für den Arzt schwierig sein, das berechnete System­ergebnis noch einmal selbst zu prüfen. Denn der Lernprozess des Systems ist für ihn intransparent, quasi eine Black Box. Deshalb sind Qualitätsstandards bei der Entwicklung der Systeme unverzichtbar. Die zu Recht geforderte Transparenz von Algorithmen dürfte bei selbstlernenden Systemen allerdings nur begrenzt herzustellen sein. Möglicherweise ist es dann wichtiger, dem Arzt als Anwender deren Interpretation zu ermöglichen, das heißt ein Verständnis zu entwickeln, wie das System auf Basis seiner Komponenten und Eigenschaften zu den Ergebnissen kommt (interpretable machine learning).

Jedes einzelne System ethisch bewerten.

Jede einzelne KI-Anwendung in der Medizin wird Stärken und Schwächen haben und damit auch unterschiedliche ethische Fragen aufwerfen. Jedes einzelne System ist deshalb für sich hinsichtlich möglicher ethischer Implikationen zu bewerten. Dies sollte nach ethisch explizit begründeten Kriterien und einem klar definierten methodischen Vorgehen erfolgen.
 
Ziel der Bewertung sollte dabei nicht eine pauschale Be­fürwortung oder Ablehnung von KI sein, sondern Empfehlungen für eine ethisch vertretbare Entwicklung und Anwendung. Damit kann die ethische Begleitforschung dazu beitragen, dass sich die neuen Möglichkeiten mittels intelligenter, selbstlernender Algorithmen am Leitbild einer patientenzentrierten Medizin orientieren und damit einen wertvollen Beitrag zu einer effektiven, effizienten und gerechten Versorgung leisten.

Kleines KI-Lexikon

Quelle: G+G-Redaktion