Ethik der künstlichen Intelligenz in der Medizin

Zusammenfassung

Die künstliche Intelligenz (KI) hält zunehmend Einzug in die Medizin, und es ist noch nicht absehbar, wie sie die Praxis der Medizin und auch das Selbstverständnis der Ärztinnen und Ärzte verändern wird. In dem Beitrag werden die ethischen Grenzen der KI erarbeitet, indem (1.) der in der KI schon enthaltende Reduktionismus des Zugangs auf die Welt erörtert wird, (2.) die problematischen Implikationen einer Algorithmisierung herausgearbeitet werden und (3.) die mangelnde menschliche Kontrolle als ethische Grenze markiert wird. Als Schlussfolgerung ergibt sich daraus, dass die KI zwar ein nützliches Werkzeug zur Unterstützung ärztlicher Beurteilung darstellt, dass sie aber unabdingbar auf menschliche Entscheidungshoheit angewiesen ist, um sich tatsächlich als segensreich für die Medizin zu erweisen.

Die Künstliche Intelligenz (KI) hält zunehmend Einzug in die Medizin – noch ist es nicht absehbar, wie sie die Praxis der Medizin und auch das Selbstverständnis der Ärztinnen und Ärzte verändern wird. Dieser Beitrag erarbeitet die ethischen Grenzen der KI und erörtert, warum KI zwar die ärztliche Beurteilung unterstützen kann, eine gute Medizin aber unabdingbar auf die menschliche Entscheidungshoheit angewiesen ist.

Abstract

Artificial intelligence (AI) is increasingly finding its way into medicine, and it is not yet clear how it will change the practice of medicine and the way doctors see themselves. This article explores the ethical limits of AI by (1) discussing the reductionistic elements inherent in AI, (2) working out the problematic implications of algorithmisation and (3) highlighting the lack of human control as an ethical problem of AI. The conclusion is that although AI is a useful tool to support medical judgement, it is absolutely dependent on human decision-making authority in order to actually prove beneficial for medicine.

Kernaussagen

• Mit KI wird die Vorstellung verbunden, dass man zur Lösung von Problemen einfach nur mehr Daten und ein ausgeklügeltes Berechnungssystem bräuchte. So könnten alle Aufgaben des Lebens auf berechnendem Wege bewältigt werden.

• Der Glaube daran, dass die KI alle Probleme lösen könne, ist verknüpft mit einem reduktionistischen Verständnis von Wissen. Dabei wird Wissen illegitimerweise auf das Anhäufen von Informationen reduziert.

• Bei der Anwendung von KI wird übersehen, dass die erhobenen Daten zwangsläufig etwas Ausschnitthaftes haben und man daher mehr braucht als Daten, um die Wirklichkeit zu erfassen.

• Dem Algorithmus blind zu folgen, wäre eine Missachtung der ärztlichen Verantwortung. Denn erst die ärztliche Plausibilitätsprüfung macht aus der Rechenleistung des Computers eine dem Patienten dienliche Leistung, indem der Arzt eine Überblicksverantwortung übernimmt.

• Die KI kann Ärztinnen und Ärzten bestimmte Dinge abnehmen und Teilfunktionen dadurch übernehmen, dass sie eine Entscheidungsstütze bietet. Die ärztliche Entscheidung selbst erfordert aber mehr als KI: Sie erfordert ärztliches Beurteilungsvermögen, das durch die KI nicht obsolet, sondern wichtiger denn je wird.

Schlüsselwörter

Künstliche Intelligenz - Big Data - Entscheidungsunterstützungssysteme - Selbstverständnis der Medizin - Algorithmisierung

Keywords

artificial intelligence - big data - decision support systems - medical self-conception - algorithmization

Publication History

Article published online:
01 July 2024

• Literatur

• 1 Barton MC, Pöppelbuß J. Prinzipien für die ethische Nutzung künstlicher Intelligenz. HMD Praxis der Wirtschaftsinformatik 2022; 59: 468-481
• 2 Wiegerling K. Ethische Fragen zu Big Data und Datafizierung in der Medizin. In: Manzeschke A, Niederlag W. Ethische Perspektiven auf biomedizinische Technologie. Berlin: de Gruyter; 2020: 121-132
• 3 Püschel F. Big Data und die Rückkehr des Positivismus. Zum gesellschaftlichen Umgang mit Daten 2014; 3.1: 1–18. www.medialekontrolle.de
• 4 Anderson C. Das Ende der Theorie. Die Datenschwemme macht wissenschaftliche Methoden obsolet. In: Geiselberger H, Moorstedt T. Big Data: Das neue Versprechen der Allwissenheit. Berlin: Suhrkamp; 2013: 14-130
• 5 Stalder F. Kultur der Digitalität. Berlin: Suhrkamp; 2016
• 6 Rheinberger HJ. Wie werden aus Spuren Daten, und wie verhalten sich Daten zu Fakten?. In: Gugerli D, Hagner M, Hampe M, Orland B, Sarasin P, Tanner J. Nach Feierabend. Zürcher Jahrbuch für Wissensgeschichte. Band 3. Zürich: Diaphanes; 2007: 117-125
• 7 Krämer S. Nüchtern bleiben! Künstliche Intelligenz jenseits des Mythos. In: Strasser A, Sohst W, Stapelfeldt R, Stepec K. Künstliche Intelligenz – Die große Verheißung. Berlin: Xenomoi; 2021: 335-357
• 8 Hänold S, Schlee N, Antweiler D. et al. Die Nachvollziehbarkeit von KI-Anwendungen in der Medizin. Medizinrecht 2021; 39: 516-523
• 9 Nagel SK. Fragen für eine Zukunft automatisierter Entscheidungsunterstützung in der Medizin. Zeitschrift für Medizinische Ethik 2021; 67: 381-387
• 10 Goddard K, Roudsari A, Wyatt JC. Automation bias: a systematic review of frequency, effect mediators, and mitigators. J Am Med Inform Assoc 2012; 19: 121-127
• 11 Gillespie N, Lockey S, Curtis C. Trust in artificial Intelligence: a five country study. The University of Queensland and KPMG Australia. 2021 Accessed May 21, 2024 at: https://kpmg.com/au/en/home/insights/2021/03/artificial-intelligence-five-country-study.html
• 12 Sonar A, Weber K. Zur Ethik medizinischer KI-Unterstützungssysteme in Theorie und Empirie. Ein qualitativer Vergleich der ethischen (und sozialen) Implikationen aus Literatur- und Expert*innenperspektive. In: Sonar A, Weber K. Künstliche Intelligenz und Gesundheit. Ethische, philosophische und sozialwissenschaftliche Explorationen. Stuttgart: Franz Steiner Verlag; 2022: 155-206