Ein Hausarzt beurteilt einen Patienten mit neu aufgetretener Belastungsdyspnoe. Ein KI-System hat die vorhandenen Befunde ausgewertet, eine Herzinsuffizienz als mögliche Ursache hervorgehoben und weitere Untersuchungen vorgeschlagen. Der Arzt prüft die Empfehlungen und entscheidet über das Vorgehen.
Doch was geschieht, wenn die KI andere relevante Ursachen, etwa eine Anämie oder eine pulmonale Erkrankung, nicht berücksichtigt hat?
Der Arzt kann jeden vorgeschlagenen Schritt sorgfältig prüfen und dennoch eine wichtige diagnostische Möglichkeit übersehen.
Das Beispiel verdeutlicht eine grundlegende Unterscheidung: Eine medizinische Empfehlung zu beurteilen ist nicht dasselbe, wie die überhaupt infrage kommenden Handlungsmöglichkeiten zu bestimmen.
Aus der hypothetischen historischen Perspektive des Jahres 2049 entsteht damit eine ungewöhnliche Frage: Wann beginnt eine ärztliche Entscheidung tatsächlich?
Wenn die Auswahl vor der Entscheidung liegt
Medizinische KI entwickelt sich von der reinen Informationsbereitstellung zur Vorbereitung komplexerer Handlungsabläufe. Eine 2026 in Nature veröffentlichte Untersuchung demonstrierte mit dem KI-Agenten MIRA, dass solche Systeme bereits Untersuchungen auswählen, Ergebnisse interpretieren und Behandlungspläne entwickeln können. Die Erprobung erfolgte in einer simulierten Patientenaktenumgebung, nicht im regulären klinischen Einsatz.
Damit wird eine Veränderung sichtbar, die über die Automatisierung einzelner Arbeitsschritte hinausgeht. KI kann zunehmend beeinflussen, welche medizinischen Möglichkeiten einem Arzt überhaupt zur Prüfung vorgelegt werden.
Diese Vorauswahl kann die ärztliche Tätigkeit erheblich unterstützen. Sie kann Informationen ordnen, zusätzliche Differenzialdiagnosen aufzeigen und diagnostische Zusammenhänge verdeutlichen. Allerdings bestimmt sie zugleich, worauf sich die Aufmerksamkeit zunächst richtet.
Eine 2026 in NEJM AI veröffentlichte randomisierte Untersuchung mit 44 Ärzten in Pakistan zeigte, dass gezielt fehlerhafte KI-Empfehlungen die diagnostische Leistung beeinträchtigen können – selbst wenn die Teilnehmer zuvor im kritischen Umgang mit KI geschult worden waren. Untersucht wurden klinische Fallvignetten, keine realen Behandlungsentscheidungen.
Die Studie belegt nicht unmittelbar, dass KI systematisch wichtige Alternativen ausblendet. Sie verdeutlicht jedoch, dass ärztliche Urteile durch vorgegebene Empfehlungen beeinflusst werden können.
Die Möglichkeit, einen KI-Vorschlag abzulehnen, garantiert noch keine unabhängige medizinische Beurteilung.
Die Entscheidung vor der Entscheidung
Für niedergelassene Haus- und Fachärzte liegt der entscheidende Erkenntnisgewinn in einer bislang wenig beachteten Eigenschaft der Entscheidungsunterstützung.
Wenn ein KI-System diagnostische oder therapeutische Möglichkeiten vorauswählt, übernimmt es einen Teil jener Arbeit, die bisher zur ärztlichen Urteilsbildung gehörte. Der Arzt beurteilt anschließend nicht unbedingt sämtliche relevanten Alternativen, sondern zunächst jene, die ihm angeboten werden.
Darin liegt keine zwangsläufige Schwächung ärztlicher Kompetenz. Eine gute Vorauswahl kann Entscheidungen verbessern und wertvolle Zeit sparen. Problematisch wird sie jedoch, wenn ihre möglichen Auslassungen unerkannt bleiben.
Ein fachlich plausibler Vorschlag beantwortet deshalb noch nicht die Frage, ob wichtige andere Möglichkeiten berücksichtigt wurden.
Für die ärztliche Praxis entsteht daraus eine einfache zusätzliche Prüfperspektive: Welche medizinisch relevante Alternative würde ich auch dann erwägen, wenn das KI-System sie nicht vorgeschlagen hätte?
Die Bedeutung dieser Frage reicht über einzelne Algorithmen hinaus. Medizinische Verantwortung betrifft nicht ausschließlich die abschließende Entscheidung. Sie umfasst auch die fachliche Beurteilung der Möglichkeiten, zwischen denen entschieden wird.
Aus der R2049-Perspektive erscheint damit eine vertraute Eigenschaft ärztlicher Arbeit in neuem Licht: Wer die Auswahl medizinischer Handlungsalternativen bestimmt, kann eine spätere Entscheidung bereits beeinflussen, ohne sie selbst zu treffen.
Die entscheidende Herausforderung besteht deshalb nicht allein darin, KI-Empfehlungen kritisch zu prüfen. Es geht ebenso darum, die Grenzen ihrer Vorauswahl zu erkennen.
Wie sicher ist meine medizinische Entscheidung, wenn ich zwar den Vorschlag der KI überprüfe, aber nicht erkenne, welche Alternativen sie mir gar nicht erst angeboten hat?
Über die R2049-Methode
R2049 ist ein Ansatz zur strukturellen Rekonstruktion der Gegenwart. Er betrachtet heutige Verhältnisse aus der hypothetischen historischen Perspektive des Jahres 2049, um Zusammenhänge sichtbar zu machen, die innerhalb vertrauter Denk- und Erklärungsmuster häufig unbemerkt bleiben. Dabei geht es nicht darum, die Zukunft vorherzusagen, sondern die Gegenwart anders zu verstehen. Die Rekonstruktionen sollen gewohnte Selbstverständlichkeiten hinterfragen, neue Perspektiven eröffnen und Denkanstöße vermitteln, aus denen weiterführende Ideen entstehen können.
Weiterführende Informationen zum R2049 Structural Reconstruction Framework
Quellen und fachliche Ausgangspunkte
- Ferber, D. et al. (2026): Towards autonomous medical artificial intelligence agents. Nature, 655, 1282–1291.
- Qazi, I. A. et al. (2026): Automation Bias in Large Language Model–Assisted Diagnostic Reasoning among Physicians Trained in AI Literacy. NEJM AI, 3(5).
Die Quellen dokumentieren technische Entwicklungen und empirische Ausgangspunkte. Die strukturelle Rekonstruktion ist eine eigenständige Interpretation und keine Prognose über das Jahr 2049.
Transparenz
Dieser Beitrag wurde im Rahmen des Konzepts „Der zweite Denkraum“ unter Einsatz generativer Künstlicher Intelligenz entwickelt. KI dient dabei der Exploration von Fragestellungen, der Erweiterung von Perspektiven, der Generierung von Text und alternativer Formulierungen, der Mustererkennung sowie der intellektuellen Auseinandersetzung mit Ideen und Annahmen.
Der Beitrag wurde vom Autor inhaltlich geprüft, redaktionell bearbeitet und freigegeben. Sämtliche redaktionellen Entscheidungen, Bewertungen, Interpretationen und Schlussfolgerungen liegen ausschließlich in seiner Verantwortung.
Zusammenfassung
Künstliche Intelligenz kann diagnostische und therapeutische Möglichkeiten bereits auswählen, bevor ein Arzt seine Entscheidung trifft. Doch die sorgfältige Prüfung eines KI-Vorschlags bedeutet nicht automatisch, dass sämtliche medizinisch relevanten Alternativen berücksichtigt wurden. Die fünfte R2049-Rekonstruktion untersucht diese bislang wenig beachtete Vorauswahl und zeigt, weshalb ärztliche Entscheidungshoheit mehr umfasst als die abschließende Zustimmung zu einer Empfehlung. Für niedergelassene Haus- und Fachärzte eröffnet sich damit eine neue Perspektive auf die Zusammenarbeit mit medizinischer KI.