Zwei Patienten leiden an einem vergleichbar schweren Diabetes mellitus. Der erste wird regelmäßig haus- und fachärztlich betreut. Seine Patientenakte enthält zahlreiche Befunde, Untersuchungen und Behandlungseinträge. Der zweite nimmt medizinische Leistungen aus persönlichen Gründen seltener in Anspruch. Seine Dokumentation ist entsprechend lückenhaft.
Ein KI-System, das aus bisherigen Behandlungskontakten auf den künftigen Versorgungsbedarf schließt, könnte den ersten Patienten höher priorisieren. Nicht weil er kränker wäre, sondern weil seine Erkrankung im Versorgungssystem deutlicher sichtbar ist.
Das Beispiel ist konstruiert. Es zeigt jedoch ein grundlegendes Problem: Was medizinisch dokumentiert wurde, ist nicht zwangsläufig ein zuverlässiges Maß dessen, was medizinisch benötigt wird.
Aus der hypothetischen historischen Perspektive des Jahres 2049 stellt sich damit eine ungewöhnliche Frage: Was geschieht, wenn ein Gesundheitssystem seine bisherige Versorgung zum Maßstab seiner künftigen Entscheidungen macht?
Wenn die KI das Falsche richtig vorhersagt
Eine 2019 in Science veröffentlichte Untersuchung von Obermeyer und Kollegen zeigte, wie ein in den USA eingesetzter Algorithmus zur Identifikation besonders betreuungsbedürftiger Patienten systematisch verzerrte Ergebnisse lieferte.
Das System prognostizierte künftige Behandlungskosten und verwendete diese als Näherungswert für gesundheitlichen Bedarf. Weil für schwarze Patienten bei vergleichbarer Krankheitslast durchschnittlich weniger Behandlungskosten anfielen, wurde ihr Unterstützungsbedarf unterschätzt.
Das Problem war nicht zwangsläufig eine fehlerhafte Berechnung. Der Algorithmus sagte die vorgesehene Größe voraus. Doch Behandlungskosten und medizinischer Bedarf sind unterschiedliche Sachverhalte.
Eine 2026 in Nature Health veröffentlichte Untersuchung von Zink und Kollegen verdeutlichte einen zweiten Mechanismus. Bei der Analyse von mehr als 200.000 Personen zeigte sich, dass eingeschränkter Zugang zur medizinischen Versorgung mit weniger zuverlässigen elektronischen Patientenakten verbunden war. Zusätzliche Patientenangaben verbesserten bei einer untersuchten Diabetes-Risikovorhersage die Ergebnisse für Menschen mit eingeschränktem Versorgungszugang.
Hier lag das Problem nicht in einer ungeeigneten Zielgröße, sondern in der Unvollständigkeit der verfügbaren Informationen.
Beide Untersuchungen stammen aus den USA. Ihre Ergebnisse lassen sich nicht unmittelbar auf deutsche Arztpraxen übertragen. Sie zeigen aber zwei grundsätzlich unterschiedliche Möglichkeiten, wie KI-Einschätzungen vom tatsächlichen medizinischen Bedarf abweichen können.
Wenn die Vergangenheit über die Zukunft entscheidet
Für niedergelassene Ärzte ist die Unterscheidung zwischen dokumentierter Versorgung und tatsächlichem Bedarf alltäglich. Wer selten zum Arzt kommt, ist nicht zwangsläufig gesund. Und wer viele Untersuchungen erhält, muss nicht automatisch behandlungsbedürftiger sein als andere Patienten.
Die strukturelle Besonderheit entsteht, wenn solche Daten zur Grundlage automatisierter Priorisierungen werden.
Bisherige Versorgung erzeugt Informationen über Patienten. KI wertet diese Informationen aus und kann daraus Empfehlungen für künftige Betreuung ableiten. Werden diese Empfehlungen wiederum zur Verteilung medizinischer Leistungen verwendet, entsteht ein möglicher Rückkopplungseffekt.
Patienten, deren Bedarf bislang unzureichend erkannt oder dokumentiert wurde, könnten dadurch erneut weniger Aufmerksamkeit erhalten. Ihre Dokumentation bliebe entsprechend begrenzt und könnte spätere Einschätzungen wiederum beeinflussen.
Das System würde dann nicht nur bestehende Versorgungsunterschiede abbilden. Es könnte zu ihrer Fortsetzung beitragen.
Dieser Effekt ist nicht zwangsläufig. Er hängt unter anderem davon ab, welche Daten verwendet werden, was das System vorhersagen soll und welchen Einfluss seine Ergebnisse auf tatsächliche Entscheidungen erhalten.
Was ein niedriger KI-Risikowert wirklich bedeutet
Für Haus- und Fachärzte eröffnet sich daraus eine wichtige Perspektive auf algorithmische Einschätzungen.
Ein niedriger Risikowert kann auf eine geringe Krankheitslast hinweisen. Er kann unter bestimmten Voraussetzungen aber auch durch fehlende Befunde, unvollständige Diagnosedokumentation oder eine ungeeignete Zielgröße beeinflusst sein.
Entscheidend ist deshalb, was ein System tatsächlich vorhersagt und auf welcher Informationsgrundlage es dies tut.
Besonders relevant wird diese Frage, wenn KI zur Auswahl von Patienten für zusätzliche Betreuung, engmaschigere Kontrollen oder besondere Versorgungsangebote eingesetzt wird.
Ärztliche Erfahrung kann dabei helfen, die Aussagekraft einer Einschätzung einzuordnen. Sie ersetzt jedoch nicht die Prüfung, ob das verwendete System für seinen konkreten Zweck geeignet ist.
Die unsichtbare Grenze medizinischer Daten
Die R2049-Rekonstruktion macht eine Eigenschaft medizinischer Versorgung sichtbar, die im Umgang mit großen Datenbeständen leicht übersehen wird: Patientenakten dokumentieren nicht einfach Erkrankungen. Sie dokumentieren auch, welche Menschen unter welchen Bedingungen Zugang zu medizinischer Untersuchung, Behandlung und Dokumentation gefunden haben.
Künstliche Intelligenz kann aus diesen Informationen wertvolle Zusammenhänge erschließen. Sie kann jedoch nicht allein aus ihrer rechnerischen Leistungsfähigkeit gewährleisten, dass bisher Unsichtbares angemessen berücksichtigt wird.
Damit verändert sich die Frage, die wir an medizinische KI richten. Nicht nur ihre Vorhersagegenauigkeit ist entscheidend, sondern auch die Bedeutung der Wirklichkeit, aus der sie lernt.
Wenn KI aus unserer bisherigen Versorgung lernt: Wie verhindern wir, dass sie gerade diejenigen übersieht, deren medizinischer Bedarf bislang zu wenig erkannt wurde?
Über die R2049-Methode
R2049 ist ein Ansatz zur strukturellen Rekonstruktion der Gegenwart. Er betrachtet heutige Verhältnisse aus der hypothetischen historischen Perspektive des Jahres 2049, um Zusammenhänge sichtbar zu machen, die innerhalb vertrauter Denk- und Erklärungsmuster häufig unbemerkt bleiben. Dabei geht es nicht darum, die Zukunft vorherzusagen, sondern die Gegenwart anders zu verstehen. Die Rekonstruktionen sollen gewohnte Selbstverständlichkeiten hinterfragen, neue Perspektiven eröffnen und Denkanstöße vermitteln, aus denen weiterführende Ideen entstehen können.
Weiterführende Informationen zum R2049 Structural Reconstruction Framework
Quellen und fachliche Ausgangspunkte
- Obermeyer, Z. et al. (2019): Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366, 447–453.
- Zink, A.; Luan, H.; Chen, I. Y. (2026): Access to care affects electronic health record reliability and AI-driven disease prediction. Nature Health, 1, 316–325.
Die Studien dokumentieren empirische Ausgangspunkte. Der mögliche Rückkopplungseffekt zwischen bisheriger und künftiger Versorgung wird als strukturelle Fragestellung untersucht; er ist keine zwangsläufige Folge des KI-Einsatzes und keine Prognose über das Jahr 2049.
Transparenz
Dieser Beitrag wurde im Rahmen des Konzepts „Der zweite Denkraum“ unter Einsatz generativer Künstlicher Intelligenz entwickelt. KI dient dabei der Exploration von Fragestellungen, der Erweiterung von Perspektiven, der Generierung von Text und alternativer Formulierungen, der Mustererkennung sowie der intellektuellen Auseinandersetzung mit Ideen und Annahmen. Der Beitrag wurde vom Autor inhaltlich geprüft, redaktionell bearbeitet und freigegeben. Sämtliche redaktionellen Entscheidungen, Bewertungen, Interpretationen und Schlussfolgerungen liegen ausschließlich in seiner Verantwortung.
Zusammenfassung
Künstliche Intelligenz kann aus bisherigen Behandlungsdaten auf den künftigen Versorgungsbedarf schließen. Doch dokumentierte Leistungen und tatsächlicher medizinischer Bedarf sind nicht identisch. Wenn KI-gestützte Priorisierungen auf unvollständigen Daten oder ungeeigneten Zielgrößen beruhen, können bestehende Versorgungslücken fortgeschrieben werden. Die vierte R2049-Rekonstruktion zeigt anhand wissenschaftlicher Untersuchungen, weshalb Haus- und Fachärzte algorithmische Risikoeinschätzungen auch danach beurteilen sollten, was die zugrunde liegenden Daten tatsächlich abbilden.
