KI in der Medizin: Warum Algorithmen allein das Gesundheitswesen nicht retten
David Werner, Radiologe aus Bad Kreuznach, hat uns gezeigt, was KI im medizinischen Alltag wirklich leistet. Und wo sie Menschen schlechter macht.
David Werner, Radiologe aus Bad Kreuznach, hat uns gezeigt, was KI im medizinischen Alltag wirklich leistet. Und wo sie Menschen schlechter macht.
„Man sollte jetzt damit aufhören, Radiologinnen und Radiologen auszubilden.“ Diesen Satz sagte KI-Pionier Geoffrey Hinton im Jahr 2016 auf einer Konferenz in Toronto, und er nannte gleich eine Frist dazu: Innerhalb von fünf Jahren werde Deep Learning die Befundung besser erledigen als der Mensch. Zehn Jahre später sitzt David Werner immer noch im Befundungsraum und erklärt, warum diese Prognose danebenlag. Und warum das kein Grund zur Entwarnung ist.
David ist Facharzt für Radiologie bei der Radiologie Rhein-Nahe in Bad Kreuznach, dort Standortleiter und KI-Beauftragter. Nebenbei baut er Fortbildungen für Ärztinnen und Ärzte auf und forscht in der eigenen Praxis. Sein Einstieg in das Thema war hingegen eher unakademisch: Ein Kumpel erzählte ihm im Dezember 2022 beim Warmlaufen vor einem Handballspiel von diesem neuen Ding namens ChatGPT.
1,8 Millionen, die fehlen werden
Die Zahl, die David allen mitgeben will, lautet 1,8 Millionen. So viele offene Stellen im deutschen Gesundheitswesen lassen sich laut PwC-Prognose im Jahr 2035 voraussichtlich nicht mehr besetzen, das entspricht einem Versorgungsengpass von rund 35 Prozent. Dazu kommen 12.000 fehlende Hausärztinnen und Hausärzte bis 2040 und eine Bevölkerung, die immer älter und multimorbider wird. Die in Tech-Debatten übliche Sorge, KI könnte Jobs vernichten, dreht sich in der Medizin also komplett um: Es gibt schlicht keine Menschen mehr, die diese Arbeit machen könnten.
Die eigene Studie: Wer profitiert wirklich?
Spannend wurde es, als David seine eigene Untersuchung gezeigt hat. Vier Radiologinnen und Radiologen mit unterschiedlichen Erfahrungsstufen haben dieselben Prostata-MRTs zweimal befundet: einmal mit KI-Unterstützung, drei Monate später ohne, in zufälliger Reihenfolge. Real Life Evidence aus der Praxis. Gemessen wurde die Genauigkeit der Volumenbestimmung, die Zeit und die diagnostische Trefferquote.
Das Ergebnis war deutlich, aber nicht so eindeutig, wie man es erwarten würde. Die Genauigkeit stieg mit KI spürbar, und zwar so stark, dass es therapeutische Konsequenzen hat. Am meisten profitierten die Berufsanfängerinnen und Berufsanfänger, sie wurden schneller und trafen deutlich häufiger richtig. Bei der erfahrensten Person kippte der Effekt jedoch: Ihre Trefferquote sank leicht, sobald die KI mitlief. Stichwort Automation Bias. Man folgt der Maschine, auch wenn man es besser weiß. David zieht die Parallele zum Cockpit, in dem die Crew den Instrumenten glaubt statt dem eigenen Blick aus dem Fenster. Die Ergebnisse sind noch nicht publiziert, die Fallzahl ist klein, aber die Richtung ist bemerkenswert.
Erst selbst denken, dann die KI fragen
Dazu passt eine Studie des MIT Media Lab, die David gerne teilt: Probandinnen und Probanden schrieben Essays, entweder nur mit dem eigenen Kopf, mit Google oder mit ChatGPT, währenddessen wurden ihre Hirnströme gemessen. Die ChatGPT-Gruppe zeigte die mit Abstand geringste neuronale Aktivität und konnte hinterher kaum etwas aus dem eigenen Text zitieren. Die höchste Aktivität hatte die Gruppe, die zuerst selbst nachgedacht und die KI danach zum Gegenchecken genutzt hat. Genau daraus wird sein zweiter Merksatz:
"Erst selbst denken, dann die KI benutzen."
Die Studie läuft unter dem Titel Your Brain on ChatGPT, ist bislang nur als Preprint veröffentlicht und methodisch umstritten, die Richtung deckt sich aber mit dem, was aus der Praxis berichtet wird.
Wie real der gegenteilige Effekt ist, zeigt eine Untersuchung aus der Darmspiegelung, 2025 im Lancet Gastroenterology & Hepatology erschienen. An vier Zentren wurde verglichen, wie gut Endoskopikerinnen und Endoskopiker ohne KI befunden. Gemessen wurde die Adenom-Detektionsrate drei Monate vor Einführung des Systems und drei Monate nach einer Phase mit KI-Unterstützung. Die Adenom-Detektionsrate ohne KI sank dabei um rund sechs Prozentpunkte. Wer das Auge nicht mehr benutzt, verlernt das Sehen. De-Skilling ist keine theoretische Sorge, sondern bereits gemessen.
Der Roboter, der selbstständig operiert
Zum Abschluss ein spannendes Beispiel: Ein mit Tausenden OP-Videos trainierter Roboter hat an acht Schweinekadavern eigenständig die Gallenblase entfernt, überwacht nur durch einen Menschen, der per Sprachkommando eingreifen konnte. Erfolgsquote: 100%. Für ein Fach, das sich lange sicher war, niemals ersetzbar zu sein, mag das ein ziemlich unbequemes Video sein.
Auf die Frage, ob er selbst ersetzt wird, antwortet David mit einem Satz von Curtis Langlotz aus Stanford, der 2019 in Radiology: Artificial Intelligence gegen die Ersetzungsthese argumentiert hat:
KI wird Radiologen nicht ersetzen. Aber Radiologen, die KI nutzen, werden Radiologen ersetzen, die das nicht tun.
Quellen
Hinton G. Vortrag beim Creative-Destruction-Lab-Seminar „Machine Learning and the Market for Intelligence“, Toronto, November 2016. Wiedergegeben in: Torres FS et al. When discussing the impact of AI on radiology, just remember: radiology is an infinite game. Radiologia Brasileira 2020;53(6)
Über das Prompting Lab:
Das Prompting Lab ist das wiederkehrende Online-Format von Safari für alle, die KI in der Praxis nutzen wollen, vom Einstieg bis zur Vertiefung. Ein geschützter Raum für Use Cases, Tipps und Austausch. Ergänzend gibt es die KI-Werkstatt in Mainz: ein Mix aus Hackathon und gemeinsamer Fallarbeit im Gutenberg Digital Hub.
Weitere Prompting Lab Themen im Juli:
- Wie gut versteht die KI deine Website? (31. Juli)
Prompting Lab Themen im August:
- ChatGPT-Projekte: Erst die Struktur, dann der Prompt (07. August)
- Wie KI die Produktion der Zukunft prägt (14. August)
- Einen Roman mit KI als Sparringpartner schreiben (21. August)
- Vom Sprachmodell zum KI-Agenten (28. August)
Schau dir jetzt im Video ein wie David die Bedeutung für KI in der Medizin einordnet.
