KI kommt nicht erst für Ärzte. Sie ist bereits im Raum

(SeaPRwire) –   Da Krankenhäuser sich der KI zuwenden, wissen Patienten möglicherweise nicht mehr, wer – oder was – ihre medizinischen Entscheidungen trifft. Als Notärzte sehen wir, wie die KI-Unterstützung verändert, was es bedeutet, eine Notaufnahme zu betreten.

Dies ist keine politische Geschichte, sondern eine kulturelle: darüber, was es bedeutet, seinem Arzt zu vertrauen, wenn der „Arzt“ ein Algorithmus sein könnte. Laut einer aktuellen Studie werden KI-Anwendungen in Notaufnahmen bereits für Triage, Risikoprognosen und Personalmodelle eingesetzt – die Pläne, die Krankenhäusern helfen, sicherzustellen, dass sie die richtige Anzahl und Mischung von Ärzten, Pflegekräften und anderem Personal zur richtigen Zeit für die Patientenversorgung haben. Patienten wissen möglicherweise nicht, ob die Person, die sie behandelt, ein Arzt oder ein KI-gestützter Hybrid ist. Das kann sich nahtlos oder beunruhigend anfühlen, je nachdem, was auf dem Spiel steht. Wir kämpfen mit einer stillen Transformation der Notaufnahme, wo Kostendruck, Personalmangel und KI-Copiloten neu definieren, was es bedeutet, einen Arzt aufzusuchen und ihm zu vertrauen.

Der Wandel von Ärzten zu KI ist nicht nur eine Personallösung, sondern eine seismische Veränderung in der Art und Weise, wie medizinische Entscheidungen getroffen werden. Jede bringt Kompromisse mit sich. KI kann Berge von Daten in Sekunden verarbeiten, aber sie kann einem Patienten nicht in die Augen sehen und Angst erkennen, die stillen Momente menschlichen Leidens würdigen oder die unausgesprochenen Hinweise wahrnehmen, die sich ergeben, wenn man die Hand eines Schmerzleidenden hält. Ein Teil unserer über 10.000 Stunden medizinischer Ausbildung zu Notärzten besteht darin, den Instinkt zu entwickeln, dass etwas nicht stimmt, selbst wenn die Vitalwerte und Laborergebnisse eines Patienten in Ordnung sind. Es geht darum, die subtilen Hinweise zu erkennen – einen Hauch von Verwirrung, eine leichte Undeutlichkeit in der Sprache eines Patienten, die stille Panik in ihren Augen –, die ein Patient möglicherweise nicht erwähnt und die ein Algorithmus nicht wahrnehmen kann. Das menschliche Element, die Essenz von Vertrauen und Mitgefühl, ist genau der Punkt, an dem KI stolpert.

Technologieunternehmen eilen, KI in den klinischen Bereich zu integrieren, indem sie digitale Triage-Systeme, diagnostische Copiloten und Entscheidungsunterstützungstools entwickeln, die darauf abzielen, die ärztliche Aufsicht zu erweitern oder sogar zu ersetzen. Und Krankenhäuser nehmen sie schnell an, angelockt vom Versprechen niedrigerer Kosten und schärferer diagnostischer Genauigkeit. In einer aktuellen Studie schnitt KI gleich gut ab wie nicht-experte Ärzte, ein Beweis dafür, wie schnell Algorithmen im Untersuchungszimmer zu menschlichen Klinikern aufschließen. OpenAI, Google und Microsoft testen explizit KI-basierte Gesundheitsanwendungen. Eines dieser Unternehmen, Open Evidence AI, entwickelt ein KI-gestütztes Tool, um Klinikern schnelle, evidenzbasierte Antworten auf medizinische Fragen zu geben, und wird bereits mit 3,5 Milliarden Dollar bewertet.

Sicherlich gibt es Bereiche, in denen KI glänzen kann. Sie kann Muster aufdecken, die selbst für den erfahrensten Kliniker unsichtbar sind, indem sie ein Laborergebnis von vor Monaten mit einer Medikamentenliste und einer Gruppe von Symptomen verknüpft, um ein schweres Infektionsrisiko zu erkennen, bevor es jemand anderes sieht. Sie kann obskure Medikamentenwechselwirkungen aufzeigen, die Entscheidungsfindung unterstützen und die Dokumentation beschleunigen, wodurch Ärzten mehr Zeit für Patienten bleibt und ihr Burnout reduziert wird. Richtig eingesetzt, ist KI weniger ein Ersatz für Intuition als vielmehr ein Kraftverstärker dafür.

Vielleicht ist das Neue vor allem, dass sowohl Patienten als auch Ärzte jetzt KI nutzen, aber nicht auf die gleiche Weise.

Vor ein paar Nächten kam eine junge Frau mit Brustschmerzen in die Notaufnahme. Ihre Tests waren alle normal, aber sie schien immer noch nervös. Als ich fragte, ob sie sich Sorgen machte, gab sie zu, dass sie in einem ChatGPT-Kaninchenbau gelandet war, nachdem sie ein paar Herzrhythmusstörungen bemerkt hatte. Der Chatbot sagte ihr, sie könnte haben: eine seltene, tödliche Herzerkrankung. (Das hatte sie nicht.) Die darauf folgende Panik verursachte wahrscheinlich die Symptome, die sie einbrachten.

Ein anderer Patient, ein junger Mann, kam in der Gewissheit an, dass er eine Blinddarmentzündung hatte, weil ChatGPT es ihm gesagt hatte. Diesmal hatte er Recht. Seine Symptome waren lehrbuchmäßig, und der ihn untersuchende Medizinstudent kam unabhängig zu derselben Diagnose. Die KI half dem Patienten, seine Diagnose früher zu finden und eine Behandlung zu suchen. Dennoch benötigte er die geschickten Hände eines Chirurgen, um seinen Blinddarm entfernen zu lassen.

Das ist das Paradoxon dieses Moments: Dieselbe Technologie, die Verwirrung und Angst schürt, kann auch Erkenntnisse schärfen und die Versorgung beschleunigen. Sie verändert nicht nur, wie wir diagnostizieren, sondern auch, wie Patienten ankommen und wer sich um sie kümmert. Kosten, Personal und Technologie haben die Grenze zwischen menschlicher und maschineller Versorgung verwischt und eine neue Art der Medizin eingeläutet: Patienten, die von Klinikern behandelt werden, deren mächtigster Kollege ein Algorithmus sein könnte.

Das Problem ist nicht nur, dass KI eine Diagnose falsch stellen könnte, sondern auch, dass der langfristige Einsatz von KI die Einsicht eines Klinikers gefährden könnte. In einer Studie war es weniger wahrscheinlich, dass Ärzte möglicherweise krebsartige Stellen bei einer Koloskopie entdeckten, nachdem sie sich an die Verwendung eines KI-Tools gewöhnt hatten. Die Autoren vermuteten, dass je mehr sie sich auf einen Algorithmus verließen, desto weniger menschliches Urteilsvermögen sie ausübten.

Dieser Wandel hin zur Integration von KI oder nicht-ärztlichen Klinikern in die Notaufnahme ist nicht grundsätzlich schlecht, aber er ist für Patienten oft unsichtbar. Und das ist das Problem.

Patienten haben das Recht zu erfahren, wann ihre Versorgung durch KI geleitet wird, wer letztendlich für die getroffenen Entscheidungen verantwortlich ist und welche Schutzmaßnahmen existieren, wenn der „Arzt im Raum“ ein Algorithmus sein könnte.

Transparenz wird den Vormarsch der Technologie nicht aufhalten, aber sie könnte dazu beitragen, etwas zu bewahren, das die Medizin nicht verlieren darf: Vertrauen.