KI-Systeme verändern die Medizintechnik: Von Bildanalytik über Entscheidungsunterstützung bis hin zu robotischen Assistenzsystemen entstehen neue Formen der Mensch-Maschine-Zusammenarbeit. Oft heißt es, KI werde ärztliche und pflegerische Expertise nicht ersetzen, sondern lediglich ergänzen. Als Team, so die Annahme, könnten deutlich bessere Ergebnisse erzielt werden. Aber wie sieht die Realität tatsächlich aus? Führt die Zusammenarbeit von Mensch und KI im Gesundheitssektor zwangsläufig zu einem besseren (Behandlungs-)Ergebnis?
Der EU AI Act schreibt in diesem Kontext vor, dass KI-basierte Medizintechnik stets unter der Aufsicht von Menschen stehen muss. Das heißt gleichzeitig aber auch: Das Gesundheitspersonal muss KI-Entscheidungen verstehen, hinterfragen – und im Zweifel korrigieren. Was bisherige Studien über die Performance von Mensch-KI-Teams zeigen, welche paradoxen Effekte auftreten können, und welche Faktoren eine vertrauenswürdige Teamkultur fördern können, soll im folgenden Beitrag genauer unter die Lupe genommen werden.
Diese Publikation ist Teil unseres Dossiers Medizintechnik: Künstliche Intelligenz und digitale Innovationen in der Praxis.