Heute ist der 10.05.2026 und die Diskussion über den Einsatz von Künstlicher Intelligenz (KI) in der Medizin gewinnt zunehmend an Fahrt. In Baden, wo wir uns befinden, haben Forscher der Universität Hohenheim in Stuttgart interessante Erkenntnisse über das Vertrauen von Menschen in KI-Systeme gewonnen. Sie haben herausgefunden, dass Laien – also wir alle – bei persönlichen und moralischen Fragen oft ein übertriebenes Vertrauen in die Empfehlungen von KI hegen. Heißt das, dass wir uns blind auf Maschinen verlassen? Das könnte möglicherweise nicht die beste Idee sein.
Wirtschaftsethiker Matthias Uhl warnt davor, dass viele Nutzer die Stärke der Einflussnahme von KI auf ihre Meinungsbildung unterschätzen. Es ist ein bisschen wie im Casino: Man denkt, man hat die Kontrolle – doch die Karten sind schon längst gemischt. In der medizinischen Welt zeigt sich, dass Fachleute, insbesondere Ärzte, bei KI-gestützten Empfehlungen oft eher zögerlich sind. Das ist verständlich, denn schließlich geht es um Leben und Gesundheit.
Vertrauen in die Technik
Uhl hat auch darauf hingewiesen, dass KI bei der Beurteilung von Röntgenbildern und MRTs häufig bessere Ergebnisse liefert als Menschen. Das ist schon beeindruckend! Doch wie viel Vertrauen können wir tatsächlich in diese Technologie setzen? In einem Experiment mit politischen Anhängern hat Uhl und sein Team festgestellt, dass Gespräche, in denen KI Rückfragen stellt – ganz nach der sokratischen Methode –, dazu führen können, dass die Probanden fairer handeln. Es scheint, als könnte KI nicht nur Informationen liefern, sondern auch unser Wertesystem schärfen.
Ein weiteres spannendes Projekt, das in diesem Kontext ins Leben gerufen wurde, ist „Ethyde“. Hier wird gemeinsam mit dem Bayerischen Forschungsinstitut für Digitale Transformation an der Transparenz von KI gearbeitet. Das Ziel ist es, dass KI ihre Diagnosen nicht nur stellt, sondern auch erklärt und die Sicherheit ihrer Aussagen angibt. Erste Prototypen sollen bis Ende 2027 auf Medizinkongressen getestet werden. Man darf also gespannt sein, welche Entwicklungen uns da erwarten!
Ein Modell für die Zukunft
Die Bedeutung von KI in der Medizin wird auch von einem Forschungsteam des Bosch Health Campus sowie den Universitäten Bayreuth und Bristol anerkannt. Sie haben ein Modell für den Umgang mit medizinischer KI entwickelt, das kürzlich im Journal npj Digital Medicine veröffentlicht wurde. Eckhard Nagel, ein Experte der Universität Bayreuth, hebt hervor, wie wichtig Vertrauen für den Behandlungserfolg und die Zufriedenheit der Patienten ist. Es wird klar, dass das Verhältnis zwischen Ärzten und Patienten auch im digitalen Zeitalter aufrechterhalten werden muss.
Ein paar Vorschläge der Forschungsgruppe sind besonders bemerkenswert: Sie fordern die Einbeziehung medizinischer Fachkräfte und Patienten in den Entwicklungsprozess der KI, um Transparenz zu schaffen und Diskriminierungen zu vermeiden. Außerdem sollen standardisierte Informationen bereitgestellt werden, die auf die Bedürfnisse der professionellen Anwender abgestimmt sind. Das klingt nach einem durchdachten Ansatz!
Ein weiterer Punkt, der auf den Tisch kommt, ist die Notwendigkeit strenger Nachweise für die Zuverlässigkeit von medizinischer KI, vergleichbar mit anderen Behandlungsmethoden. Lena Zuchowski von der Universität Bristol möchte dafür sorgen, dass die Diskussion über Regularien angestoßen wird, um die Anwendung in der Praxis zu fördern. Das ist ein Schritt in die richtige Richtung, denn schließlich ist es nicht nur wichtig, was KI kann, sondern auch, wie wir damit umgehen.