In einer Welt, in der das Internet zunehmend zum Go-to für medizinische Informationen wird, stehen digitale Diagnosetools, insbesondere KI-basierte Chatbots wie ChatGPT, im Mittelpunkt der öffentlichen Aufmerksamkeit. Eine Untersuchung aus Würzburg wirft nun Licht auf die Akzeptanz und das Vertrauen in die medizinische Beratung durch künstliche Intelligenz.
Die Studie, die im renommierten Journal „Nature Medicine“ diskutiert wird, offenbart die Skepsis der Menschen gegenüber KI-generierten Gesundheitsempfehlungen, ein Phänomen, das für das Gesundheitswesen weitreichende Konsequenzen haben könnte.
Wahrnehmung von KI-Ratschlägen untersucht
Forscher der Julius-Maximilians-Universität in Würzburg stellten sich der Aufgabe, die menschliche Reaktion auf von KI erstellte medizinische Ratschläge zu analysieren. Sie interessierten sich insbesondere dafür, wie derartige Ratschläge von den Menschen wahrgenommen werden. Dazu wurden über 2.000 Personen in drei Gruppen aufgeteilt, die jeweils dieselben Gesundheitsempfehlungen erhielten, jedoch unter verschiedenen Prämissen: die eine Gruppe unter dem Glauben, die Ratschläge kämen von einem Mediziner, die zweite unter der Annahme, sie seien von einem KI-Chatbot verfasst, und die dritte mit dem Verständnis, dass ein Chatbot die Informationen lieferte, diese jedoch von einem Arzt überprüft wurden.
Die Ergebnisse zeigten, dass die Einbeziehung einer KI in den Prozess die wahrgenommene Empathie und Zuverlässigkeit der Ratschläge negativ beeinflusste. Selbst die Information, dass ein Arzt die Angaben eines Chatbots überprüft hatte, konnte diese Wahrnehmung nicht verbessern. Die Befunde verdeutlichen eine signifikante, wenn auch nicht überwältigende Skepsis gegenüber KI in der medizinischen Beratung.
Erklärungsansätze für KI-Skepsis
Die Gründe für die Zurückhaltung gegenüber KI-basierter medizinischer Beratung liegen unter anderem in Stereotypen, etwa der Annahme, eine Maschine könne keine echten Empathie zeigen. Trotz dieser Skepsis wurden die Ratschläge aller drei Gruppen in puncto Verständlichkeit gleich bewertet, was auf das Potenzial von KI hinweist, verlässliche Informationen zu liefern.
Das Bewusstsein für die Skepsis gegenüber KI ist besonders im Kontext der fortschreitenden Integration von KI-Technologien in das Gesundheitswesen von Bedeutung. Wissenschaftler betonen die Notwendigkeit der Aufklärung über KI-Anwendungen und die Bedeutung der menschlichen Überprüfung von KI-Empfehlungen, um das Vertrauen der Patienten zu gewinnen.
Transparenz als Schlüsselfaktor
Transparenz spielt eine entscheidende Rolle beim Einsatz von KI in der Medizin. Experten fordern, dass KI-Systeme nicht nur Diagnosen liefern, sondern auch ihre Schlussfolgerungen nachvollziehbar machen sollten. Trotz gemischter Ergebnisse in der Diagnosegenauigkeit, wie sie in verschiedenen Studien berichtet werden, ist die Fähigkeit von KI, umfangreiches medizinisches Wissen zugänglich zu machen, unbestritten. Doch die Studien legen nahe, dass bei der Nutzung von KI für Diagnosezwecke Vorsicht geboten ist.
In einer Erhebung zur Nützlichkeit von ChatGPT in der medizinischen Ausbildung wurde festgestellt, dass der Chatbot Mühe hat, Laborwerte und bildgebende Verfahren korrekt zu interpretieren. Folglich warnen die Forscher vor einer übermäßigen Abhängigkeit von ChatGPT sowohl in der Diagnose als auch in der Ausbildung. ChatGPT selbst räumt ein, für medizinische Diagnosen nicht geeignet zu sein und betont die Wichtigkeit, bei gesundheitlichen Fragen immer Fachpersonal zu konsultieren.
Diese Forschungsergebnisse zeigen einen klaren Bedarf nach weiterer Aufklärung und Entwicklung im Bereich KI-basierter medizinischer Beratung, aber auch den Bedarf nach reflektierter Mediennutzung.
[crp box=“1″ limit=“3″ heading=“1″ offset=“0″]
