Prof. Dr. habil. Martina Hasseler
Abstract:
Die Integration von Künstlicher Intelligenz (KI) in die pflegefachliche Versorgung wirft essentielle Fragen zu Verantwortung, ethischen Entscheidungen und der Qualität der Datenbasis auf. In Deutschland erschwert ein vereinfachtes Verständnis von Pflege den Weg zu innovativen, pflegefachlich fundierten KI-Lösungen. Der Artikel beleuchtet zentrale Fragen zur Verantwortlichkeit, der Rolle der Pflegefachberufe, sowie ethische und gesellschaftliche Herausforderungen und fordert eine differenzierte Debatte für eine zukunftsfähige, KI-gestützte Pflegepraxis. Dieser Artikel beruht auf einer Anfrage von Amir Humanfar von Livy Care, der ein White Paper zu KI in „der“ Pflege publiziert hat (https://www.linkedin.com/posts/hum-systems-gmbh_zwischen-technologie-und-ethik-ki-in-der-activity-7267794398132723712-Ebc5?utm_source=share&utm_medium=member_desktop&rcm=ACoAACFF2n0BN_OpX9KJEyWSgwFIG7KV6LUdI6g).
Pflegefachberufe u. pflegefachliche Versorgung im Wandel der digitalen Transformation
Die Diskussion über den Einsatz von Künstlicher Intelligenz (KI) in der Pflege hat in den letzten Jahren an Bedeutung gewonnen. Mit der fortschreitenden technologischen Entwicklung stehen wir vor grundlegenden Fragen der Verantwortlichkeit, der ethischen Handlungsrahmen und der Qualität der Datenbasis. Gerade in Deutschland trifft die Entwicklung auf besondere Herausforderungen – nicht zuletzt aufgrund eines vereinfachten Verständnisses von Pflege, das kaum international anschlussfähig ist. In diesem Beitrag werden diese Problemfelder umfassend beleuchtet und Perspektiven für eine zukunftsorientierte, verantwortungsvolle KI-Entwicklung aufgezeigt.
In Deutschland müssen wir für die Frage sensibilisieret werden, welche „Pflege“ meinen wir? In aller Regel wird in Deutschland eigentlich nur ein Sozialgesetzbuch, nämlich nur das SGB XI, und damit der Sektor der Langzeitversorgung gemeint. Nach einem fachlichen und internationalen Verständnis verbindet sich damit nicht „Pflege“ im professionellen Sinne.
Solange wir in Deutschland die „Pflege“ nicht differenzieren in die unterschiedlichen Bedeutungen, wir eine sinnvolle KI-Entwicklung für die „berufliche Pflege“, „Laienpflege, Familienpflege“ und „berufliche Pflege“ in diversen Settings sehr schwierig (Hasseler 2024).
Aufgrund des merkwürdigen deutschen Verständnisses von „Pflege“, das nicht mehr international anschlussfähig ist, wird es in Zukunft schwieriger, an den internationalen Entwicklungen von KI in „der“ Pflege teilzuhaben. International wird in „Nursing“ (berufliche und fachliche Pflege“) und „carework“ unterschieden, Letzteres ist oft der Teil der Langzeitversorgung ist. Selbst wenn registrierte Nurses (also auf Bachelor-Niveau qualifizierte Pflegefachberufe) in der Langzeitversorgung (long-term care) arbeiten sollten, führen sie Aufgaben und Verantwortlichkeiten der pflegerischen Gesundheitsversorgung durch.
Die Verantwortung liegt demzufolge darin, zuerst diese Differenzierungen vorzunehmen und dann zu fragen, welche Ziele die KI erfüllen und welche Ergebnisse und Outcomes verbessern sollen (Hasseler 2024).
Entwicklung und Nutzung von KI in „der“ Pflege nur unter definierten Voraussetzungen möglich
Pflegefachberufe und Pflegewissenschaft werden kaum als Verantwortliche in die KI-Entwicklung integriert sind. Damit wird wieder eine sehr typische deutsche Perspektive erkennbar: Die Pflegefachberufe, die wieder nur als passive Empfänger*innen neuer digitaler oder KI-Entwicklungen betrachtet werden, aber nicht als aktive Gestalter*innen und Verantwortliche.
Diese Feststellung kann durch die Literaturlage dokumentiert werden, dass oftmals keine KI für die relevante fachliche Pflege entwickelt wird, sondern oft für andere Bereiche wie Service- oder Dienstleistungen oder Unterhaltung.
Es bleibt offen, wie eine vernünftige KI für die fachpflegerische Versorgung entwickelt werden soll, wenn die fachlichen und wissenschaftlichen Erkenntnisse „der“ Pflege gar nicht eingehen.
Mit anderen Worten, die „data science“, die der KI in der Entwicklung zugrunde liegen sollte, um ggf. auch Entscheidungen in der pflegefachlichen Versorgung zu unterstützen, kommt in dieser Lesart offensichtlich ohne Pflegewissenschaft zurecht. Es muss die Frage gestellt werden, wie unter Ausschluss von Pflegewissenschaft und Pflegefachberufen als Verantwortliche, die Prinzipien von Data Sciences, nämlich Problemdefinition, Algorithmen entwickle und Prozesse, die angemessenen Muster aus großen Datasets zu extrahieren, erfolgen sollen. Es ist ja noch nicht einmal in Deutschland geklärt, welcher Daten es benötigt. Das viel größere Problem ist ja, dass in Deutschland nicht die standardisierte Pflegesprache eingeführt wurde und gesetzlich Pflegefachberufe u.a. aus der eAkte ausgeschlossen sind (Hasseler et al. 2024). Solange in Deutschland nur angenommen wird, „Pflege“ fände nur im Sektor SGB XI statt und hier zeigen nur die Einrichtungen und Dienste als Vertragspartner der Pflegekassen relevant, kann es kaum eine verantwortliche KI-Entwicklung geben, weil sich diese KI nicht an pflegefachlichen Inhalten orientiert und auch nicht patienten- oder pflegebedürftigenorientiert ist. Im Buch von Kelleher & Tierney (2018) ist zu lesen: The key is getting the right data and finding the right attributes“.
Die Fragen sind also: Welche Probleme oder Herausforderungen KI in „der“ Pflege und für wen gelöst und/oder unterstützt werden? Welche Daten können dafür genutzt werden oder werden benötigt? Ansonsten gilt die Regel: garbage in, garbage out.
Unter derzeitigen Voraussetzungen und in der deutschen Lesart von „Pflege“ ist diese Voraussetzung nicht gegeben und damit auch einen großen Teil verantwortlicher KI-Entwicklung für pflegerische Versorgung nicht gegeben. Ich möchte im Moment so weit gehen, dass in Deutschland völlig die kritische Perspektive auf die Daten fehlt, die derzeit generiert werden, welcher Qualität sie sind und welche man im Grunde benötigt, um eine verantwortliche KI zu entwickeln. Es benötigt dringend die Integration einer standardisierten Pflegesprache wie NANDA, NIC, NOC, wenn eine angemessene KI-Entwicklung stattfinden soll (Hasseler et al. 2024).
Vor diesem Hintergrund ist Coeckelbergh (2022:105) zu erwähnen, der sich eine Co-Verantwortung und für einen transparenten und interaktiven Prozess aller aus, die auch den Blick auf die ethische Akzeptanz, Nachhaltigkeit und soziale Erwünschtheit integriert.
Verantwortung bei der Entwicklung und Nutzung von KI
Noch gar nicht diskutiert im Kontext dieser Thematik ist, welche Entscheidungen denn die KI priorisieren soll (bspw. im Kontext der autonom fahrenden Autos wird das ständig diskutiert). Hier kann man ethisch diffizile Fragestellungen denken, wie bspw. Krankenhauszuweisungen oder Triage durch KI? Das sind mögliche Prozesse, die durch eine KI übernommen werden können (vorausgesetzt, es werden alle relevanten Daten integriert, was ich jetzt definitiv für Deutschland als nicht erfüllt sehe). Welche Kriterien und Attribute gehen in diese KI-Entscheidungsfingung ein? Sollen die Berufe grundsätzlich der Empfehlung dieser KI folgen? Welche KI-Algorithmen sind immer ethisch diffizil? Welche Entscheidungen etc. wollen wir der KI überlassen? Wenn die KI die Entscheidung trifft, wer ist verantwortlich, wenn ein Mensch stirbt? Der Hersteller, der Betreiber, die Person, die der Entscheidung gefolgt ist? Alle diese Fragen sind bereits im Kontext der Entwicklung von autonom fahrenden Autos äußerst komplex, aber im Kontext langzeitpflegerischer Versorgung äußerst diffizil. Hier bedarf es definitiv einer größeren gesellschaftlichen Debatte. Die KI hat nicht die emotionalen Fähigkeiten, die aber, so Coeckelbergh (2022:115) für moralische Entscheidungen unerlässlich sind. In seinem Buch aus 2020 stellt Coeckelbergh die Anforderung, dass KI-Systeme die Fähigkeit haben sollten, ethische Konsequenzen zu evaluieren (S. 52). Auf. S. 62 beschreibt und definiert er AI-Ethics Mein Vorschlag wäre, KI-Ethik für die gesundheitliche und pflegerische Versorgung als Arbeitsgruppe oder Think Tank zu etablieren, da die Fragestellungen zu KI, Ethik, Moral, Verantwortung sehr, sehr komplex sind. Die Gefahr ist, dass aufgrund des simplen Verständnisses von Pflege in Deutschland viele relevante Aspekte nicht differenziert durchdacht und diskutiert werden.
Die Frage ist und bleibt: Wie erhalten wir eine ethische und moralische und verantwortungsvolle Entscheidungsfindung trotz und mit KI?
Die in Deutschland doch eigenartig zu betrachtende Unterscheidungen in DIGAs und DIPAs, die nach Sozialgesetzbüchern getrennt versucht, digitale Tools zu entwickeln statt in interprofessionellen und patientenzentrierten Prozessen der Gesundheitsversorgung zu denken, zeigt, wie sehr Pflegefachberufe und die pflegefachliche Versorgung abgewertet werden. Die Daten der Versorgung können so gar nicht zusammenkommen und es bleibt fraglich, wie denn eine patientenzentriert und personenzentrierte KI-Entwicklung stattfinden soll. Wie sollen denn die in Deutschland entwickelten digitalen Tools international einsatzfähig werden, wenn sie nach der Logik der Sozialgesetzbücher mehr oder weniger erfolgreich entwickelt werden sollen. Wie sollen international entwickelte digitale Toos oder KI-Anwendungen auf Deutschland übertragen werden, wenn dieses Land sektoren-, berufsgruppen- und sektorenabgrenzend denkt!
Des Weiteren sind in der KI-Entwicklung die üblichen Kriterien: Privacy, Security und Safety zu beachten. Hier liegt m.E. die Verantwortung bei den Entwicklern. Allerdings auch bei der Politik, die die gesetzlichen Rahmenbedingungen legen müssen. Insgesamt fehlt eine gesellschaftliche und politische Debatte darüber, wie und was die KI in der gesundheitlichen und pflegerischen Versorgung können dürfen soll. Da aber die Entwicklung der KI insgesamt so dynamisch ist, sind möglicherweise sehr kleinteilige gesetzliche Vorgaben nicht so einfach zu gestalten, sodass davon auszugehen ist, dass Vorgaben auf einer eher abstrakten Ebene als angemessen erscheinen – auch um den Herstellern Grenzen zu setzen.
Ebenso berücksichtigt muss das Thema „Bias“ im Zusammenhang mit dem Thema KI in „der“ Pflege berücksichtigt werden und gehört zu einer verantwortungsvollen Entwicklung von KI dazu. Deswegen ist die Frage so relevant, welche Daten gehen in welcher Qualität mit welchen Fragestellungen in die KI-Entwicklung mit ein? An welchen Stellen werden Bevölkerungsgruppen diskriminiert oder Versorgungsaspekte gar nicht erst dargestellt und weitere Fragestellungen mehr.
Opt-In oder Opt-Out: Welche Entscheidungsfreiheit bleibt den Betroffenen?
Die Zustimmung zum Einsatz von KI in der Gesundheitsversorgung wirft die Frage auf, ob Betroffene überhaupt noch eine echte Wahl haben. Viele alltägliche Anwendungen – vom Smartphone bis zum Fitness-Tracker – integrieren bereits KI, ohne dass dies den Nutzer*innen immer bewusst ist. Eine Differenzierung der Einsatzbereiche und Zielsetzungen von KI ist entscheidend, um sinnvolle Opt-Out-Möglichkeiten zu schaffen.
Besonders problematisch ist dabei die unklare Begrifflichkeit in der Frage nach der Zustimmung von „Pflegenden“, wie sie in Deutschland genutzt wird. Sind damit pflegende Angehörige oder Pflegefachberufe gemeint? Die Anforderungen dieser beiden Gruppen an eine KI unterscheiden sich erheblich. Während pflegende Angehörige oft einfache Unterstützung im Alltag suchen, benötigen Pflegefachberufe Systeme, die auf pflegewissenschaftlichen Grundlagen basieren.
Es ist von hoher Relevanz zu differenzieren, für welche Anwendungsbereiche die KI entwickelt wird, welche Ziele, welche Outcomes werden erreicht und gibt es ausreichend gute Studien, die einen effektiven Einsatz bestätigt.
Zusammenfassend ist zu formulieren: Es sollte eine Opt-Out-Möglichkeit geben, für nicht sinnvolle KI in diesem Kontext. Insgesamt ist aber zu bedenken, dass Deutschland aufgrund des simplen Verständnisses von Pflege an international entwickelter KI wenig teilhaben kann und national eher wenig innovativ die KI-Entwicklung herangeht – vor allem aber Aspekte der pflegefachlichen Versorgung zumeist ignoriert.
Des Weiteren hängt die Frage der Opt-Out/Opt-In ggf. vom Status der KI ab, z.B. ist es als Hilfsmittel anerkannt oder nicht u.ä.
Pflicht für KI-Entwicklung oder Nutzung – Recht auf Einsatz von KI – weil nur Vorteile damit verbunden sind?
Sehr häufig wird in Deutschland relativ unreflektiert zum Thema KI und digitalen Tools in „der“ Pflege diskutiert, meistens mit den Stichworten mehr Pflegebedürftige, Fachkräftemangel u.w.m. Damit werden magische Lösungen für komplexe Probleme erhofft. Vermutlich hängt diese unreflektierte Diskussion mit dem geringen Wissen über Pflege, Pflegefachberufe, pflegefachliche Versorgung, Sind und Ziel des SGB XI, sektorenübergreifende Versorgung etc. zusammen.
Es bleibt festzuhalten: In Deutschland wird in keinem Setting und Sektor der Pflegebedarf erhoben oder finanziert. Es ist davon auszugehen, dass der Pflegebedarf nicht ansatzweise angemessen angeboten wird.
Wir können jedoch allein aufgrund der demografischen Alterung in Deutschland mit Sicherheit feststellen, dass die Zahl der Menschen, die nach dem SGB XI als pflegebedürftig anerkannt werden, weiter steigen wird. Ein Großteil dieser Menschen nimmt bereits seit Einführung des SGB XI primär Geldleistungen in Anspruch. Das bedeutet, dass pflegende Angehörige in vielen Fällen die Hauptlast der Versorgung ihrer pflegebedürftigen Familienmitglieder tragen. Daraus ergibt sich die zentrale Frage: Welche Art von KI benötigen diese pflegenden Angehörigen und die Pflegebedürftigen, die überwiegend in häuslicher Umgebung betreut werden? Existieren bereits geeignete, sinnvolle KI-Lösungen, die spezifisch auf ihre Bedürfnisse ausgerichtet sind?
Eine weitere essenzielle Frage lautet: Sollte KI gezielt die pflegefachliche Versorgung unterstützen? Dabei ist zu berücksichtigen, dass Pflegefachberufe sektorenübergreifend tätig sind – nicht nur in Langzeitpflegeeinrichtungen, sondern vor allem auch in Krankenhäusern, Rehabilitationszentren und weiteren Versorgungssettings. Die Anforderungen an eine solche KI unterscheiden sich erheblich von dem, was bislang in Deutschland gemeinhin unter dem Begriff „Pflege“ verstanden wird (siehe die Diskussion zur Differenzierung in Frage 1).
Darüber hinaus sollte berücksichtigt werden, dass im SGB XI zunehmend weniger qualifizierte Pflegehelfer*innen und Assistenzkräfte tätig sind. Dieser Umstand hat direkte Implikationen für die Entwicklung und Implementierung von KI in diesem Bereich. KI-Systeme müssen den besonderen Herausforderungen und Kompetenzen dieses Personals angepasst werden, um eine effektive Unterstützung und Entlastung in der Pflegepraxis zu gewährleisten.
Kann KI den Fachkräftemangel in der Pflege lösen?
Der Fachkräftemangel in der Pflege ist ein bekanntes Problem, doch die Vorstellung, dass KI diesen Mangel automatisch kompensieren könnte, greift zu kurz. In Deutschland fehlen die Voraussetzungen für eine fundierte KI-Entwicklung, die tatsächlich den Workload von Pflegefachberufen reduziert. Es gibt weder ausreichend differenzierte Forschung noch Evidenz, dass KI den Mangel an Fachpersonal abmildern kann. Ein weiteres Hindernis ist die fehlende sektorenübergreifende Betrachtung der Pflegebedarfe – insbesondere im Kontext des SGB XI, das überwiegend pflegende Angehörige betrifft. Ohne klare Ziele und definierte Datensätze wird KI nicht die erhofften „enormen“ Vorteile bieten können.
Die Formel, mehr KI reduziert die Auswirkungen des Pflegekräftemangels kann erst mal nicht so einfach formuliert werden. Es gibt noch nicht einmal die Evidenz dafür. Es gibt noch nicht einmal internationale Evidenz, dass mit KI-Entwicklung für pflegefachliche Versorgung der Wordload von Pflegefachberufen reduziert werden kann. Wir brauchen demzufolge sehr viel mehr differenzierte Forschung, um darstellen zu können, dass KI den Pflegefachberufemangel in Teilen kompensieren kann.
Solange die Datensets nicht definiert sind, pflegefachliche Versorgung nicht integriert und nicht über standardisierte Pflegefachsprache abgebildet ist, werden die in der Frage angenommenen enormen Vorteile der KI für Deutschland schwer zu entwickeln sein.
Menschliche Zuwendung: Kann KI sie ersetzen?
Interessanterweise wird im Kontext der Robotik in der Pflege häufig betont, dass diese Technologien die menschliche Interaktion nicht ersetzen, sondern lediglich ergänzen sollen. Trotzdem zeigt die Realität, dass viele robotische Systeme genau für diesen Zweck entwickelt werden. Es scheint, als würden Entwickler*innen oft den einfacheren Weg wählen und sich auf rudimentäre Interaktionen und einfache Anwendungsfälle konzentrieren. Dies könnte darauf zurückzuführen sein, dass das Verständnis von „Pflege“ bei den Entwicklern begrenzt ist und sie häufig auf persönliche Erfahrungen aus der Familienpflege oder auf mediale Darstellungen zurückgreifen.
Daraus ergibt sich die Frage: Werden diese vereinfachten Vorstellungen auch auf die Entwicklung von KI in der gesundheitlichen und pflegerischen Versorgung übertragen?
Eine weitere entscheidende Frage lautet: In welcher Form sollte KI überhaupt in der Pflege eingesetzt werden? Es scheint, dass diese Überlegungen oft auf den SGB-XI-Bereich der Langzeitversorgung beschränkt sind, ohne die komplexeren Anforderungen der fachlichen und professionellen Pflege zu berücksichtigen. Sollen wir KI in Form von Chatbots einsetzen? Oder liegt der Fokus auf robotischen Systemen, die mit KI kombiniert sind? Vielleicht spielen auch Augmented Reality (AR) oder Virtual Reality (VR) eine Rolle?
Da KI-Lösungen in der Regel mit weiteren Technologien verknüpft werden müssen und diese oft kostspielig sind, ist es unwahrscheinlich, dass KI in naher Zukunft die menschliche Interaktion vollständig ersetzt. Vielmehr bleibt die menschliche Zuwendung ein wesentlicher Bestandteil der Pflege, insbesondere in der häuslichen Langzeitversorgung. Dies entspricht auch der ursprünglichen Intention der Pflegeversicherung nach SGB XI, die darauf basiert, dass ein Großteil der Pflegebedürftigen von Angehörigen betreut wird.
Hierbei möchte ich erneut betonen: Fachliche Pflege geht über reine menschliche Zuwendung hinaus. Während Zuwendung von jeder Person erbracht werden kann, erfordert professionelle Pflege fundiertes Wissen, eine systematische Ausbildung und spezifische Kompetenzen.
Wie Coeckelbergh (2022:88) treffend feststellt: „Technological solutions are not the only or necessarily the best way to tackle demographic challenges.“ In diesem Zusammenhang stellt sich die entscheidende Frage, ob der Einsatz von KI in der Langzeitversorgung soziale Probleme wie Isolation, Altersdiskriminierung oder den Verlust von Würde weiter verstärkt oder ob KI diese Entwicklungen sogar verhindern kann.
Darüber hinaus werfen alle hier gestellten Fragen die grundlegende Überlegung auf, was eine gute und qualitativ hochwertige Langzeitversorgung ausmacht. Diese Definition sollte zunächst auf analoger Ebene geklärt werden, bevor die Möglichkeiten einer Unterstützung durch KI sinnvoll bewertet werden können.
Coeckelbergh (2022:101) skizziert in seinem Buch über Robotik und Ethik Kriterien, die sich auch auf die Entwicklung von KI in der Pflege übertragen lassen. Eine hochwertige Gesundheitsversorgung verbessert, stellt wieder her und erhält die Gesundheit der Menschen. Sie beruht auf bioethischen Prinzipien, professionellen Ethikstandards und erfordert signifikante zwischenmenschliche Interaktionen. Neben der physischen Dimension umfasst gute Versorgung auch psychosoziale, relationale und emotionale Aspekte. Sie integriert sowohl professionelle Pflegekräfte als auch Familienangehörige, Freunde und andere wichtige Bezugspersonen. Gute Versorgung kombiniert praktisches Engagement mit den Patient*innen („Wissen wie“) und formales Fachwissen („Wissen das“). Außerdem berücksichtigt sie den organisatorischen Kontext, die finanziellen Rahmenbedingungen und die Akzeptanz der menschlichen Verwundbarkeit und Abhängigkeit.
Letztlich bleibt festzuhalten, dass wir als soziale Wesen auf zwischenmenschliche Interaktionen angewiesen sind. Vor diesem Hintergrund ist davon auszugehen, dass KI die menschliche Zuwendung in keinem Lebensbereich vollständig ersetzen sollte – weder in der Pflege noch anderswo.
Schlussfolgerung: Der Weg zu einer verantwortungsvollen KI in der Pflege
Eine zukunftsfähige Integration von KI in die pflegefachliche Versorgung erfordert grundlegende strukturelle Veränderungen. Um KI sinnvoll in die pflegefachliche Versorgung zu integrieren, braucht es eine grundlegende Neudefinition dessen, was „Pflege“ in Deutschland umfasst. Standardisierte Pflegedaten, eine Einbindung der Pflegewissenschaft und ethische Leitlinien sind unverzichtbar, um KI-Systeme zu entwickeln, die den komplexen Anforderungen gerecht werden. Ein interdisziplinärer Think Tank könnte dazu beitragen, die offenen Fragen zu klären und eine gesellschaftliche Debatte über die Grenzen und Möglichkeiten von KI anzustoßen.
Literatur:
Rau, E., Tischendorf, T., Hasseler, M., Schaal, T. (2024): Pflegefachberufe durch Schreibrechte in der ePA stärken. In: PFLEGE Zeitschrift 10.2024 / 77. (https://link.springer.com/epdf/10.1007/s41906-024-2703-z?
Hasseler, M. (2024): Neuausrichtung in „der“ Pflege – mit digitalen Technologien – aber zuerst: erforderliche Differenzierungen vornehmen. In: Arnold, G., Schumann, A. (Hrsg.): Pflege neu denken - intersektorale Zusammenarbeit im Gesundheitswesen. evermind, Leipzig, S. 85-102 (ISBN 978-3-00-080331-4)
Coeckelbergh, M. (2022). AI Ethics and Robotics in Healthcare
Kelleher, J. D., & Tierney, B. (2018). Data Science: The Key to Unlocking AI Potential
Comments