KI-Tools in der Pflege: „Fehlertoleranz an den Tag legen“

Frau Dr. Gregersen, halten Sie den Einsatz von KI-Tools in der Pflege für sinnvoll – vielleicht sogar für unverzichtbar?

Ich halte ihn auf jeden Fall für sinnvoll und auch für unverzichtbar. Jedoch ist die breite Umsetzung von KI in der Pflege noch nicht erfolgt. Wir sehen immer wieder, dass es in Kliniken bei Ärztinnen und Ärzten schon stärker Einzug gehalten hat als in der Pflege. Es liegen relativ geringe Umsetzungserfahrungen für stationäre Pflegeeinrichtungen und ambulante Dienste vor.

Grundsätzlich ist es aber total wichtig und richtig, dass KI-Tools im gesamten Gesundheitswesen genutzt werden – wenn der Einsatz mit dem Ziel verknüpft ist, Beschäftigte zu entlasten, etwa bei der Dokumentation. Ob diese Entlastung tatsächlich eintritt, dazu gibt es von wissenschaftlicher Seite erste Hinweise, aber noch zu wenige Belege. Aber ich sehe eine echte Chance, dass dieses Ziel langfristig erreicht werden kann. Die Pflegefachkräfte werden immer weniger und viele arbeiten am Limit. Jede Zeitersparnis durch KI, die sie entlastet und am Ende den zu pflegenden und zu behandelnden Personen zugutekommt, wäre wünschenswert.

Dr. Sabine Gregersen

ist Diplom-Psychologin und leitet den Bereich Gesundheitswissenschaften bei der Berufsgenossenschaft für Gesundheitsdienst und Wohlfahrtspflege (BGW). Sie hat mehrere Fachbeiträge zum Thema KI in der Pflege verfasst. Bild: ©Jörg Modrow

KI zur Dokumentation einzusetzen, wäre also eine zentrale Stellschraube. Für welche Aufgaben kann KI in der Pflege noch eingesetzt werden?

Zum Beispiel für die Dienst- und Personaleinsatzplanung. Ebenso für die Tourenplanung in der ambulanten Pflege. Auch für die Sturzprävention wird KI bereits eingesetzt. Hier kann das Tool überprüfen, wie sich eine Person bewegt oder ob sie aus dem Bett kommt. Möglich ist auch der Einsatz beim Gesundheits- und Vitalmonitoring. Hier wird KI in Form von „Wearables“, also tragbaren Geräten an den Patientinnen und Patienten eingesetzt, um ihre Vitaldaten im Blick zu halten.

Allerdings gab es hierzu ein Forschungsprojekt, bei dem die teilnehmenden Pflegekräfte die KI für diese Aufgabe klar abgelehnt haben. Für sie war es wichtig, dass diese Form von Kontakt zu den Menschen erhalten bleibt, dass sie weiterhin selbst zu den Menschen gehen und den Puls messen, und nicht nur auf einen Monitor schauen.

KI-Tools können Pflegekräfte nicht ersetzen

Genau dieser Gedanke, dass KI den Menschen an zentralen Stellen ersetzen könnte, macht den Einsatz von KI für manche Pflegekräfte vermutlich auch befremdlich.

Ja, das stimmt. Ich denke, man muss immer im Blick behalten, dass die KI die Pflegekraft nicht ersetzen soll, sondern ein Unterstützungstool für sie ist. Wenn ein Tool in diesem Sinne eingesetzt wird, dann hätte die Pflegekraft wirklich mehr Zeit für die Bedürfnisse der Bewohnerinnen und Bewohner, könnte mehr zuhören. Wenn KI aber nicht entsprechend eingesetzt wird und Pflegekräfte sich Sorgen machen, ersetzt zu werden oder den Kontakt zu den Menschen zu verlieren, dann kann es genau den gegenteiligen Effekt haben. Es braucht Vertrauen in das Tool, das Wissen: Es ersetzt mich nicht, sondern ich darf es hinterfragen und muss meine eigenständige Beurteilungskraft nicht aufgeben. Ich bin immer noch die Fachkraft, ich entscheide am Ende, was richtig ist.

Welche Risiken gibt es, wenn dieses Vertrauen fehlt? Spricht man vom sogenannten Techno-Stress, also dem Gefühl von Überforderung oder Belastung durch neue Technologien?

Ja, diese Unsicherheit im Umgang mit der KI und das fehlende Vertrauen sind ein Bestandteil von Techno-Stress. Anfangs können Beschäftigte so ein Tool nicht einschätzen. Beim Techno-Stress wissen wir, dass vor allem auch die Unzuverlässigkeit der KI ein zentraler Faktor sein kann. Also immer dann, wenn sie nicht so funktioniert wie gewünscht oder regelmäßig abstürzt. Das verursacht Zeitdruck, der wiederum Stress auslöst.

Verantwortungsbereiche und Datenschutz fokussieren

Welche Risiken für gesunde und sichere Arbeit kann KI noch mit sich bringen?

Besagte Faktoren können zu Akzeptanzproblemen führen, die Beschäftigten haben dann teilweise eine geringe Bereitschaft, mit dem Tool zu arbeiten. Ein weiteres Risiko kann die Sorge vor der Deprofessionalisierung sein, also das bereits erwähnte Gefühl, dass ich meine Kompetenzen abgebe, dass ich meine professionelle Urteilskraft verliere und dadurch vielleicht auch Warnsignale übersehe.

Häufig stellt sich auch die Frage, wer am Ende eigentlich die Verantwortung trägt für die Entscheidungen, die mithilfe von KI getroffen werden. Und natürlich ist auch die Datensicherheit ein zentrales Thema, das mitgedacht werden muss. Wenn hier nicht die richtigen Vorkehrungen getroffen werden, schaffe ich eine offene Flanke für Cyberangriffe.

Können Sie skizzieren, wie Verantwortliche vorgehen können, damit die Einführung von KI-Tools gelingt und besagte Risiken verringert werden?

Hier sind mehrere Faktoren entscheidend. Es fängt mit den technischen Voraussetzungen und der entsprechenden Ausstattung an. Hinweise aus Studien deuten darauf hin, dass KI im Arbeitsalltag genutzt wird, aber häufig nicht mit einrichtungsspezifischen Tools, die auf evidenzbasierten Informationen aufbauen. Es werden frei zugängliche, allgemeine KI-Anwendungen genutzt, deren Ergebnisse nicht immer wissenschaftlich fundiert sind.

Zudem brauche ich ausreichend Serverkapazitäten, damit die Technologie ohne Störungen arbeitet. Wichtig ist zudem eine Digitalstrategie. Die Verantwortlichen müssen im Vorfeld alle zentralen Fragen stellen, die mit der Nutzung von KI zusammenhängen. Also neben den technischen auch ethische Fragestellungen. Und die besagten Datenschutzthemen müssen geklärt sein.

Neben den technischen Themen ist ein sinnvoller Ablaufplan mit einer schrittweisen Einführung ganz wichtig. Es sollte mit einem Pilotprojekt beginnen und die Einführung zum Beispiel erstmal auf einer Station oder für einen Wohnbereich umgesetzt werden. Dabei sollten die Beschäftigten aktiv einbezogen werden, um die Anforderungen für ein passendes KI-Tool klar zu definieren. Gemeinsam sollte erörtert werden: Welche Anforderungen haben wir, was muss das Tool können? Wichtig ist, ausreichend Zeit für die Einführungsphase einzuplanen. Übergangsphasen, in denen Systeme parallel laufen, benötigen zusätzliche personelle Kapazitäten.

Führungskräfte sollten motivieren, neue KI-Tools auszuprobieren

Welche Aufgaben kommen dabei den Führungskräften im mittleren Management zu, also etwa den Stationsleitungen?

Wichtig ist, dass die Führungskräfte präsent sind und die Belastungen kennen und ernst nehmen. Also, dass diese unterstützen, Schulungen anbieten, ansprechbar bei Fragen und Problemen sind. Zudem sollten sie den Beschäftigten Mut machen und sie motivieren, das neue Tool auszuprobieren und auch eine Fehlertoleranz an den Tag legen. Sollte etwas nicht klappen, dann geht es nicht um Schuldzuweisungen. Vielmehr sollte vermittelt werden: Wir probieren das jetzt gemeinsam aus und lernen aus den Fehlern. Das ist am Anfang wichtig, denn erstmal bedeutet die Veränderung für die Beschäftigten Mehrarbeit und zusätzliche Belastungen.

Bei der Einführung ist es die Aufgabe von Führungskräften, Unterstützung und Orientierung zu geben, um Unsicherheiten aufzufangen und Kompetenzen aufzubauen. Der bereits bestehende Zeitdruck in der Pflege ist häufig ein Risikofaktor für die Bereitschaft, sich auf veränderte Abläufe einzulassen.

Es braucht also im Kern ein gutes Change Management, wie bei allen anderen Veränderungen am Arbeitsplatz auch?

Ja, die Prozessschritte und auch die Reaktionen bei den Beschäftigten ähneln sich bei jedem Change-Projekt. In den klassischen Change-Management-Modellen gibt es typischen Phasen, die mit Veränderungen einhergehen – angefangen bei einer Überraschung oder auch Schock, häufig gefolgt von Widerstand und Ablehnung. Es folgen erste Erfahrungen mit den Veränderungen. Hier ist es besonders wichtig, Fragen, Kritik und Unsicherheiten zuzulassen. Gelingt dies, folgt die emotionale Akzeptanz und Integration, bis die Neuerung dann im Arbeitsalltag angekommen ist.

Entsprechend sollten die Führungskräfte Verständnis für die möglichen Reaktionen und Sorgen der Beschäftigten mitbringen, richtig?

Ja, auf jeden Fall. Das Problem mit der KI und dieser enormen Entwicklung ist ja auch, dass die Anwenderinnen und Anwender oft nicht mitgedacht werden. Oft fehlt der Fokus darauf, dass es eine menschenzentrierte KI sein sollte – und das nicht nur im Sinne der zu pflegenden Personen, sondern auch im Sinne derer, die damit arbeiten sollen. Die Algorithmen sollten nachvollziehbar und so gestaltet sein, dass es diejenigen unterstützt, die sie am Ende anwenden. Und das wird im Moment nicht genügend berücksichtigt, weil man darauf bedacht ist, die Effizienz zu steigern. Umso wichtiger ist es, die Sorgen und Erfahrungen der Beschäftigten im Blick zu haben und sie ernst zu nehmen.