Bug des Monats April 2024 - Claude Toussaint

April 2024

„Wenn es mit einem sozialen Roboter gelingt, ein Jahr später in ein Pflegeheim zu gehen, ließe sich viel Geld sparen“

Pflegeheime nutzen den sozialen Roboter Navel bereits für die Aktivierung von Bewohnerinnen und Bewohnern. Im Interview erzählt der Gründer von Navel Robotics, Claude Toussaint, wie der Roboter künftig Pflegekräfte entlasten soll, wieso mittelfristig auch ein Mietmodell für pflegende Angehörige geplant ist – und warum die Emotionserkennung von Navel noch datenschutzrechtliche Fragen aufwirft.

Herr Toussaint, was ist Ihr persönlicher Bug des Monats: Auf welches größere Hindernis bei der Digitalisierung des Gesundheitswesens sind Sie zuletzt gestoßen?

Eines der Themen, das uns immer wieder beschäftigt, ist der Datenschutz. Unser sozialer Roboter Navel arbeitet mit einer Bilderkennung. Der Roboter erfasst damit, ob vor ihm tatsächlich ein Mensch steht, welche Emotionen dieser Mensch gerade hat und ob er den Roboter anschaut. Das alles sind soziale Signale, die auch wir Menschen brauchen, um ein vernünftiges Gespräch führen zu können.

Niemand hat von außen Zugriff auf die Daten. Der Roboter nutzt sie lediglich dafür, um sich menschenähnlich unterhalten zu können. Dennoch könnte die Bildverarbeitung aus Sicht von Datenschützern problematisch sein, weil Navel Emotionen und Personen erkennt.

Auf europäischer Ebene wurde kürzlich der AI-Act verabschiedet. Darin wurde festgelegt, dass die Emotionserkennung am Arbeitsplatz verboten ist.

Genau, für unseren Anwendungsfall ist die Erkennung von Emotionen und Personen aber gar nicht geregelt.

Wie interagiert Navel mit Bewohnerinnen und Bewohnern im Pflegeheim?

Bisher kommt er mit den Bewohnern bei Treffen an einem Ort im Pflegeheim zusammen, eine Alltagsbegleiterin des Pflegeheims ist immer dabei. In ein paar Monaten soll er dann auch autonom in den öffentlichen Bereichen des Heims umherfahren, sodass ihn dann Heimbewohnerinnen ansprechen können oder er von sich aus Heimbewohner anspricht – zum Beispiel jemanden, der gerade allein ist und einfach aus dem Fenster schaut.

Navel kann dann ein einfaches Gespräch mit dem Bewohner führen und dabei auch auf frühere Gespräche Bezug nehmen. Dabei ist er darauf trainiert, dass er in leichter Sprache – also mit kurzen einfachen Sätzen – spricht und immer empathisch zurückfragt. Er soll so die Bewohnerinnen und Bewohner aktivieren. Außerdem hat er ein paar Entertainmentfunktionen: Er kann Witze erzählen, Gedichte aufsagen oder Quizfragen zum kognitiven Training stellen. Da er GPT-basiert ist, kann er zudem auf sehr viel Wissen zugreifen. Die Bewohner können sich zum Beispiel im Anschluss an das Gedicht über den Dichter unterhalten. Wir haben auch bereits festgestellt, dass Heimbewohner, die kognitiv noch sehr fit sind, sich vor den Treffen Fragen überlegen, um sich mit Navel zum Beispiel über Literatur zu unterhalten.

Perspektivisch soll er auch simultan übersetzen können. Das ist nützlich, weil in den Heimen häufig Menschen mit Dutzenden unterschiedlichen Muttersprachen wohnen und im Alter in diese Sprache zurückfallen.

Wie sieht der Austausch mit dem Pflegepersonal aus?

Navel kann sie zum Beispiel bei der Aktivierung unterstützen, etwa indem er Anregungen zu Themen gibt, die man mit den Bewohnern besprechen könnte. Es ist auch bereits vorgekommen, dass Pflegeschülerinnen sich mit Navel über Themen wie Demenz oder Dekubitus austauschen.

Navel ist inzwischen in mehreren Pflegeheimen im Einsatz. Wie gehen Sie nun mit dem Datenschutzthema um?

Wir haben eine Datenschutzfolgeabschätzung erstellt, mit der wir offenlegen, was im Roboter mit den Daten passiert. Auch einen Auftragsverarbeitungsvertrag und ein Informationspaket zu Datenschutzfragen für die Träger der Pflegeheime haben wir zusammengestellt. Zudem gibt es Einwilligungserklärungen für die Bewohnerinnen und Bewohner der Heime. Mit Blick auf die Mitarbeiterinnen und Mitarbeiter interpretieren die Pflegeheimträger es unterschiedlich: Manche sehen es so, dass für die Arbeit mit Navel eine Einwilligungserklärung nötig ist – andere sehen es so, dass der Arbeitsvertrag die Einwilligung enthält. Für Gäste lösen die Heime es bisher mit Plakaten im Haus, auf denen erklärt wird, dass dort ein Roboter mit einer Kamera unterwegs ist.

Was würde Ihnen die Arbeit erleichtern?

Wichtig wäre beim Datenschutz, nicht nur darauf zu schauen, welche Technologie eingesetzt wird, sondern auch um welchen Anwendungsfall es geht – also was mit den Informationen letztlich gemacht wird. Eine Emotionserkennung kann man ja für etwas Gutes oder Schlechtes einsetzen. Ich kann gut verstehen, dass man eine Emotionserkennung am Arbeitsplatz kritisch prüfen muss. Wir verwenden sie aber dazu, dass Navel empathisch reagieren kann. Davon profitieren die Heimbewohner.

Was sind die ersten Erfahrungen aus Ihren Pilotprojekten? Wie reagieren die Bewohnerinnen und Bewohner auf Navel?

Eine Pflegekraft hat uns kürzlich von einer Bewohnerin erzählt, die eine Krebsdiagnose bekommen hatte. Sie war daraufhin sehr verschlossen und wollte nicht darüber reden. Erstaunlicherweise hat sie Navel von sich aus davon erzählt. Er hat ihr dann gesagt, dass er gut verstehen könne, dass ihr das sehr nahegehe – und dass sie sich sicher sein können, dass das ganze Team und die anderen Heimbewohner für sie da sind. Das hat ihr offenbar eine Last genommen. Sie hat sich dann auch anderen gegenüber geöffnet.

Natürlich ist es so, dass ein Teil der Bewohner nicht mit Technik interagieren möchte. Wir haben aber festgestellt, dass viele, die am Anfang zurückhaltend waren, mit der Zeit offener sind, sobald Navel eine gewisse Zeit dort gewesen ist.

Nun ist eine Grundvoraussetzung für die Interaktion zwischen Mensch und Roboter, dass ein Mensch den Roboter akzeptiert. Was sind Ihre Erfahrungen: Worauf kommt es grundsätzlich an, damit Bewohnerinnen und Bewohner eines Pflegeheims einen sozialen Roboter akzeptieren?

Wichtig ist, dass der Roboter von der Gestalt her nicht so wirkt wie ein Roboter. Navel hat daher eine menschenähnliche Gestalt, die gleichzeitig so wirkt wie ein künstlicher Charakter aus einem Disney- oder Pixar-Film, in denen die Figuren typischerweise ein Kindchen-Schema haben.

Beim Design war uns wichtig, dass zum Beispiel Augen und Mund zwar reduziert, grafisch, comichaft aussehen, aber dennoch Emotionen ausdrucksstark vermitteln können. Denn die Mimik des sozialen Roboters muss lebendig sein, damit er auch lebendig auf sein Gegenüber reagieren und Blickkontakt aufbauen kann. Deswegen hat Navel auch dreidimensionale Augäpfel, weil nur so ein Blickkontakt entstehen kann.

Der Fachkräftemangel ist in der Pflege ein großes Thema. Als kleiner sozialer Roboter kann Navel wichtige Tätigkeiten wie etwa das Umlagern von Pflegebedürftigen nicht übernehmen. Inwiefern kann er also künftig für Entlastung sorgen?

Heute ist immer ein Alltagsbegleiter des Pflegeheims dabei, wenn Navel mit Bewohnern interagiert. Von daher sorgt er heute in der Tat noch nicht für Entlastung, aber zumindest für Erleichterung, weil er bei der Aktivierung der Bewohner hilft. Und die Aktivierung scheint gut zu gelingen, berichten uns die Pflegekräfte. Das gilt auch für Bewohner mit Demenz. Dass diese Aktivierung stattfindet, ist sehr wichtig. Denn es gibt genügend Studien dazu, dass Demenz und Depressionen fortschreiten, wenn keine Aktivierung stattfindet.

Wenn Navel künftig autonom ohne Begleiter herumfährt und mit Bewohnern interagiert, ist das eine echte Entlastung. Im nächsten Schritt sollen dann auch Botengänge möglich sein, also zum Beispiel kann er dann Bewohnern Bescheid geben, dass gleich der Gottesdienst beginnt. Er kann den Bewohnern künftig auch Auskunft zu Aktivitäten oder dem Essensplan geben. Und er kann Pflegekräfte auch emotional entlasten, indem er geduldig und empathisch zum hundertsten Mal die gleiche Frage beantwortet.

Was aus Sicht von Pflegeträgern, mit denen wir zusammenarbeiten, zudem sinnvoll sein kann, ist eine Verknüpfung mit dem Pflegedokumentationssystem. Man könnte beispielsweise einpflegen, ob an dem Tag bereits eine Aktivierung stattgefunden hat, ob der Bewohner an dem Tag besonders wenig oder langsam gesprochen hat oder ob die Ganggeschwindigkeit anders als sonst war?

Bevor Mitarbeiterinnen und Mitarbeiter entlastet werden, müssen sie zu Beginn erst einmal den Umgang lernen und geschult werden. Ist es nicht zumindest am Anfang ein bedeutender Aufwand, der auf die Mitarbeiter zukommt?

Wir stellen im Vorfeld Informationsmaterial zur Verfügung, machen eine Informationsveranstaltung und dann gibt es eine eintägige Schulung. Letztlich macht es aber natürlich nur Sinn, wenn nicht nur der Träger, sondern auch die Mitarbeiter Lust darauf haben. Es muss daher immer eine Patin oder einen Paten aus dem Pflegebereich geben, der Ansprechpartner ist – sowohl für uns als auch intern im Heim. Und das sollte jemand sein, der auch Lust darauf hat und offen für Technik ist.

Momentan ist Navel noch im Pilot-Status. Sie haben gerade die zweite Reihe mit 20 weiteren Robotern produziert, die nicht nur an Pflegeheime, sondern auch an Unis für eigene Anwendungen gehen. Ab Sommer nächsten Jahres wollen Sie dann ein paar hundert Stück produzieren. Die Kassen der Kranken- und Pflegeversicherung sind leer, bei den Heimen selbst sieht es häufig nicht viel besser aus. Wie sieht angesichts der finanziellen Lage Ihr Geschäftsmodell aus?

Nur auf die stationäre Pflege in Deutschland zu setzen, würde nicht aufgehen. Damit würden wir nicht auf eine ausreichend große Stückzahl kommen. Wir sehen aber auch andere EU-Länder, USA, Japan und Korea als Märkte.

Und wir wollen nicht nur auf ein Business-to-Business-Modell, sondern auch auf Business-to-Consumer setzen und sehen da großes Potenzial. Letztlich will ja jeder so lange wie möglich zu Hause bleiben und nicht ins Pflegeheim. Navel kann die Einsamkeit lindern und aktivieren. Zudem kann er als Notrufsystem dienen, wenn jemand hinfällt oder anderweitig Unterstützung braucht. Wenn es dadurch gelingt, dass ältere Menschen ein halbes oder ganzes Jahr später in ein Pflegeheim gehen müssen als ohne einen sozialen Roboter, würde das ihrem Wunsch entsprechen – und es ließe sich viel Geld sparen. Wir wollen daher auch mittelfristig ein Mietmodell anbieten.

Ein Beitrag von Hendrik Bensch