Cartoon e-Health
KI-generierte Avatare von Verstorbenen stellen den Abschied infrage
Was macht den Kontakt zu einer Person aus? Kann aus ihren Daten ein Austausch simuliert werden?
© YuliiaKutsaieva - stock.adobe.com
„Mama, du fehlst mir!“, ruft die Kleine und streckt ihrer Mutter die Arme entgegen. „Ich bin doch da, Liebes“, antwortet diese, und geht ein paar Schritte auf die Tochter zu. Die Szene wirkt tröstlich – bis man weiß, dass es sich bei der Tochter um ein KI-generiertes Abbild einer Verstorbenen handelt. Willkommen in der Welt des digitalen Weiterlebens, in der sich die unverwechselbare Persönlichkeit eines Menschen aus den im Laufe des Lebens produzierten Datenmengen rekonstruieren und simulieren lässt.
„Wenn wir uns mit diesem Thema nicht beschäftigen, können wir die Menschen nicht mehr begleiten.“ Dorothee Becker, Leiterin des Wiesbadener Hospizes Advena und seit den Anfängen Teil des Wiesbadener Hospiz- und Palliativnetzes, ist an dieser Stelle ganz klar. Deswegen hatten die Gastgeber – das Hospiz, der Hospizverein Auxilium, EVIM und der Caritasverband Wiesbaden-Rheingau-Taunus – den Dokumentarfilmer Hans Block vom Projektteam des Films „Eternal You“ und Prof. Dr. Jessica Heesen, Leiterin des Forschungsschwerpunkts Medienethik, Technikphilosophie & KI der Universität Tübingen, zum Wiesbadener Hospiztag eingeladen.
Block spricht von einer transzendentalen Obdachlosigkeit: „Die Menschen wenden sich von der Religion ab. Aber die Vorstellung, das nach dem Tod nichts mehr ist, ist auch nicht akzeptabel. Also folgen sie lieber der weltlichen Heilserzählung, als den erschreckenden Moment der Endlichkeit zu überwinden.“
In Kanada haben er und sein Team einen jungen Mann getroffen, der seine verstorbene Liebe Jessica im Digitalen traf und sein Leben und Alltag komplett dorthin verlagert hatte. Über den Chatbot-Avatar blieb Jessica in seinem Leben, doch der junge Mann isolierte sich quasi vollständig. „Die kurze Besserung im Schmerz der Situation führt langfristig zu mehr Einsamkeit“, berichtet Block.
Viele Kunden der Digital Afterlife Industry (s. Kasten) wünschen sich eigentlich nur, ein letztes Gespräch mit der verstorbenen Person zu führen, so Block. „Das Problem ist, dass es damit oft nicht endet.“ Weil sich die Menschen dann nicht mehr trennen können – oder weil die KI gezielt kurz vor Ende der gebuchten Zeit ein neues Thema auftauchen lässt. „Die Systeme funktionieren so“, sagt Block. Dabei sei die Simulation oft noch gar nicht wirklich gut. „Der Avatar hat natürlich kein echtes Verständnis. Er errechnet einfach nur das Wort, das dem vorausgegangenen am wahrscheinlichsten folgt“, erläutert Block. Doch die Betroffenen sehen, was sie sehen möchten – ein klassischer Confirmation Bias.
Digital Afterlife Industry
Unternehmen, die anbieten, über Kommunikationsplattformen, Chatbots oder Avatare Interaktion mit Verstorbenen zu simulieren, gehören zur Digital Afterlife Industry (DAI). Diese gilt als ein vielversprechender Wachstumsmarkt. Adressiert werden von ihr oft die Lebenden, die für ihr eigenes digitales Vermächtnis sorgen sollen. Damit entzieht man sich u. a. dem Vorwurf, Trauernde dazu zu bewegen, Avatare ohne Einverständnis der Verstorbenen zu kreieren.
Eines der möglichen Motive ist Geschichtsvermittlung
Auch Menschen, die vor ihrem eigenen Tod stehen, nehmen den Dienst in Anspruch. Manche möchten Erinnerungen weitergeben oder das Abschiednehmen erleichtern bzw. länger da sein für die Angehörigen. In anderen Fällen soll die Familiengeschichte oder die Historie, die in der Person liegt, bewahrt werden, wie etwa bei Zeitzeugen des Holocausts oder der schwarzen Bürgerrechtsbewegung in den USA.
Ein Zurück gibt es für diese Entwicklung wohl kaum. „Wir müssen digitale Trauerräume schaffen, weil die digitale Welt gerade für immer mehr Menschen zu ihrer natürlichen Umwelt wird“, sagt Block. Was aber beeinflusst werden kann und muss, sind die Rahmenbedingungen, unterstreicht er.
Mit solchen Bedingungen setzen sich Prof. Heesen und ihr Team auseinander. Eine rechtliche Herausforderung besteht etwa darin, dass nach dem Tod der abgebildeten Person unkontrollierte Veränderungen im Avatar auftreten können, die nicht mehr den Wünschen und Vorstellungen der Person entsprechen. Das würde Fragen zum postmortalen Persönlichkeitsschutz aufwerfen.
Oder die abgebildete Person könnte vor ihrem Tod festgelegt haben, wann der Avatar und alle in dem Zusammenhang verarbeiteten Daten gelöscht werden sollen. Was aber, wenn die Hinterbliebenen länger mit dem Avatar kommunizieren möchten, als dies von der repräsentierten Person vorgesehen wurde, sich also noch nicht trennen möchten? Wird die Person dann ein zweites Mal für sie sterben, beginnt ein zweites Mal ein Trauerprozess? Und wer entscheidet eigentlich darüber, welche Personen mit dem Avatar in Kontakt kommen dürfen?
Kommentar - Dann hat keiner mehr Verantwortung
Die Digital Afterlife Industry gilt als Wachstumsmarkt. Ihr Produkt: Die simulierte Interaktion mit Verstorbenen über Chatbots oder Avatare. Einmal soll ein Avatar einem Angehörigen die Klimakatastrophe so eindringlich nahegebracht haben, dass dieser Selbstmord beging. Möglicherweise hat der Entwickler die KI nicht gut gebrieft. Oder er hat sie mit Informationen gebrieft, die man dem Trauernden nicht hätte zumuten dürfen. Und vielleicht hat sich der Avatar im Laufe „seines Lebens“ auch selbst weiterentwickelt.
Wer hat die Verantwortung für diesen tragischen Tod? Der Entwickler? Der Trauernde, der den Avatar hat bauen lassen? Oder irgendwie der verstorbene Mensch? Aber ist Goethe verantwortlich für die Selbstmorde junger Leute, die das Leiden des jungen Werthers gelesen hatten? So der Einwurf aus dem Publikum des Wiesbadener Hospiztages. Doch der Vergleich funktioniert nicht: Die Suggestionskraft eines bewegten dreidimensionalen Bildes, wie die KI es erschaffen kann, ist eine andere als die eines gedruckten Buches.
Hier liegt des Pudels Kern: Die Simulationen dringen tiefer in die Gefühlswelt ein, als alles andere, was wir kennen. Deswegen konnte die Mutter, die am Abend vor dem Tod ihrer Tochter mit dieser gestritten hatte, ihre Albträume mithilfe eines Avatars endlich überwinden. Und deswegen hat der junge Mann in Kanada sein Leben nach dem Tod seiner großen Liebe quasi vollständig zu ihrem Avatar in den digitalen Raum verlegt. Was ihm half, seine Einsamkeit auszuhalten, führte ihn aber letztlich in totale Einsamkeit. Selbst schuld?
Wer mit dem Tod konfrontiert ist, dem eigenen oder dem einer geliebten Person, befindet sich in einer Ausnahmesituation. Menschen in dieser Lage darf man nicht allein lassen mit der Versuchung, dem gefühlt Unerträglichen auszuweichen. Der Verweis auf eine eigene ethische Verantwortung klingt da fast zynisch. Wer mit Sterbenden und Trauernden zu tun hat, wird sich der Reflektion hierzu nicht entziehen können. Nicht im individuellen Gespräch, und auch nicht in der gesellschaftlichen Diskussion zu den Rahmenbedingungen. Denn ohne diese werden uns die neuen Möglichkeiten einfach überrollen.
Hospizleiterin Becker betont in diesem Zusammenhang, wie wichtig Autonomie bei der Begleitung einer sterbenden Person ist. Aber Autonomie bedeute mehr als „Was will ich als sterbender Mensch in diesem Augenblick?“. Es gehe auch um die Frage: „Was soll bleiben von mir?“ Und das sei der Enkeltochter gegenüber etwas anderes als dem Geliebten oder dem Freundeskreis gegenüber – zumal ein Kontrollverlust auf Dauer kaum auszuschließen ist. „Ein Avatar lässt mich möglicherweise die Autonomie darüber verlieren, was für wen bleiben soll.“
Andererseits spiele aber die Würde des Menschen eine ähnlich wichtige Rolle im Zusammenhang mit Tod und Sterben. „Und Menschen werden gewürdigt, indem man ihre Geschichte erzählt.“ Unter diesem Aspekt liege in der Entwicklung also möglicherweise auch eine Chance.
Quelle: 26. Hospiztag Wiesbaden
Falls Sie diesen Medizin Cartoon gerne für Ihr nicht-kommerzielles Projekt oder Ihre Arzt-Homepage nutzen möchten, ist dies möglich: Bitte nennen Sie hierzu jeweils als Copyright den Namen des jeweiligen Cartoonisten, sowie die „MedTriX GmbH“ als Quelle und verlinken Sie zu unserer Seite https://www.medical-tribune.de oder direkt zum Cartoon auf dieser Seite. Bei weiteren Fragen, melden Sie sich gerne bei uns (Kontakt).
Was macht den Kontakt zu einer Person aus? Kann aus ihren Daten ein Austausch simuliert werden?
© YuliiaKutsaieva - stock.adobe.com