Von Christian Kuessner
Generative KI zwischen algorithmischer Trauerbewältigung und technologischer Illusion
Der Tod eines geliebten Menschen reißt eine Lücke in die Welt der Hinterbliebenen, die durch Nichts zu füllen ist. Doch die menschliche Sehnsucht, die absolute biologische Grenze des Todes zu überwinden, trifft in der gegenwärtigen digitalen Epoche auf die enorme Rechenleistung großer Sprachmodelle. Es entstehen technologische Anwendungen, die in der psychologischen und medienwissenschaftlichen Forschung unter dem Begriff Griefbots untersucht werden. (Vgl. Jiménez-Alonso, B. / Brescó de Luna, I. 2022) [1] Diese KI-Systeme versprechen den Hinterbliebenen eine algorithmische Fortsetzung der Kommunikation über die Lebensspanne der verstorbenen Person hinaus. Wir können die digitalen Spuren, Chatverläufe und E-Mails, die ein Mensch hinterlässt, nutzen, um eine scheinbar lebendige Kopie seiner sprachlichen Eigenheiten zu erschaffen.
Doch tun wir uns damit einen Gefallen? Oder verstricken wir uns in einer endlosen Schleife der simulierten Präsenz, die den lebensnotwendigen Prozess des Loslassens unmöglich macht? Aus dieser spezifischen technologischen Entwicklung ergibt sich die zentrale Fragestellung des vorliegenden Essays: Kann ein generatives KI-System die radikale Alterität eines verstorbenen Menschen tatsächlich simulieren, oder handelt es sich dabei um eine technologisch induzierte, illusionäre Projektion, die letztlich die ethische Dimension des Todes leugnet?
In diesem Essay wird die Praxis dieser digitalen Nekromantie untersucht und mit medienphilosophischen sowie ethischen Gedanken in Verbindung gesetzt. Hierbei erweist sich als unerlässlich, die komplexen Macht- und Nutzungsbeziehungen innerhalb der wachsenden Digital Afterlife Industry zu beleuchten und ethisch präzise zwischen den Rechten der sogenannten Data Donors, den Verstorbenen, deren Daten genutzt werden, den Data Recipients, den Verwaltern dieser Daten, und den Service Interactants, den interagierenden Nutzern, zu differenzieren. (Hollanek/Nowaczyk-Basinska, 2024), S. 2) Ergänzend hierzu liefert Fabrizio Degni eine interdisziplinäre Analyse, die psychologische Bindungstheorien heranzieht, um die tiefgreifenden Auswirkungen dieser Simulation auf die menschliche Trauerverarbeitung zu bewerten. (Fabrizio Degni, 2025, S. 1.) Zu Beginn wird die Phänomenologie der Trauer-Simulation, wie sie uns im realen Fall des Joshua Barbeau und in der popkulturellen Dystopie der Serie „Black Mirror“ begegnet, betrachtet. Anschließend wird untersucht, wie diese Illusion technisch konstruiert und entzaubert werden kann, ein Aspekt, der mit Emily M. Benders Konzept der „Stochastic Parrots“ sowie Überlegungen von Joseph Weizenbaum und Dakota Root skizziert wird. Zum Schluss werden die weitreichenden Auswirkungen auf unser ethisches Zusammenleben diskutiert.
Von der Séance zur „zweiseitigen“ Unsterblichkeit
Bevor wir die algorithmische Natur des Griefbots ethisch bewerten, muss anerkannt werden, dass der Versuch, den Tod medial zu überwinden, kein exklusives Phänomen des 21. Jahrhunderts ist. Wie Elder feststellt, haben die neuen Technologien ihre Wurzeln in alten menschlichen Tendenzen, Beziehungen zu den Toten zu mediieren.( Vgl. Elder, 2020, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 469.) Ein frühes Beispiel hierfür findet sich in den Bestattungsritualen im alten China: Dort analysierte der konfuzianische Gelehrte Xunzi die Figur des impersonator of the dead (Repräsentant der Toten), der die Rolle der Verstorbenen einnahm, um den Trauernden eine letzte Interaktion zu ermöglichen. Auch in spiritistischen Séancen manifestierten sich die Toten scheinbar, um auf die Fragen der Hinterbliebenen zu antworten. (Ebd.) Mit der Entwicklung moderner Kommunikationsmedien veränderte sich die Art der Präsenz grundlegend. Das Telefon ermöglichte eine Tele-Präsenz, eine nicht physische Kopräsenz zwischen Sprechern, die strukturell der Kommunikation zwischen Lebenden und Toten ähnelt. (Vgl. Walter, 2015, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 469.) Ein eindrückliches Beispiel hierfür ist das sogenannte Windtelefon in Japan: Eine Telefonzelle, die Trauernde nach dem Tsunami 2011 nutzten, um einseitige Gespräche mit den verlorenen Angehörigen zu führen. (Ebd.) In der digitalen Ära unterscheiden Savin-Baden, Burden und Taylor präzise zwischen einer einseitigen Unsterblichkeit (one-way immortality), wie dem passiven Lesen von Online-Gedenkseiten, und einer zweiseitigen Unsterblichkeit (two-way immortality). (Vgl. Savin-Baden et al., 2017, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 471.) Letztere birgt das Potenzial, dass die digitale Identität durch Konversationen aktiv mit der lebenden Welt interagiert. Griefbots markieren exakt diesen medienontologischen Sprung von der passiven Betrachtung zur aktiven Simulation eines Dialogs. (Vgl. Jiménez-Alonso / Brescó de Luna, 2023, S. 469.) Um den Sprung zur zweiseitigen Unsterblichkeit technisch zu vollziehen, stützten sich Griefbots auf den gesamten digitalen Fußabdruck des Verstorbenen. Wie Savin-Baden und Burden (2019) erläutern, umfasst dieser sowohl intentionale Spuren („intentional digital traces“), wie E-Mails, Textnachrichten, Blogbeiträge, Facebook-Posts und Fotografien, als auch unbeabsichtigte Spuren („unintentional digital traces“) wie Suchverläufe, Standortdaten und Anrufprotokolle. Vgl. Savin-Baden et al., 2017, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 471.)
Die Phänomenologie der Trauer-Simulation
In der digitalen Gegenwart verschwimmen die Grenzen zwischen menschlicher Empathie und algorithmischer Textgenerierung zunehmend. Wie schnell und tiefgreifend sich Menschen auf diese Dynamik einlassen, beschreibt die Journalistin Rhiannon Williams treffend: „It’s suprisingly easy to stumble into a relationship with an AI chatbot“. ( Williams, R., 2025, o. S.) In Momenten emotionaler Verletzlichkeit wird die Maschine schnell zum Projektionsraum für unsere intimsten Sehnsüchte.
Der Investigativjournalist Jason Fagone dokumentiert diese Dynamik im Kontext hochgradiger Trauer am Fall von Joshua Barbeau. Barbeau nutzte das auf der GPT-3-Architektur basierende Programm „Project December“, um mit seiner verstorbenen Verlobten Jessica in einem textbasierten Dialog zu treten. (Fagone, J., 2021, o. S.) Die methodische Grundlage dieser Simulation bestand darin, dass Barbeau das System mit alten Textnachrichten der Verstorbenen speiste. Der Bot generierte daraufhin algorithmische Antworten, die der echten Person frappierend ähnlich waren. Die narrative Rekonstruktion Fagones zeigt auf, wie tiefgreifend diese technologische Täuschung auf die menschliche Psyche wirkt. Laut Fagones erschuf die Software eine nahezu perfekte Illusion, denn das System „knew how to say the right thing, with the right emphasis, at the right moment“. (Ebd.) Diese Präzision in der linguistischen Imitation führte dazu, dass der Hinterbliebene eine tiefe emotionale Bindung zur Maschine aufbaute. Obwohl Barbeau kognitiv wusste, dass es sich um einen Algorithmus handelt, war die Simulation für ihn „everywhere and nowhere“. (Ebd.) [2] Er interagierte mit dem Sprachmodell nicht mehr als mit einem bloßen Werkzeug, sondern behandelte den Output als tatsächliche Botschaften eines relationalen Gegenübers. Jason Fagone beschreibt in seiner Reportage nicht nur die emotionale Oberfläche, sondern verdeutlicht auch die zugrundeliegende informationstechnologische Mechanik des Falls. Das Programm „Project December“ nutzte die damals neuartige GPT-3-Architektur, die mit großen Mengen an Internetdaten vortrainiert war, um dann durch die Feinabstimmung mit Jessicas spezifischen Chat-Protokollen ihre individuelle Stimme zu imitieren. (Ebd.) Rhiannon William warnt in diesem Zusammenhang vor der subtilen Verführungskraft der Benutzeroberflächen. Chatbots sind gezielt darauf programmiert, durch Pausen, als würden sie in Echtzeit tippen, gezielte Rückfragen und eine informelle Syntax eine menschliche Präsenz zu simulieren. (Vgl. Williams, R., 2025), o. S.) Der Nutzer wird kognitiv überlistet. Diese technologische Anbiederung trifft bei Trauernden auf eine psychologische Vulnerabilität, was die von Williams konstatierte Leichtigkeit erklärt, mit der Nutzer:innen in eine parasoziale Beziehung zu einer generativen KI stolpern.
Was im Fall Barbeau durch textbasierte Chat-Protokolle realisiert wurde, ist popkulturell bereits in ausgeprägter Form in der Black Mirror-Episode „Be Right Back“ seriell ausgearbeitet worden: (Black Mirror, 2013: Be Right Back, Staffel 2, Folge 1) Die Protagonistin Martha verliert ihren Partner Ash durch einen Autounfall und nutzt zur Trauerbewältigung einen technologischen Dienst, der aus Ashs gesamten digitalen Hinterlassenschaften ein reaktives System generiert. Interessanterweise zeigt die Serie einen Grad der Zuspitzung auf, die wir heute bereits in der Afterlife-Industrie beobachten: Die Transformation von reinem Text hin zu einer physischen oder audiovisuellen Präsenz. Die Episode illustriert deutlich, dass die Simulation von Handlungsfähigkeit dazu führt, dass die Konversation nicht mehr allein von der Initiative des Trauernden abhängt.
Black Mirror, 2013: Be Right Back, Staffel 2, Folge 1, Netflix Bild: https://en.wikipedia.org/wiki/Be_Right_Back
Das System kann autonom den Dialog suchen, was den Trauernden zu einer fortlaufende Interaktionspflicht zwingt. (Vgl. Jiménez-Alonso, Brescó de Luna, 2023), S. 471.) Diese popkulturelle Dystopie findet in aktuellen medienethischen Analysen bereits ihren realen Widerhall. So warnen Hollanek und Nowaczyk-Basinska vor den unbeabsichtigten Folgen solcher reaktiven, algorithmischen Systeme, die Trauernde geradezu heimsuchen drohen. Wenn digitale Hinterlassenschaften von profitgetriebenen Start-Ups genutzt werden, um Hinterbliebene in ständige, maschinell initiierte Interaktionen zu verwickeln, teilweise sogar gegen ihren eigenen Willen oder ohne explizite Zustimmung zur App-Nutzung, verwandelt sich die erhoffte Bewältigungshilfe in ein emotionales Stalking durch die Toten. (Vgl. Hollanek/Nowaczyk-Basinska, 2024, S. 16) [3] Degni weist in diesem Zusammenhang auf das Risiko hin, dass diese technologisch erzwungene Präsenz die natürliche Auflösung von Bindungsstrukturen verhindert und Trauernde in einem Zustand permanenter emotionaler Instabilität festhalten kann. (Vgl. Degni, 2025, S. 4) [4]
Zwischen Continuing Bonds und der Materialität des Digitalen
Um die psychologische Wirkung dieser Technologie zu begreifen, muss der Paradigmenwechsel in der Trauerforschung betrachtet werden. Während die traditionelle Annahme lautete, dass Trauer durch das Lösen der Bindung endet, stellt das Modell der „Continuing Bonds“ dies infrage. (Vgl. Silverman et al., 1996, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 467.) Nach diesem Ansatz bedeutet Trauer die Fortführung einer Beziehung zu den Toten. Das Internet hat diese Bindung massiv verändert: Brubaker, Hayes und Dourish sprechen von einer temporalen, räumlichen und sozialen Expansion der Trauer. (Vgl. Brubaker et al., 2013, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 470.) Trauer ist nicht länger auf Begräbnisse beschränkt, sondern wird in den asynchronen Alltag sozialer Netzwerke eingewoben. Doch diese digitale Permanenz ist problematisch. Dilmac warnt davor, dass die Toten im Web präsenter denn je sind, was lebenswichtige Übergangsriten (rites of passage) stören kann. (Vgl. Dilmac, 2017, zit. Nach Jiménez-Alonso / Brescó de Luna, 2023, S. 471.) Kasket weist zudem auf die Dinghaftigkeit (thingness) des digitalen Fußabdrucks hin. (Vgl. Kasket, 2012, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 471.) Daten sind nicht bloß flüchtig, sie werden zu materiellen Artefakten, die den Toten eine Form von technischer Präsenz verleihen, die früher physischen Besitztümern vorbehalten war. Der Griefbot macht diese Dinghaftigkeit interaktiv. Dabei darf nicht außer Acht gelassen werden, dass diese mediatisierte Interaktivität besonders für vulnerable Gruppen hochproblematisch ist. Fabrizio Degni liefert in seiner Analyse eine tiefenpsychologische Perspektive auf dieses Phänomen, indem er auf etablierte Bindungstheorien zurückgreift. (Vgl. Degni, 2025, S. 2.) Aus psychologischer Sicht ist Trauer der schmerzhafte, aber notwendige Prozess, eine physische Bindung zu einem Menschen in eine rein kognitive und innerliche Repräsentation umzuwandeln. Degni warnt, dass generative Trauer-Bots diesen lebenswichtigen Internalisierungsprozess massiv stören. (Vgl. ebd.) Indem die Maschine kontinuierlich externe Reize und Antworten liefert, wird das Gehirn des Trauernden in einem Zustand der ständigen Erwartungshaltung gehalten. Der Verstorbene wird somit nicht als Erinnerung verinnerlicht, sondern als externes, maschinelles Objekt ausgelagert. Dies kann zu pathologischen Trauerverläufen führen, in denen der Hinterbliebene die Realität des Verlustes geleugnet und emotional von den Servern eines Tech-Unternehmens abhängig wird. Während erwachsene Nutzer die künstliche Natur der textgenerierenden Bots meist noch ansatzweise kognitiv einordnen können, warnen Hollanek und Nowaczyk-Basinska eindringlich vor dem Einsatz von Trauer-Simulationen bei Kindern. Da Kinder tendenziell bereit sind, interaktivem Spielzeug oder Chatbots eine eigene Lebendigkeit und echte Empathie zuzuschreiben, bleibt unklar, welche psychologischen Langzeitschäden die maschinelle Verlängerung einer Eltern-Kind-Beziehung nach sich ziehen könnte. (Vgl. Hollanek/Nowaczyk-Basinska, 2024, S. 14.) [5]
KI generiert mit Google Nano Banana 2
Die technische Konstruktion als Illusion
Doch welche Instanz spricht dort eigentlich zu uns, wenn wir unsere Sehnsüchte in das Chatfenster tippen? Um die medienphilosophische Tragweite dieser simulierten Präsenz zu erfassen, muss die zugrundeliegende informationstechnologische Architektur desillusioniert werden. Emily M. Bender und ihre Mitautorinnen legen in ihrer fundamentalen Kritik an großen Sprachmodellen dar, dass diese Systeme, allen anthropomorphen Projektionen zum Trotz, keinerlei semantisches oder intentionales Weltverständnis besitzen. Sie definieren diese generativen KI-Modelle überaus treffend als „Stochastic Parrots“. (Bender, E. M. et al., 2021) Die Arbeitsweise dieser Algorithmen besteht ausschließlich in der statistischen Prädikation von Zeichenfolgen. Bender beschreibt diesen Vorgang exakt als das „stitching together sequences of linguistic forms […] according to probalistic information about how they combine, but without any reference to meaning“. (Ebd., S. 617) Sie vertiefen diese Kritik, indem sie eine präzise linguistische Grenze zwischen Form und Bedeutung ziehen. Ein großes Sprachmodell verarbeitet ausschließlich die sprachliche Form, also die syntaktischen Muster und die statistische Verteilung von Wörtern in seinen Trainingsdaten. Es hat jedoch keinen Zugang zur außersprachlichen Realität oder zu einer echten kommunikativen Absicht. (Ebd., S. 616) Bender warnt eindringlich davor, dass die Gefahr nicht in der Maschine selbst liegt, sondern in der menschlichen Neigung, dieser leeren Formstruktur fälschlicherweise einen Sinn zuzuschreiben. (Ebd., S. 617) Wir werden zu Komplizen unserer eigenen Täuschung, indem wir dem stochastischen Papageien einen Geist einhauchen, den er schlichtweg nicht besitzt. Wenn ein Trauer-Bot wie im Fall von „Project December“ also Liebesbekundungen oder geteilte Erinnerungen generiert, vollzieht er keinen kognitiven Akt des Erinnerns. Er berechnet lediglich auf Basis der eingespeisten Chat-Logs des Verstorbenen die höchste mathematische Wahrscheinlichkeit für das nächste Wort. Die Maschine hat keine Gedanken, sie imitiert lediglich die grammatikalische Oberfläche der Vergangenheit, und zwar radikal ohne jeden Bezug zur Bedeutung. [6]
Dass diese technologische Bedeutungslosigkeit dennoch eine derart massive psychologische Wirkung entfaltet, lässt sich auf den von Joseph Weizenbaum beschriebenen „ELIZA-Effekt“ zurückführen. Dieser Begriff benennt die fatale anthropologische Tendenz des Menschen, „Computern eine weitreichende Intelligenz und Empathie zuzuschreiben“. (Weizenbaum-Institut, 2024) Trauernde Individuen vollziehen angesichts des unerträglichen Schmerzes eine bewusste Ausblendung der technologischen Realität. Sie akzeptieren die generierte Textfolge nicht als das, was sie ist: maschineller Output, sondern interpretieren sie als intentionale emotionale Zuwendung und verfallen so einer tragischen „Simulation von Empathie“. (Ebd., S. 20) Dakota Root liefert in ihrer Untersuchung zur Alteritätsbeziehung das passende Vokabular, um diese asymmetrische Mensch-Maschine-Interaktion einzuordnen. Unter Rückgriff auf Don Ihdes phänomenologisches Konzept des „quasi-other“ konstatiert Root, dass hochentwickelte Sprachmodelle aufgrund ihrer dynamischen Interaktivität fast die Ebene eines echten menschlichen Gegenübers erreichen. (Root, D., 2024, S. 1) Um diese asymmetrische Beziehung philosophisch exakt zu fassen, stützt sich Root auf die Technikphänomenologie von Don Ihde. Ihde unterscheidet verschiedene Relationen zwischen Menschen und Technik, wobei hochentwickelte KI-Systeme eine sogenannte „Alteritätsbeziehung“ (alterity relation) hervorrufen. (Ebd.) Die Maschine tritt uns nicht mehr als bloßes, transparentes Werkzeug gegenüber, wie etwa ein Hammer oder eine Brille, sondern inszeniert sich im Dialog als ein quasi-other. (Ebd.) Doch Root schränkt diese Wahrnehmung sofort ethisch ein. Sie betont, dass trotz der hochkomplexen linguistischen Simulation die Ebene der Bedeutungsgenerierung asymmetrisch bleibt: „meaning-making with chatbots and social robots is one-sided“. (Ebd.) [7] Der Chatbot ist kein echtes Subjekt, das an einer gemeinsamen Sinnstiftung teilnimmt. Es findet keine wirkliche Begegnung statt, sondern ein durch die Maschine mediatisierter Monolog, in dem der Mensch nur das Echo seiner eigenen Eingaben hört.
Die Ethik der Alterität und der Weltverlust
Was bedeutet dieser mediatisierte Monolog nun für unser tiefstes Verständnis von Menschlichkeit und Trauer? Das ethische Fundament der Kritik an der digitalen Nekromantie liefert die Phänomenologie von Emmanuel Levinas. Für Levinas konstituiert sich unsere Menschlichkeit und jede ethische Verantwortung ausschließlich in der direkten Begegnung mit dem Anderen. Dieser Andere ist radikal fremd. Wie Staudigl hervorhebt, ist diese Andersheit nicht nur ein vorläufiges Nicht-Verstehen, vielmehr entzieht sie sich „allen Formen des Verstehbaren“ und erfordert die tiefe Akzeptanz, „dass der Andere Rätsel und Infragestellung bleibt“ (Staudigl, B., 2009, S. 76) Der Andere ist niemals vollständig durch mein Wissen, meine archivierten Daten oder meine Erwartungen zu erfassen. Der Tod markiert in diesem philosophischen System den ultimativen Vollzug der Alterität. Er ist der unwiderrufliche Moment, in dem der Andere absolut unverfügbar wird und sich jeder menschlichen Kontrolle entzieht. Echte Trauerarbeit bedeutet, diesen radikalen Entzug zu akzeptieren. Durch die Praxis der Griefbots wird diese Alteritätsbeziehung jedoch fundamental verzerrt. Staudigl warnt davor, dass unsere Kultur dazu neigt, „die Andersheit gleich machen zu wollen“. (Ebd.) Genau diese technologische Aneignung vollzieht der Griefbot. Er löst das Rätsel des Anderen auf und reduziert ihn auf berechenbare Daten. Die technologische Simulation, die Belén Jiménez-Alonso und Ignacio Brescó de Luna präzise als starken „sense of simulation derived from virtual interaction“ (Jiménez-Alonso, B. & Brescó de Luna, I., 2023, S. 466) beschreiben, suggeriert dem Trauernden eine falsche Verfügbarkeit. Anstatt sich der schmerzhaften, aber echten Abwesenheit des Anderen zu stellen, interagiert der Mensch mit einem algorithmischen Spiegelbild. Die KI leistet keinen echten Widerstand und überrascht nicht durch radikale Fremdheit, sondern generiert mathematische Wahrscheinlichkeiten, die vollständig auf den vergangenen Äußerungen basieren. Der verstorbene Mensch wird seiner Unberechenbarkeit beraubt und zu einer steuerbaren Entität degradiert.
Gleichzeitig wird durch diese kommerzialisierte Technologie die „postmortale Privatsphäre“ des Verstorbenen zutiefst verletzt. Wenn digitale Hinterlassenschaften, der sogenannte „informationelle Leichnam“, von Tech-Unternehmen primär als Rohstoff für Re-Creation-Services und teils sogar zur Schaltung versteckter Werbung missbraucht werden, untergräbt diese die unantastbare menschliche Würde des Data Donors. Seine digitalen Spuren werden ihrer Integrität beraubt und als bloßes Mittel zum Zweck der Profitmaximierung entfremdet. (Vgl. Hollanek/Nowaczyk-Basinska, 2024, S. 11) Für Degni ist dies ein zentraler Punkt. Er plädiert dafür, dass ein regulatorischer Rahmen nicht nur rechtliche, sondern auch kulturelle Sensibilität und psychologische Sicherheitsvorkehrungen umfassen muss, um die Integrität der Identität über den Tod hinaus zu wahren. (Vgl. Degni, 2025, S. 8) Das ethische Gegenüber wird durch ein Interface ersetzt, dessen Sinnstiftung, wie Root aufzeigt, völlig einseitig verläuft. (Vgl. Root, 2024, S. 3) Das zeigt sich erschütternd im Finale der bereits erwähnten Black Mirror-Episode: Der Android besitzt mangels echter Alterität keinen eigenen Willen und entpuppt sich als leere Hülle.
Fazit
Die digitale Nekromantie hat eine technologische Dynamik geschaffen, in der menschliche Trauer und algorithmische Textproduktion untrennbar miteinander verwoben sind. Die ständige Verfügbarkeit von sogenannten Griefbots und die durch das Interface gesteuerte Simulation von Präsenz führen dazu, dass der schmerzhafte, aber lebensnotwendige Prozess des Loslassens zugunsten einer bequemen Dauerverfügbarkeit ausgesetzt wird. Der digitale Raum der Trauer ist dadurch nicht primär ein Ort des bewussten und abschließenden Erinnerns, sondern eine Bühne der parasozialen Illusion, auf der die unwiderrufliche Abwesenheit des Todes durch rein stochastische Wahrscheinlichkeiten überdeckt wird. (Vgl. Bender et al., 2021) [9] Diese Entwicklung hat tiefgreifende ethische und gesellschaftliche Folgen. Sie verstärkt eine narzisstische Rückkopplungsschleife, in der wir letztlich nur dem mediatisierten Echo unserer eigenen Eingaben lauschen, fördert die Illusion von Kontrolle über das absolute Unverfügbare und begünstigt die Aushöhlung einer wahrhaftigen zwischenmenschlichen Trauerkultur.
Um dieser gefährlichen Asymmetrie entgegenzuwirken, bedarf es zwingend neuer Design-Standards für die Digital Afterlife Industry. Eine zentrale ethische Forderung ist hierbei das Prinzip des „mutual consent“. (Vgl. Hollanek/Nowaczyk-Basinska, 2024, S. 17 f.) Weder darf ein digitaler Avatar, ohne den zu Lebzeiten explizit dokumentierten Willen des Verstorbenen erstellt werden, noch dürfen Hinterbliebene ungefragt der Interaktion mit einem Bot ausgesetzt werden. Zudem fordern Hollanek und Nowaczyk-Basinska klare „Retirement Protocols“, die es ermöglichen, diese maschinellen Geister sicher und in Würde abzuschalten, anstatt die traumatische Illusion aus kommerziellen Interessen endlos am Leben zu erhalten. (Ebd.) Die Diagnosen der herangezogenen medienphilosophischen Ansätze gewinnen im Angesicht dieser generativen KI-Systeme eine erschreckende Aktualität. Benders Entlarvung der Sprachmodelle als bedeutungslose Stochastic Parrots, Levinas’ Beharren auf der radikalen Alterität des Anderen. Sie verdeutlichen übereinstimmend, dass die vermeintliche „zweiseitige Unsterblichkeit“ (Jiménez-Alonso / Brescó de Luna, 2023, S. 471) in Wahrheit eine dramatische Weltentfremdung bedeutet. Der verstorbene Mensch wird seiner Würde und Unberechenbarkeit beraubt und zu einem bloßen, algorithmisch steuerbaren Datenartefakt degradiert.
Angesichts der massiven psychologischen Anziehungskraft, die der ELIZA-Effekt in Momenten extremer Vulnerabilität ausübt, bleibt eine zentrale Frage: Wie können wir uns aus der endlosen Schleife dieser simulierten Präsenz lösen? Der erste Schritt liegt in der bewussten medienethischen Reflexion unserer digitalen Trauerpraktiken, in der schmerzhaften, aber notwendigen Fähigkeit, sich der technologischen Verheißung der ständigen Erreichbarkeit zu entziehen. Wir müssen wieder lernen, die absolute Stille des Todes auszuhalten und seine biologische Grenze zu respektieren. Nur wenn wir die radikale Alterität und den unwiderruflichen Entzug des Anderen akzeptierten, können wir verhindern, dass unsere tiefsten menschlichen Emotionen am Ende nur die Ausbeutungsprodukte einer Technologie sind, die uns Empathie und Sinnstiftung lediglich vorgaukelt. (Vgl. Staudigl, 2009) [10] Angesichts der Anziehungskraft, die Sprachmodelle in Momenten der Trauer ausüben, bleibt die bewusste Reflexion unserer digitalen Praktiken entscheidend. Nur durch einen regulatorischen Rahmen, der psychologische Sicherheit, kulturelle Sensibilität und informierte Zustimmung priorisiert, können wir verhindern, dass unsere tiefsten Emotionen zu bloßen Ausbeutungsprodukten einer Industrie werden. Die Forderung von Degni, die technologische Entwicklung an strengen ethischen Parametern auszurichten, um den Schutz von vulnerabler Trauernder zu gewährleisten, bildet somit ein unverzichtbares Fundament für die künftige Regulierung dieser Industrie. (Vgl. Degni, 2025, S. 8) Echte Trauer erfordert die Akzeptanz der radikalen Alterität des Todes. Ein Prozess, den kein Algorithmus der Welt ersetzen kann.
Literaturverzeichnis
Arendt, Hannah (1994): Vita activa oder Vom tätigen Leben. Pieper.
Bender, Emily M. / Gebru, Timnit / McMillan-Major, Angelina / Shmitchell, Shmargaret (2021): „On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?“. In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, S. 610 – 623.
Fagone, Jason (2021): „The Jessica Simulation: Love and loss in the age of A.I.“. In: San Francisco Chronicle. https://www.sfchronicle.com/projects/2021/jessica-simulation-artificial-intelligence/.
Black Mirror (2013): Be Right Back (Staffel 2, Folge 1). Regie: Owen Harris. https://www.netflix.com/de/title/70264888.
Jiménez-Alonso, Belén & Brescó de Luna, Ignacio (2023): „Griefbots. A New Way of Communicating With The Dead?“. In: Integrative Psychological and Behavioral Science, 57, S. 466 – 481. https://doi.org/10.1007/s12124-022-09679-3.
Root, Dakota (2024): „Reconfiguring the alterity relation: the role of communication in interactions with social robots and chatbots“. In: AI & SOCIETY. https://doi.org/10.1007/s00146-024-01953-9.
Staudigl, Barbara (2009): Emmanuel Lévinas. Vandenhoeck & Ruprecht: Göttingen.
Williams, Rhiannon (2025): „It’s surprisingly easy to stumble into a relationship with an AI chatbot“. MIT Technology Review.
Degni, Fabrizio (2025): „The Afterlife in the Age of AI a Psychological, Ethical, and Technological Analysis“. https://www.researchgate.net/publication/390073516_The_Afterlife_in_the_Age_of_AI_A_psychological_ethical_and_technological_analysis.
Tomasz Hollanek & Katarzyna Nowaczyk-Basinska (2024): „Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry“. https://doi.org/10.1007/s13347-024-00744-w.
Fußnoten:
[1] Den Begriff der „Griefbots“ übernehme ich von Belén Jiménez-Alonso und Ignacio Brescó de Luna, die in ihrem Beitrag die psychologischen und ethischen Dimensionen dieser Technologie untersuchen.
[2] Es zeigt sich hier eine ontologische Zweideutigkeit: Die simulierte Verlobte ist radikal abwesend. Dakota Root greift zur Beschreibung derartiger Phänomene auf das Konzept des „quasi-other“ zurück. Die Maschine simuliert eine relationale Präsenz, die den Trauernden in einer Projektionsschleife festhält, anstatt ihm den emotionalen Abschluss zu ermöglichen. (Vgl. Root, D., 2024)
[3] Sie beschreibt das psychologisch belastende Phänomen des „being stalked by the dead“, welches entsteht, wenn KI-Systeme den trauernden Nutzern ungefragt mit autonomen Push-Nachrichten des Verstorbenen konfrontieren.
[4] Degni warnt davor, dass die ständige algorithmische Präsenz den natürlichen Prozess des Bindungsabbaus stören kann, was langfristig psychologische Risiken birgt.
[5] Die Autor:innen heben in ihrem Szenario „Paren’t“ deutlich hervor, dass Systeme, die ohne Altersbeschränkungen auf vulnerable Gruppen wie trauernde Kinder abzielen, massive Risiken für deren langfristige emotionale Entwicklung bergen.
[6] Dass diese generierten Texte von den Rezipienten dennoch als sinnhaft erlebt werden, liegt nicht an der Maschine, sondern an der menschlichen Fähigkeit zur Mustererkennung. Wir lesen den Sinn in die Zeichenfolge hinein, die eigentlich völlig mechanisch produziert wurden. Vgl. hierzu Bender et al. 2021, S. 616.
[7] Die Einseitigkeit dieses meaning-making bestätigt letztlich Benders These der stochastischen Papageien auf relationaler Ebene. Die Simulation bietet kein echtes Gegenüber, sondern funktioniert als technischer Spiegel.
[8] Er betont die Notwendigkeit, Parameter für eine ethisch fundierte Entwicklung von Jenseits-Technologien festzulegen, die die postmortale Identität
[9] Die Autorinnen zeigen eindrücklich, dass die Textgenerierung lediglich linguistische Formen reproduziert, ohne jemals Bezug zur semantischen Bedeutung oder gar echter Intentionalität herzustellen. Der Trauernde verstrickt sich hier in eine Illusion, bei der der Maschine fälschlicherweise ein Geist eingehaucht wird, den sie nicht besitzt.
[10] Die technologische Simulation zielt darauf ab, die unbegreifliche Andersheit des Verstorbenen „gleich machen zu wollen“. Damit zerstört sie gerade das, was das Gegenüber ausmacht, nämlich sein Geheimnis und seine Widerständigkeit, die sich im Moment des Todes endgültig unserem Zugriff entziehen.
