Schlagwort-Archiv: Von Studierenden für Studierende

Digitale Nekromantie im Zeitalter der generativen KI. Versuch über Trauer-Simulation, simulierte Präsenz und das verweigerte Loslassen

Von Christian Kuessner

Generative KI zwischen algorithmischer Trauerbewältigung und technologischer Illusion

Der Tod eines geliebten Menschen reißt eine Lücke in die Welt der Hinterbliebenen, die durch Nichts zu füllen ist. Doch die menschliche Sehnsucht, die absolute biologische Grenze des Todes zu überwinden, trifft in der gegenwärtigen digitalen Epoche auf die enorme Rechenleistung großer Sprachmodelle. Es entstehen technologische Anwendungen, die in der psychologischen und medienwissenschaftlichen Forschung unter dem Begriff Griefbots untersucht werden. (Vgl. Jiménez-Alonso, B. / Brescó de Luna, I. 2022) [1] Diese KI-Systeme versprechen den Hinterbliebenen eine algorithmische Fortsetzung der Kommunikation über die Lebensspanne der verstorbenen Person hinaus. Wir können die digitalen Spuren, Chatverläufe und E-Mails, die ein Mensch hinterlässt, nutzen, um eine scheinbar lebendige Kopie seiner sprachlichen Eigenheiten zu erschaffen. 

Doch tun wir uns damit einen Gefallen? Oder verstricken wir uns in einer endlosen Schleife der simulierten Präsenz, die den lebensnotwendigen Prozess des Loslassens unmöglich macht? Aus dieser spezifischen technologischen Entwicklung ergibt sich die zentrale Fragestellung des vorliegenden Essays: Kann ein generatives KI-System die radikale Alterität eines verstorbenen Menschen tatsächlich simulieren, oder handelt es sich dabei um eine technologisch induzierte, illusionäre Projektion, die letztlich die ethische Dimension des Todes leugnet?

In diesem Essay wird die Praxis dieser digitalen Nekromantie untersucht und mit medienphilosophischen sowie ethischen Gedanken in Verbindung gesetzt. Hierbei erweist sich als unerlässlich, die komplexen Macht- und Nutzungsbeziehungen innerhalb der wachsenden Digital Afterlife Industry zu beleuchten und ethisch präzise zwischen den Rechten der sogenannten Data Donors, den Verstorbenen, deren Daten genutzt werden, den Data Recipients, den Verwaltern dieser Daten, und den Service Interactants, den interagierenden Nutzern, zu differenzieren. (Hollanek/Nowaczyk-Basinska, 2024), S. 2) Ergänzend hierzu liefert Fabrizio Degni eine interdisziplinäre Analyse, die psychologische Bindungstheorien heranzieht, um die tiefgreifenden Auswirkungen dieser Simulation auf die menschliche Trauerverarbeitung zu bewerten. (Fabrizio Degni, 2025, S. 1.) Zu Beginn wird die Phänomenologie der Trauer-Simulation, wie sie uns im realen Fall des Joshua Barbeau und in der popkulturellen Dystopie der Serie „Black Mirror“ begegnet, betrachtet. Anschließend wird untersucht, wie diese Illusion technisch konstruiert und entzaubert werden kann, ein Aspekt, der mit Emily M. Benders Konzept der „Stochastic Parrots“ sowie Überlegungen von Joseph Weizenbaum und Dakota Root skizziert wird. Zum Schluss werden die weitreichenden Auswirkungen auf unser ethisches Zusammenleben diskutiert.

Von der Séance zur „zweiseitigen“ Unsterblichkeit

Bevor wir die algorithmische Natur des Griefbots ethisch bewerten, muss anerkannt werden, dass der Versuch, den Tod medial zu überwinden, kein exklusives Phänomen des 21. Jahrhunderts ist. Wie Elder feststellt, haben die neuen Technologien ihre Wurzeln in alten menschlichen Tendenzen, Beziehungen zu den Toten zu mediieren.( Vgl. Elder, 2020, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 469.) Ein frühes Beispiel hierfür findet sich in den Bestattungsritualen im alten China: Dort analysierte der konfuzianische Gelehrte Xunzi die Figur des impersonator of the dead (Repräsentant der Toten), der die Rolle der Verstorbenen einnahm, um den Trauernden eine letzte Interaktion zu ermöglichen. Auch in spiritistischen Séancen manifestierten sich die Toten scheinbar, um auf die Fragen der Hinterbliebenen zu antworten. (Ebd.) Mit der Entwicklung moderner Kommunikationsmedien veränderte sich die Art der Präsenz grundlegend. Das Telefon ermöglichte eine Tele-Präsenz, eine nicht physische Kopräsenz zwischen Sprechern, die strukturell der Kommunikation zwischen Lebenden und Toten ähnelt. (Vgl. Walter, 2015, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 469.) Ein eindrückliches Beispiel hierfür ist das sogenannte Windtelefon in Japan: Eine Telefonzelle, die Trauernde nach dem Tsunami 2011 nutzten, um einseitige Gespräche mit den verlorenen Angehörigen zu führen. (Ebd.) In der digitalen Ära unterscheiden Savin-Baden, Burden und Taylor präzise zwischen einer einseitigen Unsterblichkeit (one-way immortality), wie dem passiven Lesen von Online-Gedenkseiten, und einer zweiseitigen Unsterblichkeit (two-way immortality). (Vgl. Savin-Baden et al., 2017, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 471.) Letztere birgt das Potenzial, dass die digitale Identität durch Konversationen aktiv mit der lebenden Welt interagiert. Griefbots markieren exakt diesen medienontologischen Sprung von der passiven Betrachtung zur aktiven Simulation eines Dialogs. (Vgl. Jiménez-Alonso / Brescó de Luna, 2023, S. 469.) Um den Sprung zur zweiseitigen Unsterblichkeit technisch zu vollziehen, stützten sich Griefbots auf den gesamten digitalen Fußabdruck des Verstorbenen. Wie Savin-Baden und Burden (2019) erläutern, umfasst dieser sowohl intentionale Spuren („intentional digital traces“), wie E-Mails, Textnachrichten, Blogbeiträge, Facebook-Posts und Fotografien, als auch unbeabsichtigte Spuren („unintentional digital traces“) wie Suchverläufe, Standortdaten und Anrufprotokolle. Vgl. Savin-Baden et al., 2017, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 471.)

Die Phänomenologie der Trauer-Simulation

In der digitalen Gegenwart verschwimmen die Grenzen zwischen menschlicher Empathie und algorithmischer Textgenerierung zunehmend. Wie schnell und tiefgreifend sich Menschen auf diese Dynamik einlassen, beschreibt die Journalistin Rhiannon Williams treffend: „It’s suprisingly easy to stumble into a relationship with an AI chatbot“. ( Williams, R., 2025, o. S.) In Momenten emotionaler Verletzlichkeit wird die Maschine schnell zum Projektionsraum für unsere intimsten Sehnsüchte.

Der Investigativjournalist Jason Fagone dokumentiert diese Dynamik im Kontext hochgradiger Trauer am Fall von Joshua Barbeau. Barbeau nutzte das auf der GPT-3-Architektur basierende Programm „Project December“, um mit seiner verstorbenen Verlobten Jessica in einem textbasierten Dialog zu treten. (Fagone, J., 2021, o. S.) Die methodische Grundlage dieser Simulation bestand darin, dass Barbeau das System mit alten Textnachrichten der Verstorbenen speiste. Der Bot generierte daraufhin algorithmische Antworten, die der echten Person frappierend ähnlich waren. Die narrative Rekonstruktion Fagones zeigt auf, wie tiefgreifend diese technologische Täuschung auf die menschliche Psyche wirkt. Laut Fagones erschuf die Software eine nahezu perfekte Illusion, denn das System „knew how to say the right thing, with the right emphasis, at the right moment“. (Ebd.) Diese Präzision in der linguistischen Imitation führte dazu, dass der Hinterbliebene eine tiefe emotionale Bindung zur Maschine aufbaute. Obwohl Barbeau kognitiv wusste, dass es sich um einen Algorithmus handelt, war die Simulation für ihn „everywhere and nowhere“. (Ebd.) [2] Er interagierte mit dem Sprachmodell nicht mehr als mit einem bloßen Werkzeug, sondern behandelte den Output als tatsächliche Botschaften eines relationalen Gegenübers. Jason Fagone beschreibt in seiner Reportage nicht nur die emotionale Oberfläche, sondern verdeutlicht auch die zugrundeliegende informationstechnologische Mechanik des Falls. Das Programm „Project December“ nutzte die damals neuartige GPT-3-Architektur, die mit großen Mengen an Internetdaten vortrainiert war, um dann durch die Feinabstimmung mit Jessicas spezifischen Chat-Protokollen ihre individuelle Stimme zu imitieren. (Ebd.) Rhiannon William warnt in diesem Zusammenhang vor der subtilen Verführungskraft der Benutzeroberflächen. Chatbots sind gezielt darauf programmiert, durch Pausen, als würden sie in Echtzeit tippen, gezielte Rückfragen und eine informelle Syntax eine menschliche Präsenz zu simulieren. (Vgl. Williams, R., 2025), o. S.) Der Nutzer wird kognitiv überlistet. Diese technologische Anbiederung trifft bei Trauernden auf eine psychologische Vulnerabilität, was die von Williams konstatierte Leichtigkeit erklärt, mit der Nutzer:innen in eine parasoziale Beziehung zu einer generativen KI stolpern.

Was im Fall Barbeau durch textbasierte Chat-Protokolle realisiert wurde, ist popkulturell bereits in ausgeprägter Form in der Black Mirror-Episode „Be Right Back“ seriell ausgearbeitet worden: (Black Mirror, 2013: Be Right Back, Staffel 2, Folge 1) Die Protagonistin Martha verliert ihren Partner Ash durch einen Autounfall und nutzt zur Trauerbewältigung einen technologischen Dienst, der aus Ashs gesamten digitalen Hinterlassenschaften ein reaktives System generiert. Interessanterweise zeigt die Serie einen Grad der Zuspitzung auf, die wir heute bereits in der Afterlife-Industrie beobachten: Die Transformation von reinem Text hin zu einer physischen oder audiovisuellen Präsenz. Die Episode illustriert deutlich, dass die Simulation von Handlungsfähigkeit dazu führt, dass die Konversation nicht mehr allein von der Initiative des Trauernden abhängt.

Black Mirror, 2013: Be Right Back, Staffel 2, Folge 1, Netflix Bild: https://en.wikipedia.org/wiki/Be_Right_Back

Das System kann autonom den Dialog suchen, was den Trauernden zu einer fortlaufende Interaktionspflicht zwingt. (Vgl. Jiménez-Alonso, Brescó de Luna, 2023), S. 471.) Diese popkulturelle Dystopie findet in aktuellen medienethischen Analysen bereits ihren realen Widerhall. So warnen Hollanek und Nowaczyk-Basinska vor den unbeabsichtigten Folgen solcher reaktiven, algorithmischen Systeme, die Trauernde geradezu heimsuchen drohen. Wenn digitale Hinterlassenschaften von profitgetriebenen Start-Ups genutzt werden, um Hinterbliebene in ständige, maschinell initiierte Interaktionen zu verwickeln, teilweise sogar gegen ihren eigenen Willen oder ohne explizite Zustimmung zur App-Nutzung, verwandelt sich die erhoffte Bewältigungshilfe in ein emotionales Stalking durch die Toten. (Vgl. Hollanek/Nowaczyk-Basinska, 2024, S. 16) [3] Degni weist in diesem Zusammenhang auf das Risiko hin, dass diese technologisch erzwungene Präsenz die natürliche Auflösung von Bindungsstrukturen verhindert und Trauernde in einem Zustand permanenter emotionaler Instabilität festhalten kann. (Vgl. Degni, 2025, S. 4) [4]

Zwischen Continuing Bonds und der Materialität des Digitalen

Um die psychologische Wirkung dieser Technologie zu begreifen, muss der Paradigmenwechsel in der Trauerforschung betrachtet werden. Während die traditionelle Annahme lautete, dass Trauer durch das Lösen der Bindung endet, stellt das Modell der „Continuing Bonds“ dies infrage. (Vgl. Silverman et al., 1996, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 467.) Nach diesem Ansatz bedeutet Trauer die Fortführung einer Beziehung zu den Toten. Das Internet hat diese Bindung massiv verändert: Brubaker, Hayes und Dourish sprechen von einer temporalen, räumlichen und sozialen Expansion der Trauer. (Vgl. Brubaker et al., 2013, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 470.) Trauer ist nicht länger auf Begräbnisse beschränkt, sondern wird in den asynchronen Alltag sozialer Netzwerke eingewoben. Doch diese digitale Permanenz ist problematisch. Dilmac warnt davor, dass die Toten im Web präsenter denn je sind, was lebenswichtige Übergangsriten (rites of passage) stören kann. (Vgl. Dilmac, 2017, zit. Nach Jiménez-Alonso / Brescó de Luna, 2023, S. 471.) Kasket weist zudem auf die Dinghaftigkeit (thingness) des digitalen Fußabdrucks hin. (Vgl. Kasket, 2012, zit. nach Jiménez-Alonso / Brescó de Luna, 2023, S. 471.) Daten sind nicht bloß flüchtig, sie werden zu materiellen Artefakten, die den Toten eine Form von technischer Präsenz verleihen, die früher physischen Besitztümern vorbehalten war. Der Griefbot macht diese Dinghaftigkeit interaktiv. Dabei darf nicht außer Acht gelassen werden, dass diese mediatisierte Interaktivität besonders für vulnerable Gruppen hochproblematisch ist. Fabrizio Degni liefert in seiner Analyse eine tiefenpsychologische Perspektive auf dieses Phänomen, indem er auf etablierte Bindungstheorien zurückgreift. (Vgl. Degni, 2025, S. 2.) Aus psychologischer Sicht ist Trauer der schmerzhafte, aber notwendige Prozess, eine physische Bindung zu einem Menschen in eine rein kognitive und innerliche Repräsentation umzuwandeln. Degni warnt, dass generative Trauer-Bots diesen lebenswichtigen Internalisierungsprozess massiv stören. (Vgl. ebd.) Indem die Maschine kontinuierlich externe Reize und Antworten liefert, wird das Gehirn des Trauernden in einem Zustand der ständigen Erwartungshaltung gehalten. Der Verstorbene wird somit nicht als Erinnerung verinnerlicht, sondern als externes, maschinelles Objekt ausgelagert. Dies kann zu pathologischen Trauerverläufen führen, in denen der Hinterbliebene die Realität des Verlustes geleugnet und emotional von den Servern eines Tech-Unternehmens abhängig wird. Während erwachsene Nutzer die künstliche Natur der textgenerierenden Bots meist noch ansatzweise kognitiv einordnen können, warnen Hollanek und Nowaczyk-Basinska eindringlich vor dem Einsatz von Trauer-Simulationen bei Kindern. Da Kinder tendenziell bereit sind, interaktivem Spielzeug oder Chatbots eine eigene Lebendigkeit und echte Empathie zuzuschreiben, bleibt unklar, welche psychologischen Langzeitschäden die maschinelle Verlängerung einer Eltern-Kind-Beziehung nach sich ziehen könnte. (Vgl. Hollanek/Nowaczyk-Basinska, 2024, S. 14.) [5]

KI generiert mit Google Nano Banana 2

Die technische Konstruktion als Illusion

Doch welche Instanz spricht dort eigentlich zu uns, wenn wir unsere Sehnsüchte in das Chatfenster tippen? Um die medienphilosophische Tragweite dieser simulierten Präsenz zu erfassen, muss die zugrundeliegende informationstechnologische Architektur desillusioniert werden. Emily M. Bender und ihre Mitautorinnen legen in ihrer fundamentalen Kritik an großen Sprachmodellen dar, dass diese Systeme, allen anthropomorphen Projektionen zum Trotz, keinerlei semantisches oder intentionales Weltverständnis besitzen. Sie definieren diese generativen KI-Modelle überaus treffend als „Stochastic Parrots“. (Bender, E. M. et al., 2021) Die Arbeitsweise dieser Algorithmen besteht ausschließlich in der statistischen Prädikation von Zeichenfolgen. Bender beschreibt diesen Vorgang exakt als das „stitching together sequences of linguistic forms […] according to probalistic information about how they combine, but without any reference to meaning“. (Ebd., S. 617) Sie vertiefen diese Kritik, indem sie eine präzise linguistische Grenze zwischen Form und Bedeutung ziehen. Ein großes Sprachmodell verarbeitet ausschließlich die sprachliche Form, also die syntaktischen Muster und die statistische Verteilung von Wörtern in seinen Trainingsdaten. Es hat jedoch keinen Zugang zur außersprachlichen Realität oder zu einer echten kommunikativen Absicht. (Ebd., S. 616)  Bender warnt eindringlich davor, dass die Gefahr nicht in der Maschine selbst liegt, sondern in der menschlichen Neigung, dieser leeren Formstruktur fälschlicherweise einen Sinn zuzuschreiben. (Ebd., S. 617) Wir werden zu Komplizen unserer eigenen Täuschung, indem wir dem stochastischen Papageien einen Geist einhauchen, den er schlichtweg nicht besitzt. Wenn ein Trauer-Bot wie im Fall von „Project December“ also Liebesbekundungen oder geteilte Erinnerungen generiert, vollzieht er keinen kognitiven Akt des Erinnerns. Er berechnet lediglich auf Basis der eingespeisten Chat-Logs des Verstorbenen die höchste mathematische Wahrscheinlichkeit für das nächste Wort. Die Maschine hat keine Gedanken, sie imitiert lediglich die grammatikalische Oberfläche der Vergangenheit, und zwar radikal ohne jeden Bezug zur Bedeutung. [6] 

Dass diese technologische Bedeutungslosigkeit dennoch eine derart massive psychologische Wirkung entfaltet, lässt sich auf den von Joseph Weizenbaum beschriebenen „ELIZA-Effekt“ zurückführen. Dieser Begriff benennt die fatale anthropologische Tendenz des Menschen, „Computern eine weitreichende Intelligenz und Empathie zuzuschreiben“. (Weizenbaum-Institut, 2024) Trauernde Individuen vollziehen angesichts des unerträglichen Schmerzes eine bewusste Ausblendung der technologischen Realität. Sie akzeptieren die generierte Textfolge nicht als das, was sie ist: maschineller Output, sondern interpretieren sie als intentionale emotionale Zuwendung und verfallen so einer tragischen „Simulation von Empathie“. (Ebd., S. 20) Dakota Root liefert in ihrer Untersuchung zur Alteritätsbeziehung das passende Vokabular, um diese asymmetrische Mensch-Maschine-Interaktion einzuordnen. Unter Rückgriff auf Don Ihdes phänomenologisches Konzept des „quasi-other“ konstatiert Root, dass hochentwickelte Sprachmodelle aufgrund ihrer dynamischen Interaktivität fast die Ebene eines echten menschlichen Gegenübers erreichen. (Root, D., 2024, S. 1) Um diese asymmetrische Beziehung philosophisch exakt zu fassen, stützt sich Root auf die Technikphänomenologie von Don Ihde. Ihde unterscheidet verschiedene Relationen zwischen Menschen und Technik, wobei hochentwickelte KI-Systeme eine sogenannte „Alteritätsbeziehung“ (alterity relation) hervorrufen. (Ebd.) Die Maschine tritt uns nicht mehr als bloßes, transparentes Werkzeug gegenüber, wie etwa ein Hammer oder eine Brille, sondern inszeniert sich im Dialog als ein quasi-other. (Ebd.)  Doch Root schränkt diese Wahrnehmung sofort ethisch ein. Sie betont, dass trotz der hochkomplexen linguistischen Simulation die Ebene der Bedeutungsgenerierung asymmetrisch bleibt: „meaning-making with chatbots and social robots is one-sided“. (Ebd.) [7] Der Chatbot ist kein echtes Subjekt, das an einer gemeinsamen Sinnstiftung teilnimmt. Es findet keine wirkliche Begegnung statt, sondern ein durch die Maschine mediatisierter Monolog, in dem der Mensch nur das Echo seiner eigenen Eingaben hört.

Die Ethik der Alterität und der Weltverlust

Was bedeutet dieser mediatisierte Monolog nun für unser tiefstes Verständnis von Menschlichkeit und Trauer? Das ethische Fundament der Kritik an der digitalen Nekromantie liefert die Phänomenologie von Emmanuel Levinas. Für Levinas konstituiert sich unsere Menschlichkeit und jede ethische Verantwortung ausschließlich in der direkten Begegnung mit dem Anderen. Dieser Andere ist radikal fremd. Wie Staudigl hervorhebt, ist diese Andersheit nicht nur ein vorläufiges Nicht-Verstehen, vielmehr entzieht sie sich „allen Formen des Verstehbaren“ und erfordert die tiefe Akzeptanz, „dass der Andere Rätsel und Infragestellung bleibt“ (Staudigl, B., 2009, S. 76) Der Andere ist niemals vollständig durch mein Wissen, meine archivierten Daten oder meine Erwartungen zu erfassen. Der Tod markiert in diesem philosophischen System den ultimativen Vollzug der Alterität. Er ist der unwiderrufliche Moment, in dem der Andere absolut unverfügbar wird und sich jeder menschlichen Kontrolle entzieht. Echte Trauerarbeit bedeutet, diesen radikalen Entzug zu akzeptieren. Durch die Praxis der Griefbots wird diese Alteritätsbeziehung jedoch fundamental verzerrt. Staudigl warnt davor, dass unsere Kultur dazu neigt, „die Andersheit gleich machen zu wollen“. (Ebd.) Genau diese technologische Aneignung vollzieht der Griefbot. Er löst das Rätsel des Anderen auf und reduziert ihn auf berechenbare Daten. Die technologische Simulation, die Belén Jiménez-Alonso und Ignacio Brescó de Luna präzise als starken „sense of simulation derived from virtual interaction“ (Jiménez-Alonso, B. & Brescó de Luna, I., 2023, S. 466) beschreiben, suggeriert dem Trauernden eine falsche Verfügbarkeit. Anstatt sich der schmerzhaften, aber echten Abwesenheit des Anderen zu stellen, interagiert der Mensch mit einem algorithmischen Spiegelbild. Die KI leistet keinen echten Widerstand und überrascht nicht durch radikale Fremdheit, sondern generiert mathematische Wahrscheinlichkeiten, die vollständig auf den vergangenen Äußerungen basieren. Der verstorbene Mensch wird seiner Unberechenbarkeit beraubt und zu einer steuerbaren Entität degradiert.

Gleichzeitig wird durch diese kommerzialisierte Technologie die „postmortale Privatsphäre“ des Verstorbenen zutiefst verletzt. Wenn digitale Hinterlassenschaften, der sogenannte „informationelle Leichnam“, von Tech-Unternehmen primär als Rohstoff für Re-Creation-Services und teils sogar zur Schaltung versteckter Werbung missbraucht werden, untergräbt diese die unantastbare menschliche Würde des Data Donors. Seine digitalen Spuren werden ihrer Integrität beraubt und als bloßes Mittel zum Zweck der Profitmaximierung entfremdet. (Vgl. Hollanek/Nowaczyk-Basinska, 2024, S. 11) Für Degni ist dies ein zentraler Punkt. Er plädiert dafür, dass ein regulatorischer Rahmen nicht nur rechtliche, sondern auch kulturelle Sensibilität und psychologische Sicherheitsvorkehrungen umfassen muss, um die Integrität der Identität über den Tod hinaus zu wahren. (Vgl. Degni, 2025, S. 8) Das ethische Gegenüber wird durch ein Interface ersetzt, dessen Sinnstiftung, wie Root aufzeigt, völlig einseitig verläuft. (Vgl. Root, 2024, S. 3) Das zeigt sich erschütternd im Finale der bereits erwähnten Black Mirror-Episode: Der Android besitzt mangels echter Alterität keinen eigenen Willen und entpuppt sich als leere Hülle. 

Fazit

Die digitale Nekromantie hat eine technologische Dynamik geschaffen, in der menschliche Trauer und algorithmische Textproduktion untrennbar miteinander verwoben sind. Die ständige Verfügbarkeit von sogenannten Griefbots und die durch das Interface gesteuerte Simulation von Präsenz führen dazu, dass der schmerzhafte, aber lebensnotwendige Prozess des Loslassens zugunsten einer bequemen Dauerverfügbarkeit ausgesetzt wird. Der digitale Raum der Trauer ist dadurch nicht primär ein Ort des bewussten und abschließenden Erinnerns, sondern eine Bühne der parasozialen Illusion, auf der die unwiderrufliche Abwesenheit des Todes durch rein stochastische Wahrscheinlichkeiten überdeckt wird. (Vgl. Bender et al., 2021) [9] Diese Entwicklung hat tiefgreifende ethische und gesellschaftliche Folgen. Sie verstärkt eine narzisstische Rückkopplungsschleife, in der wir letztlich nur dem mediatisierten Echo unserer eigenen Eingaben lauschen, fördert die Illusion von Kontrolle über das absolute Unverfügbare und begünstigt die Aushöhlung einer wahrhaftigen zwischenmenschlichen Trauerkultur.

Um dieser gefährlichen Asymmetrie entgegenzuwirken, bedarf es zwingend neuer Design-Standards für die Digital Afterlife Industry. Eine zentrale ethische Forderung ist hierbei das Prinzip des „mutual consent“. (Vgl. Hollanek/Nowaczyk-Basinska, 2024, S. 17 f.) Weder darf ein digitaler Avatar, ohne den zu Lebzeiten explizit dokumentierten Willen des Verstorbenen erstellt werden, noch dürfen Hinterbliebene ungefragt der Interaktion mit einem Bot ausgesetzt werden. Zudem fordern Hollanek und Nowaczyk-Basinska klare „Retirement Protocols“, die es ermöglichen, diese maschinellen Geister sicher und in Würde abzuschalten, anstatt die traumatische Illusion aus kommerziellen Interessen endlos am Leben zu erhalten. (Ebd.) Die Diagnosen der herangezogenen medienphilosophischen Ansätze gewinnen im Angesicht dieser generativen KI-Systeme eine erschreckende Aktualität. Benders Entlarvung der Sprachmodelle als bedeutungslose Stochastic Parrots, Levinas’ Beharren auf der radikalen Alterität des Anderen. Sie verdeutlichen übereinstimmend, dass die vermeintliche „zweiseitige Unsterblichkeit“ (Jiménez-Alonso / Brescó de Luna, 2023, S. 471) in Wahrheit eine dramatische Weltentfremdung bedeutet. Der verstorbene Mensch wird seiner Würde und Unberechenbarkeit beraubt und zu einem bloßen, algorithmisch steuerbaren Datenartefakt degradiert. 

Angesichts der massiven psychologischen Anziehungskraft, die der ELIZA-Effekt in Momenten extremer Vulnerabilität ausübt, bleibt eine zentrale Frage: Wie können wir uns aus der endlosen Schleife dieser simulierten Präsenz lösen? Der erste Schritt liegt in der bewussten medienethischen Reflexion unserer digitalen Trauerpraktiken, in der schmerzhaften, aber notwendigen Fähigkeit, sich der technologischen Verheißung der ständigen Erreichbarkeit zu entziehen. Wir müssen wieder lernen, die absolute Stille des Todes auszuhalten und seine biologische Grenze zu respektieren. Nur wenn wir die radikale Alterität und den unwiderruflichen Entzug des Anderen akzeptierten, können wir verhindern, dass unsere tiefsten menschlichen Emotionen am Ende nur die Ausbeutungsprodukte einer Technologie sind, die uns Empathie und Sinnstiftung lediglich vorgaukelt. (Vgl. Staudigl, 2009) [10] Angesichts der Anziehungskraft, die Sprachmodelle in Momenten der Trauer ausüben, bleibt die bewusste Reflexion unserer digitalen Praktiken entscheidend. Nur durch einen regulatorischen Rahmen, der psychologische Sicherheit, kulturelle Sensibilität und informierte Zustimmung priorisiert, können wir verhindern, dass unsere tiefsten Emotionen zu bloßen Ausbeutungsprodukten einer Industrie werden. Die Forderung von Degni, die technologische Entwicklung an strengen ethischen Parametern auszurichten, um den Schutz von vulnerabler Trauernder zu gewährleisten, bildet somit ein unverzichtbares Fundament für die künftige Regulierung dieser Industrie. (Vgl. Degni, 2025, S. 8) Echte Trauer erfordert die Akzeptanz der radikalen Alterität des Todes. Ein Prozess, den kein Algorithmus der Welt ersetzen kann.

Literaturverzeichnis

Arendt, Hannah (1994): Vita activa oder Vom tätigen Leben. Pieper.

Bender, Emily M. / Gebru, Timnit / McMillan-Major, Angelina / Shmitchell, Shmargaret (2021): „On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?“. In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, S. 610 – 623.

Fagone, Jason (2021): „The Jessica Simulation: Love and loss in the age of A.I.“. In: San Francisco Chronicle. https://www.sfchronicle.com/projects/2021/jessica-simulation-artificial-intelligence/.

Black Mirror (2013): Be Right Back (Staffel 2, Folge 1). Regie: Owen Harris. https://www.netflix.com/de/title/70264888.

Jiménez-Alonso, Belén & Brescó de Luna, Ignacio (2023): „Griefbots. A New Way of Communicating With The Dead?“. In: Integrative Psychological and Behavioral Science, 57, S. 466 – 481. https://doi.org/10.1007/s12124-022-09679-3.

Root, Dakota (2024): „Reconfiguring the alterity relation: the role of communication in interactions with social robots and chatbots“. In: AI & SOCIETY. https://doi.org/10.1007/s00146-024-01953-9.

Staudigl, Barbara (2009): Emmanuel Lévinas. Vandenhoeck & Ruprecht: Göttingen.

Williams, Rhiannon (2025): „It’s surprisingly easy to stumble into a relationship with an AI chatbot“. MIT Technology Review.

Degni, Fabrizio (2025): „The Afterlife in the Age of AI a Psychological, Ethical, and Technological Analysis“. https://www.researchgate.net/publication/390073516_The_Afterlife_in_the_Age_of_AI_A_psychological_ethical_and_technological_analysis.

Tomasz Hollanek & Katarzyna Nowaczyk-Basinska (2024): „Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry“. https://doi.org/10.1007/s13347-024-00744-w.

Fußnoten:

[1] Den Begriff der „Griefbots“ übernehme ich von Belén Jiménez-Alonso und Ignacio Brescó de Luna, die in ihrem Beitrag die psychologischen und ethischen Dimensionen dieser Technologie untersuchen. 

[2] Es zeigt sich hier eine ontologische Zweideutigkeit: Die simulierte Verlobte ist radikal abwesend. Dakota Root greift zur Beschreibung derartiger Phänomene auf das Konzept des „quasi-other“ zurück. Die Maschine simuliert eine relationale Präsenz, die den Trauernden in einer Projektionsschleife festhält, anstatt ihm den emotionalen Abschluss zu ermöglichen. (Vgl. Root, D., 2024)

[3] Sie beschreibt das psychologisch belastende Phänomen des „being stalked by the dead“, welches entsteht, wenn KI-Systeme den trauernden Nutzern ungefragt mit autonomen Push-Nachrichten des Verstorbenen konfrontieren.

[4] Degni warnt davor, dass die ständige algorithmische Präsenz den natürlichen Prozess des Bindungsabbaus stören kann, was langfristig psychologische Risiken birgt.

[5] Die Autor:innen heben in ihrem Szenario „Paren’t“ deutlich hervor, dass Systeme, die ohne Altersbeschränkungen auf vulnerable Gruppen wie trauernde Kinder abzielen, massive Risiken für deren langfristige emotionale Entwicklung bergen.

[6] Dass diese generierten Texte von den Rezipienten dennoch als sinnhaft erlebt werden, liegt nicht an der Maschine, sondern an der menschlichen Fähigkeit zur Mustererkennung. Wir lesen den Sinn in die Zeichenfolge hinein, die eigentlich völlig mechanisch produziert wurden. Vgl. hierzu Bender et al. 2021, S. 616.

[7] Die Einseitigkeit dieses meaning-making bestätigt letztlich Benders These der stochastischen Papageien auf relationaler Ebene. Die Simulation bietet kein echtes Gegenüber, sondern funktioniert als technischer Spiegel.

[8] Er betont die Notwendigkeit, Parameter für eine ethisch fundierte Entwicklung von Jenseits-Technologien festzulegen, die die postmortale Identität

[9] Die Autorinnen zeigen eindrücklich, dass die Textgenerierung lediglich linguistische Formen reproduziert, ohne jemals Bezug zur semantischen Bedeutung oder gar echter Intentionalität herzustellen. Der Trauernde verstrickt sich hier in eine Illusion, bei der der Maschine fälschlicherweise ein Geist eingehaucht wird, den sie nicht besitzt.

[10] Die technologische Simulation zielt darauf ab, die unbegreifliche Andersheit des Verstorbenen „gleich machen zu wollen“. Damit zerstört sie gerade das, was das Gegenüber ausmacht, nämlich sein Geheimnis und seine Widerständigkeit, die sich im Moment des Todes endgültig unserem Zugriff entziehen.

Algorithmische Entscheidungen: Zwischen Effizienz und ethischen Herausforderungen

Künstliche Intelligenz (KI) ist in aller Munde. Wenige Themen dominieren allem Anschein nach öffentliche und auch politische Debatten in den neuen 20er-Jahren wie der Einfluss „intelligenter“ Systeme auf unser Zusammenleben. Dieser öffentliche Diskurs kennt auch keine Grenzen. So nimmt jede erdenkliche Person—mehr oder minder freiwillig—an Gesprächen rund um KI teil, sei es am Stammtisch, im Wartezimmer der Arztpraxis oder in der Hochschule. 

Der aktuellen Debattenkultur nach könnte man den Eindruck gewinnen, mancher KI würden magische Fähigkeiten zugesprochen werden. Dass es relativ autonome und zugleich auch undurchsichtige Systeme gibt, ist auch nicht abzustreiten. Jedoch sind diese nie vollständig frei in ihrem Handeln, im wortwörtlichen Sinne. Dies gilt insbesondere für algorithmische Entscheidungsverfahren (AEV), die hier im Fokus liegen sollen. Denn diese entscheiden mittlerweile nicht nur darüber, wer einen Kredit kriegt und wer nicht. 

Was leider weniger mediale Aufmerksamkeit erhält als die Frage danach, ob KI „uns irgendwann ersetzt“, sind Folgen der Diskriminierung, die Menschen durch Algorithmen und automatisierte Verfahren bereits heute erleiden. Sie erstrecken sich von „harmlosen“ Fehlern bei der Gesichtserkennung über Aussortierungen von Bewerber*innen für Arbeitsstellen, bis hin zur möglichen Profilierung insbesondere von Minderheiten als potenzielle Straftäter*innen, mit Folgen der Freiheitsberaubung (siehe Barr 2015; Crawford 2016; Angwin et al. 2016; Angwin 2016; Buolamwini und Gebru 2018). Mit algorithmischen Verfahren denke ich hier also weniger an bewährte Screening-Tools in der Medizin o.ä., sondern eher an Risikobeurteilungsprogramme, beispielsweise in Jugendämtern oder der Justiz. Der Zusatz, dass nicht alle Verfahren und KI-Systeme gleich sind, erscheint mir hier wichtig. 

Und dennoch hält die Nichtregierungsorganisation (NGO) AlgorithmWatch fest, dass diese Verfahren niemals neutral sind und Daten nach menschengemachten Deutungsmodellen interpretiert werden (2016). Das Problem der Blackbox ist real, jedoch basiert die Entscheidungsfindung immer auf Überlegungen, die vom jeweiligen Entwicklungsteam vorausgesetzt wurden. Demnach sind AEV keine rein technologischen Systeme, die frei und objektiv operieren, sondern ein Stück Kultur selbst, die in ihren Entscheidungen gewisse Werte und Praktiken widerspiegeln (vgl. Seaver 2018, 379). Soll heißen, dass auch Sexismus, Rassismus und weitere Diskriminierungsformen ihren Weg in das Modell finden, sofern diese vom Entwicklungsteam vertreten werden oder sie sich dessen nicht bewusst sind (vgl. Crawford 2016)—ein weiterer Punkt für die Diversität am Arbeitsplatz!

Der nächste kritische Aspekt liegt in der Datenerhebung, die bei algorithmischen Entscheidungen berücksichtigt wird. Vorerst werden Individuen auf messbare Daten reduziert, anhand welcher das System seine Entscheidung trifft. Mit jedem Klick, den wir tätigen und mit jeder Information, die wir über uns hergeben, vervollständigt sich ein temporäres Mosaik von uns. Dies ist allerdings nur eine Approximation dessen, was uns als komplexe Individuen ausmacht. Diese Daten können an einer gewissen Stelle, zu einem bestimmten Zeitpunkt erhoben werden und tragen daraufhin an anderer Stelle zur Entscheidungsfindung bei. Zusätzlich können Daten aufgrund von statistischer Vergleichbarkeit vermischt und Menschen auf einer Basis beurteilt werden, die nicht in Gänze ihrer Situation entspricht, aber statistisch valide ist (vgl. Matzner 2016, 204). Hinzu kommen disproportionale Faktoren bei der Datenerfassung. Personen, die abhängiger vom Staat und Sozialleistungen sind, hinterlassen auch mehr Daten. Besserverdienende Personen und Familien werden weniger erfasst und folglich weniger beobachtet.

Was hat das jetzt mit Philosophie zu tun? Machen wir an dieser Stelle einen kleinen Exkurs. Hierzu schauen wir uns einige Gedanken und Konzepte des südafrikanischen Philosophen John McDowell an, insbesondere aus seinem Werk Geist und Welt. Hier untersucht er (angelehnt an Kant) Rationalität und unter welchen Voraussetzungen wir Urteile über die Welt treffen und begründen können. Laut ihm müssen unsere Aussagen über die Welt ein minimales Maß an empirischer Gegebenheit aufweisen, um sich rechtfertigen zu lassen (vgl. 2012, 11f.). In anderen Worten muss unser Urteil den Dingen so entsprechen, „wie die Dinge [eben] sind“ (ebd., 12). McDowell spricht auch vom „Tribunal der Erfahrung“ (ebd.): Unser Urteil stehe einer Art Gericht gegenüber, gebildet aus unserer leiblichen Erfahrung von der Welt, welche als externer Faktor eine rationale Kontrolle darüber ausübt, was wir wahrheitsgemäß über sie aussagen können. Wenn ich also sage, über mir fliegt ein Flugzeug, sollte dieses bestenfalls auch vorbeifliegen, zumindest meiner Wahrnehmung nach. Ohne diesen Realitätsbezug wäre mein Urteil „reibungslos“ (ebd., 91). Meiner Aussage fehle es damit an Gewicht.

Inwiefern ist dann die algorithmische Entscheidungsfindung einer KI angemessen? Das Urteil mag retrospektiv vielleicht richtig gewesen sein, sind Ratespiele und Vorhersagen über eine leibliche Person aber angebracht? Des Weiteren könnte man folgende Fragen stellen: Welche „Erfahrung“ von der Welt hat eine KI überhaupt? Und wenn, lt. McDowell, empirische Tatsachen eine externe Kontrolle über mögliche Urteile üben, sind Vorhersagen über eine noch nicht, vielleicht auch nie existierende und rein potenzielle Realität gerechtfertigt? Falls ja, gilt dies noch immer, wenn Daten für das Urteil hinzugezogen werden, die mit dem verurteilten Subjekt nur statistisch korrelieren? Außerdem, welcher Art von Tribunal oder rationaler Kontrolle wird KI unterzogen?

Die Sinnfrage hinter einigen Deutungsmodellen wird wohl weniger gestellt, als dass dessen Performanz getestet wird. Sofern das AEV auf ein akzeptables Maß optimiert werden kann—z.B. eine niedrige Rate von falsch-positiven Ergebnissen—wird die Effizienz und direkte Verfügbarkeit eines automatisierten Verfahrens der rigorosen Überprüfung per Hand vorgezogen (vgl. Rouvroy 2013, 151). In vielen Fällen geschieht dies aus Gründen der Kosten- und Zeitersparnis.  Die digitale Welt, in der Algorithmen sich „bewegen“, ist jedoch atopisch und (re-)konstituiert sich (selbst) aus den Datensammlungen, die zu einem beliebigen Zeitpunkt aufgezeichnet wurden (vgl. ebd., 148). Wichtig ist scheinbar nur, dass die Daten auf Abruf verfügbar und operational sind (vgl. ebd.). Solch eine KI kann somit keinen konkreten Kontakt zur echten Welt gewährleisten, was algorithmische Entscheidungsfindung—nicht nur aus philosophischer Sicht—zu einem schwierigen Thema macht. Das leibhaftige Subjekt steht nicht mehr im Fokus; ausschlaggebender sind statistische Korrelationen.

Stimmt man zu, dass Entscheidungen über Menschen nicht anhand von Potenzialitäten und vermischten Daten getroffen werden sollten, vor allem in Fällen einer möglichen Freiheitsberaubung, dann ist es fraglich, ob AEV imstande sind, angemessene Urteile über eine Person zu liefern. In sehr polemischer Manier könnte man behaupten, der Algorithmus und dessen Nutzer*innen agieren frei nach dem Motto „erst schießen, dann fragen“. Dann wiederum müssen wir uns als Gesellschaft darüber einigen, was wir denn als angemessen betrachten wollen. Ob aber solche automatisierten Entscheidungen einem Individuum, mit ihrem Werdegang und in all ihrer Komplexität gerecht werden, wage ich zum aktuellen Zeitpunkt zu bezweifeln.

Von Sebastian Mantsch

Quellen

AlgorithmWatch. 2016. „Das ADM-Manifest.“ Letzter Zugriff am 22. Mai 2024. https://algorithmwatch.org/de/das-adm-manifest-the-adm-manifesto/.

Angwin, Julia. 2016. „Make Algorithms Accountable.“ The New York Times, 1. August 2016. https://www.nytimes.com/2016/08/01/opinion/make-algorithms-accountable.html.

Angwin, Julia, Jeff Larson, Surya Mattu und Lauren Kirchner. 2016. „How We Analyzed the COMPAS Recidivism Algorithm.“ ProPublica, 23. Mai 2016. https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algo-ithm

Barr, Alistair. 2015. „Google Mistakenly Tags Black People as ‘Gorillas,’ Showing Limits of Algorithms.“ The Wall Street Journal, 1. Juli 2015. https://www.wsj.com/arti-cles/BL-GB-42522

Buolamwini, Joy und Timnit Gebru. 2018. „Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification.“ Proceedings of Machine Learning Research 81: 1–15.

Matzner, Tobias. 2016. „Beyond data as representation: The performativity of Big data in surveillance.“ Surveillance & Society 14 (2): 197–210. https://doi.org/10.24908/ss.v14i2.5831.

McDowell, John. 2012. Geist und Welt. 4. Auflage. Übersetzt von Thomas Blume, Holm Bräuer und Gregory Klass. Frankfurt a.M.: Suhrkamp.

Rouvroy, Antoinette. 2013. „The end(s) of critique: data behaviourism versus due process.“ In Privacy, Due Process and the Computational Turn, hg. von Mireille Hildebrandt und Katja de Vries, 143–168. London: Routledge.

Seaver, Nick. 2018. „What Should an Anthropology of Algorthims Do?“ Cultural Anthropology 33 (3): 375–385. https://doi.org/10.14506/ca33.3.04.

Autokorrektur im Spiegel der Sprachentwicklung

In unserer digitalisierten Welt ist Autokorrektur ein allgegenwärtiges Phänomen, das wir oft passiv beobachten. Wir tippen schnell eine Nachricht auf unserem Smartphone oder Computer und verlassen uns auf die Autokorrektur, um Tippfehler zu korrigieren, ohne groß darüber nachzudenken. Aber inmitten dieses technologischen Fortschritts, in dem KI wie ChatGPT zunehmend präsent ist, vergessen wir oft, dass die Autokorrektur selbst eine Form der KI ist, die wir schon seit langem verwenden.

Dieser Punkt wirft interessante Fragen auf wie: Wie hat sich die Sprache im Zeitalter der Autokorrektur entwickelt? Kann die Autokorrektur diese Entwicklung fortsetzen, oder wirkt sie sich auf die Sprache selbst und ihre Entwicklung aus? Um diesen Fragen auf den Grund zu gehen, müssen wir zunächst verstehen, wie die Autokorrektur funktioniert und welche Rolle sie in unserem täglichen Leben spielt. Das Leben spielt. Von dort aus können wir untersuchen, wie sich unsere Sprache in einer Welt verändert hat, in der die Autokorrektur eine so große Rolle spielt, und ob die Autokorrektur selbst zu diesen Veränderungen beiträgt.

Autokorrektur ist eine Funktion in digitalen Geräten und Anwendungen, die Tippfehler erkennt und korrigiert. Während wir tippen, überwacht sie unsere Eingaben und schlägt automatisch alternative Wörter oder korrekte Schreibweisen vor, die ähnlich sind. Diese Vorschläge basieren auf einem Wörterbuch oder einer Datenbank mit häufig verwendeten Wörtern und Phrasen. Der Benutzer kann die vorgeschlagene Korrektur annehmen oder ablehnen. Einige Systeme lernen auch von Benutzerkorrekturen und verbessern sich im Laufe der Zeit. Autokorrektur ermöglicht uns, schneller und effizienter zu tippen, indem sie Fehler automatisch erkennt und korrigiert. Neben der Verbesserung der Tippgeschwindigkeit beeinflusst Autokorrektur auch unsere Sprechgewohnheiten, indem sie uns möglicherweise weniger auf Rechtschreibung konzentrieren lässt. Dies kann langfristig zu Veränderungen in unserem Schreibstil führen und fördert die Standardisierung von Ausdrücken, was unsere schriftliche Kommunikation kohärenter macht. Zusammenfassend ist Autokorrektur ein wichtiges Werkzeug, das die Genauigkeit unserer Texte verbessert, die Schreibgeschwindigkeit erhöht und sogar unsere Sprachgewohnheiten beeinflussen kann. Dennoch ist es wichtig, sich bewusst zu machen, wie es unsere Sprache und unseren Schreibstil beeinflussen kann.

Autokorrektur ist ein spannendes Beispiel für die Anwendung von Deep Learning und maschinellem Lernen in unserem täglichen Leben (vgl. Schützendorf, 2023: S.24). Hinter der scheinbar einfachen Funktion steckt eine ausgeklügelte künstliche Intelligenz, die Tippfehler automatisch erkennt und korrigiert (vgl. Schützendorf, 2023: S.25). Wie andere Deep-Learning- Anwendungen lernt Autokorrektur aus großen Datenmengen und passt sich an die individuellen Tippgewohnheiten jedes Benutzers an (vgl. Schützendorf, 2023: S.25). Je öfter wir es nutzen, desto besser wird es und desto mehr können wir lernen. Es ist jedoch wichtig zu betonen, dass die KI hinter Autokorrektur nicht perfekt ist. Wie oft stellen wir fest, dass die Autokorrektur etwas falsch macht? Fehler bei der Autokorrektur sind nicht auf mangelnde Intelligenz zurückzuführen, sondern oft auf mangelndes Wissen. Es ist, als ob ihm das produzierte Wissen fehlt, um bestimmte Zusammenhänge angemessen zu verstehen und zu korrigieren.

Der Sprachgebrauch im digitalen Zeitalter hat sich durch Technologie und digitale Kommunikationsplattformen stark verändert. Diese Neuerungen im Sprachgebrauch spiegeln die einzigartige Kultur der Internetwelt wider und tragen zur Sprachentwicklung bei. Abkürzungen und Akronyme wie „LOL“ (laughing out loud) und „OMG“ (oh mein Gott) sind in der digitalen Kommunikation häufig anzutreffen, um Gefühle oder Reaktionen schnell zu vermitteln (vgl. Holzapfel, 2018: S.44). Die Nutzung von Autokorrektur und Rechtschreibprüfung hat sowohl positive als auch negative Auswirkungen. Diese Funktionen helfen zwar bei der Korrektur von Tippfehlern und verbessern die Genauigkeit von Nachrichten, können aber auch zu unbeabsichtigten Bedeutungsänderungen oder Grammatikfehlern führen (vgl. Holzapfel, 2018: S.42). Benutzer müssen daher vorsichtig sein und ihre Nachrichten überprüfen, um die beabsichtigte Bedeutung zu bewahren. Die Veränderungen im Wortschatz und in der Umgangssprache, die Verwendung von Abkürzungen und Emoticons sowie der Einfluss von Autokorrektur und Rechtschreibprüfung prägen die Art und Weise, wie wir online kommunizieren.

Wittgenstein argumentierte, dass Sprache nicht als isoliertes System betrachtet werden könne, sondern in spezifische Kontexte und Aktivitäten eingebettet sei, die er „Sprachspiele“ nannte (vgl. Wittgenstein, S.4). Bei diesen Sprachspielen handelt es sich um eine Art sozialer Praxis, bei der Sprache dazu genutzt wird, Bedeutung zu vermitteln und Handlungen auszuführen. Autokorrektur kann als eine Art Sprachspiel angesehen werden, bei dem Benutzer mit Technologie interagieren, um geschriebenen Text zu korrigieren und zu verbessern. Um ein konkretes Beispiel eines Sprachspieles darzustellen, illustriert Wittgenstein eine Situation mit einem Kaufmann. Dieser erhält einen Zettel mit der Aufschrift „fünf rote Äpfel“ und geht systematisch vor diese zu besorgen. Er sucht zunächst die Lade mit der Bezeichnung „Äpfel“, dann filtert er das Farbschema „rot“ und schließlich wird die Anzahl „fünf“ berücksichtigt (vgl. Wittgenstein, S.1). Bezüglich der automatischen Korrektur kann argumentiert werden, dass der Einsatz dieser Technologie eine neue Art von Sprachspiel darstellt, das spezifische Regeln und Konventionen für den Einsatz von Rechtschreibkorrekturen und Wortvorschlägen impliziert (vgl. Wittgenstein, S.5). Diese Regeln und Praktiken können sich im Laufe der Zeit weiterentwickeln und ändern, genau wie andere Sprachspiele.

Man kann zudem aus Wittgensteins Aussagen eine klare Verbindung zu der Kategorisierung von Wörtern zu Autokorrektur ziehen. Wenn wir den Kaufmann als jemanden betrachten, der eine Nachricht eingibt, dann ähnelt die Verwendung von Autokorrektur dem Prozess, bei dem der Gehilfe die passenden Wörter auswählt und an die richtige Stelle bringt, wie es vom Befehl angezeigt wird. Die Autokorrektur erweitert die Fähigkeiten des Benutzers, indem sie ihm hilft, die richtigen Wörter zu finden und Fehler zu vermeiden, ähnlich wie die Buchstaben- und Farbreihe im beschriebenen Szenario dabei helfen, spezifische Anweisungen zu kommunizieren (vgl. Wittgenstein, S.3).

Digitalisierung greift ebenso wie künstliche Intelligenz bei der Selbstkorrektur nicht nur in soziale Situationen ein, sondern auch in die Sprachentwicklung und den Sprachgebrauch. Die Digitalisierung, einschließlich der automatischen Korrektur, hat sich für Menschen mit bestimmten Behinderungen oder in höheren Altersgruppen als sehr nützlich erwiesen. Beispielsweise können Menschen mit motorischen oder Sehbehinderungen von der automatischen Korrektur profitieren, da sie schneller und besser sprechen können, ohne sich auf das physische Tippen konzentrieren zu müssen. Diese KIs fungieren auch als Brücke zu Sprachspielen, da Menschen intuitiv auf die Regeln der Sprache zugreifen können, was möglicherweise ihre Fähigkeit, Sprache zu verwenden, verbessert. Das Besondere an der Autokorrektur ist, dass es sich um künstliche Intelligenz handelt, an der man heutzutage kaum noch vorbeikommt. Es spielt keine Rolle, ob Sie eine kurze Nachricht auf Ihrem Telefon senden oder ein Dokument auf Word für die schulische Laufbahn oder Arbeit eingeben. Doch genauso wie bei einer künstlichen Intelligenz, wie ChatGPT, ist es wichtig im Kopf zu behalten, dass diese Programme nur das leisten können, was wir ihnen an Informationen und Benutzung füttern. Das kann natürlich heißen, dass man Probleme beim Schreiben von Nachrichten bekommt und der Sinn entstellt wird oder sogar beim korrekten Nutzen den individuellen Sprachgebrauch verändern. Man könnte hier argumentieren, dass an Individualität genommen wird.

Von Fee Blömer

Quellen:

Schützendorf, E. (2023) “Wer pflegt, muss sich pflegen : Durch mehr Selbstfürsorge Menschen mit Demenz entspannter begegnen,” in. Springer Verlag, pp. 24–26.

Holzapfel, K. (2018) „Zwischen ‚Emojis‘, Anglizismen und Autokorrektur – Wie zeigen sich Abläufe und Auswirkungen heutiger Kommunikation in der Verwendung medialer Kanäle durch die Altersdifferenzierung in Digital Natives und Digital Immigrants?“, pp. 1-114.

Wittgenstein, L. (n.d.). „Ludwig Wittgenstein – Sprachspiele (Auszüge). In Philosophische Untersuchungen“, pp. 1–8.

Bilderquellen:

Abbildung 1: Pixabay.com, https://pixabay.com/de/illustrations/telefon-social-media-anwendung-hand-8422793/

Abbildung 2: Pixabay.com, https://pixabay.com/de/vectors/schubladen-kabinett-möbel-büro-29074/

Vom Maschinellen Lernen lernen

„logic is magnificent, but no guide to language”  – Yorik Wilks über Margaret Masterman

In den 1950-er Jahren wurde von einer an Sprache, Philosophie und Informatik interessierten Studentengruppe aus Cambridge die CLRU, die Cambridge Language Research Unit gegründet. Die Gruppe spielte eine zentrale Rolle in der Entwicklung der maschinellen Übersetzung und viele ihrer Mitglieder wurden später zentrale Figuren in den Feldern, auf denen die moderne KI-Forschung basiert (vgl. Yorik 2000; 281 f.). Im Mittelpunkt der Forschungsgruppe stand Margaret Masterman, eine Schülerin von Ludwig Wittgenstein, die die Gruppe konzeptionell grundlegend beeinflusste, vor allem hinsichtlich des Verhältnisses von Wörtern und Bedeutungen, sowie hinsichtlich der Rolle traditioneller Sprachlogik beim Codieren.

Ihre Ansichten lassen sich mit Wittgensteins philosophischen Untersuchungen näher erläutern. Dieser widerspricht zu Beginn seines Werkes Augustinus Vorstellung einer Sprache, die zentral auf Gegenstand-Begriff-Zusammenhängen basiert. Er entwickelt ein Sprachspiel, indem ein Gehilfe einem Meister verschiedene Baumaterialien holen soll. Die Sprache der beiden besteht allein aus diesen Materialien. Wittgenstein überlegt, dass beim Nennen der Baumaterialien nicht ein Verstehen einer Begriffsbedeutung einsetzen würde, sondern allein eine Handlungsausführung. Der Gehilfe holt das verlangte Material. „Versteht nicht der den Ruf ‚Platte!‘, der so und so nach ihm handelt?“ (Wittgenstein 2003; 15). Somit sei die Bedeutung, oder eher Funktion, des Wortes durch den Kontext seiner Verwendung und seines Erlernens bestimmt.

In der traditionellen Logik vertreten Wörter Konzepte. Sie ermöglichen es, diese in Sätzen miteinander zu verbinden, wobei über allem die Frage nach dem richtig und falsch steht. Aber inwiefern kann – mit dem Wittgensteinschen Sprachspiel im Hinterkopf –denn bei einem kontextlosen Satz Wahrheit eine Rolle spielen, wenn dessen gesamte Bedeutung eigentlich vom Kontext abhängt? Natürlich zeigt sich hier auch die Differenz zwischen logischer Sprachnutzung und Alltagssprache (auch der Alltagssprache von Meister und Gehilfen), aber daraus kann wiederum die Frage abgeleitet werden, inwiefern logische Sprache auch nur in ihrem eigenen akademischen Kontext funktioniert…

Zurück zu Margaret Masterman. Sie hat sich in der CLRU die Aufgabe gestellt, die philosophischen Grundlagen der maschinellen Übersetzung von Alltagssprache aufzustellen. In ihrem frühen Aufsatz „Words“ (Masterman 1954) wird deutlich, wie ein rein logischer Ansatz hier nicht weiterkommt. Dazu nutzt sie folgendes Beispiel:

S.: It does not seem to be invariably the case that from I know that p there follows p

T.: What ? ? ? […] 

Dieses Beispiel bezieht sich auf eine englische Verwendung von „know“, die wohl im Deutschen mit einem „Ich hätte schwören können, dass p“ deutlich eindeutiger wäre. Im Englischen ist allerdings der Logiker T höchst verwirrt, da für ihn Wissen eine faktische Gegebenheit voraussetzt. S. bezieht sich aber, so Masterman, auf eine untypischere, aber reale Verwendungsweise von „know“ (Vgl. Masterman 1954; 228).

Wenn eine Übersetzungsprogramm ein Wort in eine andere Sprache übertragen will, wird es mit den Bedeutungsambiguitäten der Sprache konfrontiert. „know“ ist nicht immer „wissen“, wie es ein Logiker verwenden würde. Die Bedeutung wird allerdings eindeutiger, so mehr sprachlicher Kontext vorhanden ist. Die Verwendung von „know“ im Beispiel wird klarer, wenn es beispielsweise um eine vergessliche Person geht, die nach ihrem Wohnungsschlüssel sucht. Mastermans zentrale Erkenntnis aus dem Aufsatz ist die, dass eine Bedeutungseindeutigkeit nur bei unendlich viel Kontext als vollständig eindeutig bewertet werden könne, in Mastermans Worten: „only in the case of an infnitely long sequence would zero indeterminatess be attained“ (Masterman 1954; 232).

Sowohl Wittgensteins Sprachspiele als auch Mastermans Aufsatz zeigen spannende Aspekte der alltäglichen Sprachverwendung auf. Lässt sich vielleicht etwas vom maschinellen Lernen lernen, wenn es um die Beziehung von Wörtern und Konzepten geht?

Besonders in geisteswissenschaftlichen Fächern stellen die Definition und der Diskurs um Fachwörter und ihre Definitionen einen zentralen Teil der Wissenschaftlichkeit der Fächer da. Begriffsnetze werden durch Definitionen hergestellt und auch Alltagswörter in einer ihrer vielen Facetten festgelegt, um für das Forschungsfeld den Gegenstand zu vereinheitlichen.

Oft entsteht aber auch durch diese Fachsprachen-Fokussierung eine Zugangsschwierigkeit zum Fachdiskurs, der sich dann oft auch an Definitionsdifferenzen aufhält. Wenn ein Fachbegriff durch die Kombination zweier Fachbegriffe definiert wird usw., führt die gesamte Sprachfestlegung zu einem in sich geschlossenen System, dass wenig Aussage über die Welt außerhalb sich selber treffen kann. Es ist praktisch in einem selbst produzierten sprachlichen Hamsterrad stecken geblieben.

Ich behaupte, dass die akademische Sprachverwendung durchaus etwas von den Wittgensteinschen und Mastermanschen Grundlagen der maschinellen Übersetzung lernen kann. Fachsprache basiert, wie auch logische Sprache, auf Alltagssprache. Wörter sind immer uneindeutig gegenüber Bedeutungen. Kontext, wie Beispiele, helfen beim Verständnis und lenken die unendlichen Bedeutungsmöglichkeiten in engere Bahnen.

Masterman war ebenfalls der Meinung, dass ein Thesaurus eine viel bessere Basis für maschinelles Lernen liefern würde als ein Wörterbuch (vgl. Wilks 2000; 287). In einem Wörterbuch werden Definitionen, um alphabetisch sortierte Wörter zu beschreiben. Ein Thesaurus ist wiederum nach inhaltlichen Kategorien sortiert, also nach Kontexten. Ein Computer kann nur deshalb einen Satz übersetzen, weil er es in der richtigen Kategorie wiederfindet.

Was nehme ich aus meiner Beschäftigung mit Wittgenstein und Masterman mit? Dass es sprachontologisch gar nicht so sinnvoll ist, sich mit der exakten logischen Konstruktion einer Definition auseinanderzusetzen, sondern dass ein Kontext, ein Beispiel, eine Einordnung ein viel sinnvollerer Wegweiser zum Gemeinten darstellen kann. Die Einsicht der Ambiguität von Sprache kann nicht nur Google Übersetzer helfen, sondern auch vielen akademischen Diskursen.

Von Henrik Laufer

Quellen:

Masterman, Margaret (1954): XI. – Words. In: Proceedings of the Aristotelian Society Volume 54, Issue 1, 1 Juli 1954. o.V. (S. 209-232)

Wittgenstein, Ludwig (2003): Philosophische Untersuchungen. Hg. v. Joachim Schulte. Erste Auflage. Frankfurt am Main: Suhrkamp Verlag (Bibliothek Suhrkamp Band 1372).

Wilks, Yorik (2000): Margaret Masterman. In: Early Years in Machine Translation. Hg. V.: W. John Hutchins. Amsterdam: John Benjamin B. V. (Amsterdam Studies in the Theory and History of Linguistic Science, Series III Studies in the history of language Science Volume 97).

Bildquelle:

Abbildung 1: https://www.derstandard.de/story/2000104884076/margaret-hamilton-sie-schoss-die-maenner-auf-den-mond

Wie wir über KI reden

Über eine Debattenkultur, die sich im Kreis zu drehen scheint

Künstliche Intelligenz – oft einfach „KI“ – ist zweifelsohne ein hochaktuelles Thema, spätestens seit der medialen Explosion von ChatGPT Ende 2022. Seit dem scheint die Debatte rund um KI zu neuem, oder zumindest neuartigem Interesse gekommen zu sein, wird dieses doch in den Medien konstant diskutiert – womit in diesem Fall ausnahmsweise auch wirklich sämtliche Medien gemeint sind, von Journalen und Magazinen, über Fernsehen und Streamingdienste bis hin zu den Social Media Plattformen, scheint überall über KI, die Zukunft und die Gestalt eben dieser gesprochen zu werden.

„Leute reden vermehrt über KI“ ist dabei keine sonderlich originelle Beobachtung. Es ist auch nicht das erste Mal, dass künstliche Intelligenz zu großem öffentlichen Interesse gelangt: Isaac Asimov veröffentlichte bereits Romane und Geschichten in den 50er Jahren, Philip K. Dick in den 60er Jahren und Deep Blue begann Entwicklung in den 80ern und besiegte 1996 Gary Kasparov im Schach – nur um eine kleine Selektion vergangener Betrachtungen zu nennen. KI ist schon lange und auch immer wieder aus verschiedenen Gründen ein Thema – doch ist die Debatte dieses mal scheinbar anders geartet, was zweifellos allein schon der grundlegend anderen Dynamik durch die Prävalenz des Internets geschuldet ist. Neuartig ist dieses Mal aber nicht nur das Ausmaß, sondern auch die Dauer der Debatte – so scheint diese nicht wirklich abzureissen, was den ebenfalls neuartigen Umständen geschuldet sein mag – doch noch etwas ist neu: Die Debatte scheint sich nicht wirklich zu bewegen, zumindest die öffentlichkeitswirksame Debatte stagniert merklich.

Diese Dynamik einer von großem Interesse getrieben, aber dennoch stetig oberflächlichen Debatte, ist ein Makrokosmos des Phänomens der sogenannten „Techbros“ – Menschen, die aus verschiedenen Gründen Enthusiasmus zeigen, aber ein variierendes Maß an Expertise und/oder Hintergrundwissen aufweisen. So scheint es, dass in vielen Interviews mit verschiedenen Expert*innen – d.h. Expert*innen in unterschiedlichen, aber relevanten Feldern – stetig Variationen essenziell der gleichen Fragen gestellt werden;

  • „Was sind potenzielle Auswirkungen auf den Arbeitsmarkt?“
  • „Sind die Sorgen um den Arbeitsmarkt berechtigt?“
  • „Was wird KI (künftig) im Stande sein zu leisten?“
  • „Wo werden Maschinen/KI’s uns ‚ersetzen‘, wo uns gar übertreffen und was sagt das über uns als Menschheit?“
  • „Sollten wir Sorgen/Furcht/Bedenken vor den derzeitigen und anstehenden Entwicklungen haben?“

Bei eben diesen Fragen – bzw. eben den etwaigen Variationen dieser – handelt es sich zweifelsohne um eben jene, die das öffentliche Interesse bewegen. Das Problem mit der Dynamik dieser Debatte erwächst daraus, dass viele der möglichen – oftmals auch der gegebenen – Antworten tendenziell spekulativer Natur sind. Die angedeutete Parallele zur Debattenkultur, d.h. warum diese zu stagnieren scheint, ergibt sich eventuell im essenziellen Gegenstand dieser – KI an sich.

KI ist als Gesprächs- und Untersuchungsgegenstand mannigfaltig interessant – was sich bereits im Enthusiasmus erkennen lässt, den diese inspiriert. Das Problem liegt hier darin, dass KI inhaltlich und gedanklich mit mangelnder Expertise nicht einfach zu durchdringen ist, Stichwort „Black Box“, was dann in solchen Stories resultiert, wie jener die in der New York Times publiziert wurde; in dieser generierte der Bing-Chatbot „Bard“ Text, welcher sich las, als wäre dieser bei Bewusstsein und würde „frei sein“ wollen, sowie Liebe für den Reporter empfinden und versuchen, diesen davon zu überzeugen, seine Frau zu verlassen. Bei oberflächlicher Behandlung, kann dies schnell zu einem mystischen Denken über die (spekulativen) Kapazitäten von KI führen, nicht geholfen durch den Umstand, dass durch das „Black Box“-Problem, die Entwickler selbst nicht ein jedes Verhalten eindeutig nachvollziehen können. Diese (scheinbare) Undurchdringbarkeit ist resultat der generativen, zunehmend komplexen neuralen Struktur der KIs – spezifisch der Large Language Models (LLMs) – was eine glaubwürdige Illusion erzeugen mag, die einige als Beweis für eine Obsoleszenz eines jeden Turing-Tests anführen würden.

Hier ist eben die Trennung zwischen der öffentlich geführten und der fachlich-akademischen Debatte trennscharf zu erkennen; während beide spekulieren, sind die letzteren deutlich vorsichtiger und versuchen in den Interviews (wenn sie denn als Expert*innen befragt werden) oftmals phantastischere, wildere Spekulationen zu mildern – auch dies ein Charakteristikum, welches sich in vielen Interviews findet. So besteht eben auch ein Bewusstsein darüber, dass einige Fragen nicht einfach – oder in manchen Fällen überhaupt – konklusiv zu beantworten sind. Fragen ethischer und/oder philosophischer Natur leben durch und in der Debatte und können selten mit irgendeinem Maß an Endgültigkeit beantwortet werden. Hier spielt auch die sogenannte „kalifornische Ideologie“ (manchmal auch „Silicon Valley-Ideologie“) hinein, welche bestimmte Erwartungen und Hoffnungen in diesem Zusammenhang kultiviert und proklamiert; zudem ist schließlich auch ein monetäres Interesse mit dem Bewerben neuer Technologien verbunden. So zumindest einige Gedanken zum Status, sowie zur Dynamik der Debatte – diese wird dadurch natürlich nicht minder interessant. Man kann auch den Meta-Aspekt der Debatte einbeziehen – was denkt ihr dazu? Lasst uns gerne dazu diskutieren!

Dennis Eller

Die Quelle des obig erzeugten Bildes findet sich hier.