Archiv der Kategorie: Inspirationen

Wie wir über KI reden

Über eine Debattenkultur, die sich im Kreis zu drehen scheint

Künstliche Intelligenz – oft einfach „KI“ – ist zweifelsohne ein hochaktuelles Thema, spätestens seit der medialen Explosion von ChatGPT Ende 2022. Seit dem scheint die Debatte rund um KI zu neuem, oder zumindest neuartigem Interesse gekommen zu sein, wird dieses doch in den Medien konstant diskutiert – womit in diesem Fall ausnahmsweise auch wirklich sämtliche Medien gemeint sind, von Journalen und Magazinen, über Fernsehen und Streamingdienste bis hin zu den Social Media Plattformen, scheint überall über KI, die Zukunft und die Gestalt eben dieser gesprochen zu werden.

„Leute reden vermehrt über KI“ ist dabei keine sonderlich originelle Beobachtung. Es ist auch nicht das erste Mal, dass künstliche Intelligenz zu großem öffentlichen Interesse gelangt: Isaac Asimov veröffentlichte bereits Romane und Geschichten in den 50er Jahren, Philip K. Dick in den 60er Jahren und Deep Blue begann Entwicklung in den 80ern und besiegte 1996 Gary Kasparov im Schach – nur um eine kleine Selektion vergangener Betrachtungen zu nennen. KI ist schon lange und auch immer wieder aus verschiedenen Gründen ein Thema – doch ist die Debatte dieses mal scheinbar anders geartet, was zweifellos allein schon der grundlegend anderen Dynamik durch die Prävalenz des Internets geschuldet ist. Neuartig ist dieses Mal aber nicht nur das Ausmaß, sondern auch die Dauer der Debatte – so scheint diese nicht wirklich abzureissen, was den ebenfalls neuartigen Umständen geschuldet sein mag – doch noch etwas ist neu: Die Debatte scheint sich nicht wirklich zu bewegen, zumindest die öffentlichkeitswirksame Debatte stagniert merklich.

Diese Dynamik einer von großem Interesse getrieben, aber dennoch stetig oberflächlichen Debatte, ist ein Makrokosmos des Phänomens der sogenannten „Techbros“ – Menschen, die aus verschiedenen Gründen Enthusiasmus zeigen, aber ein variierendes Maß an Expertise und/oder Hintergrundwissen aufweisen. So scheint es, dass in vielen Interviews mit verschiedenen Expert*innen – d.h. Expert*innen in unterschiedlichen, aber relevanten Feldern – stetig Variationen essenziell der gleichen Fragen gestellt werden;

  • „Was sind potenzielle Auswirkungen auf den Arbeitsmarkt?“
  • „Sind die Sorgen um den Arbeitsmarkt berechtigt?“
  • „Was wird KI (künftig) im Stande sein zu leisten?“
  • „Wo werden Maschinen/KI’s uns ‚ersetzen‘, wo uns gar übertreffen und was sagt das über uns als Menschheit?“
  • „Sollten wir Sorgen/Furcht/Bedenken vor den derzeitigen und anstehenden Entwicklungen haben?“

Bei eben diesen Fragen – bzw. eben den etwaigen Variationen dieser – handelt es sich zweifelsohne um eben jene, die das öffentliche Interesse bewegen. Das Problem mit der Dynamik dieser Debatte erwächst daraus, dass viele der möglichen – oftmals auch der gegebenen – Antworten tendenziell spekulativer Natur sind. Die angedeutete Parallele zur Debattenkultur, d.h. warum diese zu stagnieren scheint, ergibt sich eventuell im essenziellen Gegenstand dieser – KI an sich.

KI ist als Gesprächs- und Untersuchungsgegenstand mannigfaltig interessant – was sich bereits im Enthusiasmus erkennen lässt, den diese inspiriert. Das Problem liegt hier darin, dass KI inhaltlich und gedanklich mit mangelnder Expertise nicht einfach zu durchdringen ist, Stichwort „Black Box“, was dann in solchen Stories resultiert, wie jener die in der New York Times publiziert wurde; in dieser generierte der Bing-Chatbot „Bard“ Text, welcher sich las, als wäre dieser bei Bewusstsein und würde „frei sein“ wollen, sowie Liebe für den Reporter empfinden und versuchen, diesen davon zu überzeugen, seine Frau zu verlassen. Bei oberflächlicher Behandlung, kann dies schnell zu einem mystischen Denken über die (spekulativen) Kapazitäten von KI führen, nicht geholfen durch den Umstand, dass durch das „Black Box“-Problem, die Entwickler selbst nicht ein jedes Verhalten eindeutig nachvollziehen können. Diese (scheinbare) Undurchdringbarkeit ist resultat der generativen, zunehmend komplexen neuralen Struktur der KIs – spezifisch der Large Language Models (LLMs) – was eine glaubwürdige Illusion erzeugen mag, die einige als Beweis für eine Obsoleszenz eines jeden Turing-Tests anführen würden.

Hier ist eben die Trennung zwischen der öffentlich geführten und der fachlich-akademischen Debatte trennscharf zu erkennen; während beide spekulieren, sind die letzteren deutlich vorsichtiger und versuchen in den Interviews (wenn sie denn als Expert*innen befragt werden) oftmals phantastischere, wildere Spekulationen zu mildern – auch dies ein Charakteristikum, welches sich in vielen Interviews findet. So besteht eben auch ein Bewusstsein darüber, dass einige Fragen nicht einfach – oder in manchen Fällen überhaupt – konklusiv zu beantworten sind. Fragen ethischer und/oder philosophischer Natur leben durch und in der Debatte und können selten mit irgendeinem Maß an Endgültigkeit beantwortet werden. Hier spielt auch die sogenannte „kalifornische Ideologie“ (manchmal auch „Silicon Valley-Ideologie“) hinein, welche bestimmte Erwartungen und Hoffnungen in diesem Zusammenhang kultiviert und proklamiert; zudem ist schließlich auch ein monetäres Interesse mit dem Bewerben neuer Technologien verbunden. So zumindest einige Gedanken zum Status, sowie zur Dynamik der Debatte – diese wird dadurch natürlich nicht minder interessant. Man kann auch den Meta-Aspekt der Debatte einbeziehen – was denkt ihr dazu? Lasst uns gerne dazu diskutieren!

Dennis Eller

Die Quelle des obig erzeugten Bildes findet sich hier.

Wenn jede*r an sich selbst denkt, ist doch an alle gedacht, oder? 

Schreibe eine Antwort

Eine Rezension zu Pursers Buch McMindfulness: How Mindfulness Became the New Capitalist Spirituality

Die von Ronald Purser in seinem Buch McMindfulness — auf deutsch Wie Achtsamkeit die neue Spiritualität des Kapitalismus wurde — verfasste Kritik an unserem zeitgenössischen Fokus auf Achtsamkeit hat nicht nur einen scharf-witzigen Titel mit spannendem Cover: es analysiert präzise die Ursprünge und Verbreitung, die vermittelten Praktiken sowie die gesellschaftlichen Folgen dieser neuen Form von Spiritualität. 

Bevor wir uns den Inhalten des Buches selbst zuwenden, müssen wir uns der offensichtlichen Frage im Raum widmen: Wieso wird Achtsamkeit in einem Blog über Ethical Machines diskutiert? Technik ist nicht nur auf mechanische oder digitale Artefakte beschränkt, nicht nur auf Werkzeuge und Maschinen, die wir verwenden, sondern umfasst sehr viel mehr als das. Das leuchtet uns direkt ein wenn wir unseren alltäglichen Sprachgebrauch betrachten: Wir reden von einer spezifischen Boulder- oder Tennis-Technik, von einer Technik des Backens oder Buchbindens oder einem technischen Wissen. [1] Und ebenso können wir von Achtsamkeitsübungen als eine Art Kulturtechnik sprechen, die etwas mit uns macht oder machen soll. Das achtsame Ein- und Ausatmen zum Beispiel soll uns dabei helfen konzentrierter und weniger gestresst, im Hier und Jetzt zu sein. Diese Übungen können also als Mittel betrachtet werden etwas bestimmtes zu bewirken: als eine Technik des Selbst.

Eben diese gesellschaftlich weitverbreitete Selbsttechnik wird von Purser in seinem Werk kritisch beleuchtet. Er selbst ist ein Professor für Management und auch praktizierender Buddhist. Damit kennt er sich in den beiden scheinbar disparaten Themen aus, deren fragwürdiger Symbiose er in seiner vorgelegten Studie nachgeht. Seine Hauptthese des Buch bringt er im folgenden Zitat konkret auf den Punkt:

„Instead of encouraging radical action, it says the causes of suffering are disproportionately inside us, not in the political and economic frameworks that shape how we live.“ (S. 7)

Genau auf diesen Punkt kommt er immer wieder zurück und zeigt anschaulich, wie dies in immer mehr Bereichen der Gesellschaft Fuß fasst — nicht nur in der Arbeitswelt, sondern auch in der Erziehung und Bildung, bei den intellektuellen Eliten, im Militär, in der Politik und selbst in epistemologischen Aspekten des Lebens, indem koloniales, sexistisches und rassistisches Denken durch diese Praktiken verfestigt wird. [3] Es ist nicht verwunderlich dass diese Praktiken insbesondere von und für Personen im Management angeboten und beworben werden und sogar beim World Economics Forum in Davos diskutiert und praktiziert wurden. Der Fokus auf Achtsamkeit hat es  geschafft prekäre Lebenssituationen und den durchgehenden Leistungsdruck, wie sie in unserer spät-kapitalistischen Lebenswelt zum Alltag geworden sind, auf die Individuen abzuwälzen, obwohl sie struktureller Natur sind: „Stress has been pathologized and privatized and the burden of managing it outsourced to individuals.“ (S. 8f) 

Neben diesem strukturellen Problem beschäftigt den praktizierenden Buddhisten vor allem dass die medizinisch begründete Mindfulness-Based Stress Reduction (MBSR) sich selbst als von buddhistischen Praktiken inspiriert, aber ohne religiösen Einfluss geprägt versteht — wobei sich bei dieser Sicht nicht die gesamte Achtsamkeits-Elite einig zu sein scheint. Um von staatlichen Krankenversicherungen finanziert zu werden, müssen sie gegen einen religiösen Einfluss ihrer Praktiken argumentieren; um es in der Masse zu bewerben, propagieren sie jedoch gerne ihren Bezug zum Buddhismus. Purser arbeitet in seinem Werk auf spannende Weise heraus, wie diese Selbstwidersprüchlichkeit vor sich geht. Stark kritisiert er nicht nur diese unklare Haltung, sondern auch dass dieses Vorgehen die öffentliche Meinung und Wissen über den Buddhismus verklärt. Denn da MBSR ideologische Ansprüche ablehnt und sich rein auf Techniken des Selbst konzentriert, seien diese im buddhistischen Glauben nicht von ihren ethischen Ansprüchen zu trennen. Dieser Aspekt würde nämlich ebenjenes Argument gegen die Privatisierung und Pathologisierung von Stress entkräften, da in buddhistischen Praktiken ein starker Fokus auf ethisch-soziale Ebenen des Lebens gelegt wird und auch eine Verbesserung dieser Umstände fordert — doch das wäre eine Argumentationslinie, die nicht aus westlichen Steuergeldern finanziert werden würde.

Stattdessen begründen MBSR-VertreterInnen sich selbst und ihre Wirksamkeit durch eine (pseudo)wissenschaftliche Technik, die auf uns up-to-date und unfehlbar wirken: sie zeigen uns shiny Bilder von Hirn-Scans während und nach Achtsamkeitsübungen. Sobald wir diese high-tech generierten Aufnahmen sehen, hinterfragen wir nicht die Wissenschaftlichkeit dieser Forschungen. Purser hat auch die immer umfangreicher werdende Forschung rund um Achtsamkeit untersucht und festgestellt, dass viele der in hohen Tönen gelobten Studien nachweislich erhebliche Mängel aufweisen. Eine deutsche Studie aus Freiburg hat sogar herausgefunden, dass „binge-drinkers scored significantly higher on mindfulness than experienced mediators (normal college students were in the middle)“ — natürlich muss das eine Studie aus Deutschland untersucht haben. (Ch. 7) 

Sein zentraler Kritikpunkt ist und bleibt die Verschmelzung der Achtsamkeits-Szene mit der ausbeuterischen Wirtschaft, aber auch dass sie selbst zu einer Industrie geworden ist. Ebendiesen Prozess bezeichnet er, in Anlehnung an Ritzers Begriff der McDonaldization, welcher beschreibt wie alltägliche Erfahrungen nur noch durch standardisierte, verwertbare Prozesse der Industrie erlebt werden, als McMindfulness. Hierbei denkt er an Apps wie Headspace: eine Meditations-App, die durch ihre dutzenden Benachrichtigungen, die uns daran erinnern sollen zu meditieren, mehr Stress auslösen als die fünf Minuten Meditation wieder gutmachen könnten, zu denen sie uns bewegen möchte. Dieser Effekt ist zutiefst irrational, da die reine Marktlogik das Produkt in ihren Widerspruch verkommen lässt. (Vgl. S. 166) Ähnlich wie bei McDonalds: ein Restaurant das nicht wirklich satt macht, sondern stets zu mehr Konsum verführt.

Alles in allem ist die „Achtsamkeits-Revolution“ jedoch nur ein kleiner Teil der derzeitigen gesellschaftlichen Veränderungen, die wir im neoliberalen Kapitalismus erleben: „The mindfulness movement is an example of an ideological shift, in which an obsessive focus on wellness and happiness becomes a moral imperative.“ (S. 77) Wohlergehen und Glück das wir nur durch einer permanenten Selbstoptimierung erreichen können — eine sehr stressvolle Aufgabe! Deswegen betreibt besser jede*r für sich Mindfulness, denn: Wenn jede*r an sich denkt, ist an alle gedacht, oder?

Unterm Strich finde ich das Buch sehr empfehlenswert für all diejenigen, die sich auch schon gefragt haben: Wieso sind so viele Menschen in einem Modus der Selbstoptimierung? Was macht dieser Fokus auf uns selbst mit uns als Gesellschaft? Und wieso spielt er dem Kapital in die Hände? Und vor allem: Wie können wir die Vorteile von Achtsamkeits-Praktiken nutzen ohne dieser Stützung dieses Stress verursachenden Systems in die Hände zu spielen?

Ich habe eine Ausgabe für die Universitätsbibliothek bestellt, welche in den nächsten Tagen ankommen sollte. Also: viel Spaß beim Lesen!

Sven Thomas

[1]  Vgl. Hubig: Technik als Medium. In: Handbuch Technikethik.

[2]  Hier kommt einem fast auf natürliche Weise Foucaults „Technologien des Selbst“ in den Kopf. Deswegen ist es auch nicht verwunderlich, dass Purser gegen Ende seiner Analyse auch auf ihn zu sprechen kommt.

[3] Die Aufforderung „Just Breathe“ als Lösung aller Probleme scheint besonders makaber wenn man an einen Satz denkt, der nach 2014 und 2020 um die Welt ging: „I can´t breathe!“