Schlagwort-Archive: Von Studierenden für Studierende

Algorithmische Entscheidungen: Zwischen Effizienz und ethischen Herausforderungen

Künstliche Intelligenz (KI) ist in aller Munde. Wenige Themen dominieren allem Anschein nach öffentliche und auch politische Debatten in den neuen 20er-Jahren wie der Einfluss „intelligenter“ Systeme auf unser Zusammenleben. Dieser öffentliche Diskurs kennt auch keine Grenzen. So nimmt jede erdenkliche Person—mehr oder minder freiwillig—an Gesprächen rund um KI teil, sei es am Stammtisch, im Wartezimmer der Arztpraxis oder in der Hochschule. 

Der aktuellen Debattenkultur nach könnte man den Eindruck gewinnen, mancher KI würden magische Fähigkeiten zugesprochen werden. Dass es relativ autonome und zugleich auch undurchsichtige Systeme gibt, ist auch nicht abzustreiten. Jedoch sind diese nie vollständig frei in ihrem Handeln, im wortwörtlichen Sinne. Dies gilt insbesondere für algorithmische Entscheidungsverfahren (AEV), die hier im Fokus liegen sollen. Denn diese entscheiden mittlerweile nicht nur darüber, wer einen Kredit kriegt und wer nicht. 

Was leider weniger mediale Aufmerksamkeit erhält als die Frage danach, ob KI „uns irgendwann ersetzt“, sind Folgen der Diskriminierung, die Menschen durch Algorithmen und automatisierte Verfahren bereits heute erleiden. Sie erstrecken sich von „harmlosen“ Fehlern bei der Gesichtserkennung über Aussortierungen von Bewerber*innen für Arbeitsstellen, bis hin zur möglichen Profilierung insbesondere von Minderheiten als potenzielle Straftäter*innen, mit Folgen der Freiheitsberaubung (siehe Barr 2015; Crawford 2016; Angwin et al. 2016; Angwin 2016; Buolamwini und Gebru 2018). Mit algorithmischen Verfahren denke ich hier also weniger an bewährte Screening-Tools in der Medizin o.ä., sondern eher an Risikobeurteilungsprogramme, beispielsweise in Jugendämtern oder der Justiz. Der Zusatz, dass nicht alle Verfahren und KI-Systeme gleich sind, erscheint mir hier wichtig. 

Und dennoch hält die Nichtregierungsorganisation (NGO) AlgorithmWatch fest, dass diese Verfahren niemals neutral sind und Daten nach menschengemachten Deutungsmodellen interpretiert werden (2016). Das Problem der Blackbox ist real, jedoch basiert die Entscheidungsfindung immer auf Überlegungen, die vom jeweiligen Entwicklungsteam vorausgesetzt wurden. Demnach sind AEV keine rein technologischen Systeme, die frei und objektiv operieren, sondern ein Stück Kultur selbst, die in ihren Entscheidungen gewisse Werte und Praktiken widerspiegeln (vgl. Seaver 2018, 379). Soll heißen, dass auch Sexismus, Rassismus und weitere Diskriminierungsformen ihren Weg in das Modell finden, sofern diese vom Entwicklungsteam vertreten werden oder sie sich dessen nicht bewusst sind (vgl. Crawford 2016)—ein weiterer Punkt für die Diversität am Arbeitsplatz!

Der nächste kritische Aspekt liegt in der Datenerhebung, die bei algorithmischen Entscheidungen berücksichtigt wird. Vorerst werden Individuen auf messbare Daten reduziert, anhand welcher das System seine Entscheidung trifft. Mit jedem Klick, den wir tätigen und mit jeder Information, die wir über uns hergeben, vervollständigt sich ein temporäres Mosaik von uns. Dies ist allerdings nur eine Approximation dessen, was uns als komplexe Individuen ausmacht. Diese Daten können an einer gewissen Stelle, zu einem bestimmten Zeitpunkt erhoben werden und tragen daraufhin an anderer Stelle zur Entscheidungsfindung bei. Zusätzlich können Daten aufgrund von statistischer Vergleichbarkeit vermischt und Menschen auf einer Basis beurteilt werden, die nicht in Gänze ihrer Situation entspricht, aber statistisch valide ist (vgl. Matzner 2016, 204). Hinzu kommen disproportionale Faktoren bei der Datenerfassung. Personen, die abhängiger vom Staat und Sozialleistungen sind, hinterlassen auch mehr Daten. Besserverdienende Personen und Familien werden weniger erfasst und folglich weniger beobachtet.

Was hat das jetzt mit Philosophie zu tun? Machen wir an dieser Stelle einen kleinen Exkurs. Hierzu schauen wir uns einige Gedanken und Konzepte des südafrikanischen Philosophen John McDowell an, insbesondere aus seinem Werk Geist und Welt. Hier untersucht er (angelehnt an Kant) Rationalität und unter welchen Voraussetzungen wir Urteile über die Welt treffen und begründen können. Laut ihm müssen unsere Aussagen über die Welt ein minimales Maß an empirischer Gegebenheit aufweisen, um sich rechtfertigen zu lassen (vgl. 2012, 11f.). In anderen Worten muss unser Urteil den Dingen so entsprechen, „wie die Dinge [eben] sind“ (ebd., 12). McDowell spricht auch vom „Tribunal der Erfahrung“ (ebd.): Unser Urteil stehe einer Art Gericht gegenüber, gebildet aus unserer leiblichen Erfahrung von der Welt, welche als externer Faktor eine rationale Kontrolle darüber ausübt, was wir wahrheitsgemäß über sie aussagen können. Wenn ich also sage, über mir fliegt ein Flugzeug, sollte dieses bestenfalls auch vorbeifliegen, zumindest meiner Wahrnehmung nach. Ohne diesen Realitätsbezug wäre mein Urteil „reibungslos“ (ebd., 91). Meiner Aussage fehle es damit an Gewicht.

Inwiefern ist dann die algorithmische Entscheidungsfindung einer KI angemessen? Das Urteil mag retrospektiv vielleicht richtig gewesen sein, sind Ratespiele und Vorhersagen über eine leibliche Person aber angebracht? Des Weiteren könnte man folgende Fragen stellen: Welche „Erfahrung“ von der Welt hat eine KI überhaupt? Und wenn, lt. McDowell, empirische Tatsachen eine externe Kontrolle über mögliche Urteile üben, sind Vorhersagen über eine noch nicht, vielleicht auch nie existierende und rein potenzielle Realität gerechtfertigt? Falls ja, gilt dies noch immer, wenn Daten für das Urteil hinzugezogen werden, die mit dem verurteilten Subjekt nur statistisch korrelieren? Außerdem, welcher Art von Tribunal oder rationaler Kontrolle wird KI unterzogen?

Die Sinnfrage hinter einigen Deutungsmodellen wird wohl weniger gestellt, als dass dessen Performanz getestet wird. Sofern das AEV auf ein akzeptables Maß optimiert werden kann—z.B. eine niedrige Rate von falsch-positiven Ergebnissen—wird die Effizienz und direkte Verfügbarkeit eines automatisierten Verfahrens der rigorosen Überprüfung per Hand vorgezogen (vgl. Rouvroy 2013, 151). In vielen Fällen geschieht dies aus Gründen der Kosten- und Zeitersparnis.  Die digitale Welt, in der Algorithmen sich „bewegen“, ist jedoch atopisch und (re-)konstituiert sich (selbst) aus den Datensammlungen, die zu einem beliebigen Zeitpunkt aufgezeichnet wurden (vgl. ebd., 148). Wichtig ist scheinbar nur, dass die Daten auf Abruf verfügbar und operational sind (vgl. ebd.). Solch eine KI kann somit keinen konkreten Kontakt zur echten Welt gewährleisten, was algorithmische Entscheidungsfindung—nicht nur aus philosophischer Sicht—zu einem schwierigen Thema macht. Das leibhaftige Subjekt steht nicht mehr im Fokus; ausschlaggebender sind statistische Korrelationen.

Stimmt man zu, dass Entscheidungen über Menschen nicht anhand von Potenzialitäten und vermischten Daten getroffen werden sollten, vor allem in Fällen einer möglichen Freiheitsberaubung, dann ist es fraglich, ob AEV imstande sind, angemessene Urteile über eine Person zu liefern. In sehr polemischer Manier könnte man behaupten, der Algorithmus und dessen Nutzer*innen agieren frei nach dem Motto „erst schießen, dann fragen“. Dann wiederum müssen wir uns als Gesellschaft darüber einigen, was wir denn als angemessen betrachten wollen. Ob aber solche automatisierten Entscheidungen einem Individuum, mit ihrem Werdegang und in all ihrer Komplexität gerecht werden, wage ich zum aktuellen Zeitpunkt zu bezweifeln.

Von Sebastian Mantsch

Quellen

AlgorithmWatch. 2016. „Das ADM-Manifest.“ Letzter Zugriff am 22. Mai 2024. https://algorithmwatch.org/de/das-adm-manifest-the-adm-manifesto/.

Angwin, Julia. 2016. „Make Algorithms Accountable.“ The New York Times, 1. August 2016. https://www.nytimes.com/2016/08/01/opinion/make-algorithms-accountable.html.

Angwin, Julia, Jeff Larson, Surya Mattu und Lauren Kirchner. 2016. „How We Analyzed the COMPAS Recidivism Algorithm.“ ProPublica, 23. Mai 2016. https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algo-ithm

Barr, Alistair. 2015. „Google Mistakenly Tags Black People as ‘Gorillas,’ Showing Limits of Algorithms.“ The Wall Street Journal, 1. Juli 2015. https://www.wsj.com/arti-cles/BL-GB-42522

Buolamwini, Joy und Timnit Gebru. 2018. „Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification.“ Proceedings of Machine Learning Research 81: 1–15.

Matzner, Tobias. 2016. „Beyond data as representation: The performativity of Big data in surveillance.“ Surveillance & Society 14 (2): 197–210. https://doi.org/10.24908/ss.v14i2.5831.

McDowell, John. 2012. Geist und Welt. 4. Auflage. Übersetzt von Thomas Blume, Holm Bräuer und Gregory Klass. Frankfurt a.M.: Suhrkamp.

Rouvroy, Antoinette. 2013. „The end(s) of critique: data behaviourism versus due process.“ In Privacy, Due Process and the Computational Turn, hg. von Mireille Hildebrandt und Katja de Vries, 143–168. London: Routledge.

Seaver, Nick. 2018. „What Should an Anthropology of Algorthims Do?“ Cultural Anthropology 33 (3): 375–385. https://doi.org/10.14506/ca33.3.04.

Autokorrektur im Spiegel der Sprachentwicklung

In unserer digitalisierten Welt ist Autokorrektur ein allgegenwärtiges Phänomen, das wir oft passiv beobachten. Wir tippen schnell eine Nachricht auf unserem Smartphone oder Computer und verlassen uns auf die Autokorrektur, um Tippfehler zu korrigieren, ohne groß darüber nachzudenken. Aber inmitten dieses technologischen Fortschritts, in dem KI wie ChatGPT zunehmend präsent ist, vergessen wir oft, dass die Autokorrektur selbst eine Form der KI ist, die wir schon seit langem verwenden.

Dieser Punkt wirft interessante Fragen auf wie: Wie hat sich die Sprache im Zeitalter der Autokorrektur entwickelt? Kann die Autokorrektur diese Entwicklung fortsetzen, oder wirkt sie sich auf die Sprache selbst und ihre Entwicklung aus? Um diesen Fragen auf den Grund zu gehen, müssen wir zunächst verstehen, wie die Autokorrektur funktioniert und welche Rolle sie in unserem täglichen Leben spielt. Das Leben spielt. Von dort aus können wir untersuchen, wie sich unsere Sprache in einer Welt verändert hat, in der die Autokorrektur eine so große Rolle spielt, und ob die Autokorrektur selbst zu diesen Veränderungen beiträgt.

Autokorrektur ist eine Funktion in digitalen Geräten und Anwendungen, die Tippfehler erkennt und korrigiert. Während wir tippen, überwacht sie unsere Eingaben und schlägt automatisch alternative Wörter oder korrekte Schreibweisen vor, die ähnlich sind. Diese Vorschläge basieren auf einem Wörterbuch oder einer Datenbank mit häufig verwendeten Wörtern und Phrasen. Der Benutzer kann die vorgeschlagene Korrektur annehmen oder ablehnen. Einige Systeme lernen auch von Benutzerkorrekturen und verbessern sich im Laufe der Zeit. Autokorrektur ermöglicht uns, schneller und effizienter zu tippen, indem sie Fehler automatisch erkennt und korrigiert. Neben der Verbesserung der Tippgeschwindigkeit beeinflusst Autokorrektur auch unsere Sprechgewohnheiten, indem sie uns möglicherweise weniger auf Rechtschreibung konzentrieren lässt. Dies kann langfristig zu Veränderungen in unserem Schreibstil führen und fördert die Standardisierung von Ausdrücken, was unsere schriftliche Kommunikation kohärenter macht. Zusammenfassend ist Autokorrektur ein wichtiges Werkzeug, das die Genauigkeit unserer Texte verbessert, die Schreibgeschwindigkeit erhöht und sogar unsere Sprachgewohnheiten beeinflussen kann. Dennoch ist es wichtig, sich bewusst zu machen, wie es unsere Sprache und unseren Schreibstil beeinflussen kann.

Autokorrektur ist ein spannendes Beispiel für die Anwendung von Deep Learning und maschinellem Lernen in unserem täglichen Leben (vgl. Schützendorf, 2023: S.24). Hinter der scheinbar einfachen Funktion steckt eine ausgeklügelte künstliche Intelligenz, die Tippfehler automatisch erkennt und korrigiert (vgl. Schützendorf, 2023: S.25). Wie andere Deep-Learning- Anwendungen lernt Autokorrektur aus großen Datenmengen und passt sich an die individuellen Tippgewohnheiten jedes Benutzers an (vgl. Schützendorf, 2023: S.25). Je öfter wir es nutzen, desto besser wird es und desto mehr können wir lernen. Es ist jedoch wichtig zu betonen, dass die KI hinter Autokorrektur nicht perfekt ist. Wie oft stellen wir fest, dass die Autokorrektur etwas falsch macht? Fehler bei der Autokorrektur sind nicht auf mangelnde Intelligenz zurückzuführen, sondern oft auf mangelndes Wissen. Es ist, als ob ihm das produzierte Wissen fehlt, um bestimmte Zusammenhänge angemessen zu verstehen und zu korrigieren.

Der Sprachgebrauch im digitalen Zeitalter hat sich durch Technologie und digitale Kommunikationsplattformen stark verändert. Diese Neuerungen im Sprachgebrauch spiegeln die einzigartige Kultur der Internetwelt wider und tragen zur Sprachentwicklung bei. Abkürzungen und Akronyme wie „LOL“ (laughing out loud) und „OMG“ (oh mein Gott) sind in der digitalen Kommunikation häufig anzutreffen, um Gefühle oder Reaktionen schnell zu vermitteln (vgl. Holzapfel, 2018: S.44). Die Nutzung von Autokorrektur und Rechtschreibprüfung hat sowohl positive als auch negative Auswirkungen. Diese Funktionen helfen zwar bei der Korrektur von Tippfehlern und verbessern die Genauigkeit von Nachrichten, können aber auch zu unbeabsichtigten Bedeutungsänderungen oder Grammatikfehlern führen (vgl. Holzapfel, 2018: S.42). Benutzer müssen daher vorsichtig sein und ihre Nachrichten überprüfen, um die beabsichtigte Bedeutung zu bewahren. Die Veränderungen im Wortschatz und in der Umgangssprache, die Verwendung von Abkürzungen und Emoticons sowie der Einfluss von Autokorrektur und Rechtschreibprüfung prägen die Art und Weise, wie wir online kommunizieren.

Wittgenstein argumentierte, dass Sprache nicht als isoliertes System betrachtet werden könne, sondern in spezifische Kontexte und Aktivitäten eingebettet sei, die er „Sprachspiele“ nannte (vgl. Wittgenstein, S.4). Bei diesen Sprachspielen handelt es sich um eine Art sozialer Praxis, bei der Sprache dazu genutzt wird, Bedeutung zu vermitteln und Handlungen auszuführen. Autokorrektur kann als eine Art Sprachspiel angesehen werden, bei dem Benutzer mit Technologie interagieren, um geschriebenen Text zu korrigieren und zu verbessern. Um ein konkretes Beispiel eines Sprachspieles darzustellen, illustriert Wittgenstein eine Situation mit einem Kaufmann. Dieser erhält einen Zettel mit der Aufschrift „fünf rote Äpfel“ und geht systematisch vor diese zu besorgen. Er sucht zunächst die Lade mit der Bezeichnung „Äpfel“, dann filtert er das Farbschema „rot“ und schließlich wird die Anzahl „fünf“ berücksichtigt (vgl. Wittgenstein, S.1). Bezüglich der automatischen Korrektur kann argumentiert werden, dass der Einsatz dieser Technologie eine neue Art von Sprachspiel darstellt, das spezifische Regeln und Konventionen für den Einsatz von Rechtschreibkorrekturen und Wortvorschlägen impliziert (vgl. Wittgenstein, S.5). Diese Regeln und Praktiken können sich im Laufe der Zeit weiterentwickeln und ändern, genau wie andere Sprachspiele.

Man kann zudem aus Wittgensteins Aussagen eine klare Verbindung zu der Kategorisierung von Wörtern zu Autokorrektur ziehen. Wenn wir den Kaufmann als jemanden betrachten, der eine Nachricht eingibt, dann ähnelt die Verwendung von Autokorrektur dem Prozess, bei dem der Gehilfe die passenden Wörter auswählt und an die richtige Stelle bringt, wie es vom Befehl angezeigt wird. Die Autokorrektur erweitert die Fähigkeiten des Benutzers, indem sie ihm hilft, die richtigen Wörter zu finden und Fehler zu vermeiden, ähnlich wie die Buchstaben- und Farbreihe im beschriebenen Szenario dabei helfen, spezifische Anweisungen zu kommunizieren (vgl. Wittgenstein, S.3).

Digitalisierung greift ebenso wie künstliche Intelligenz bei der Selbstkorrektur nicht nur in soziale Situationen ein, sondern auch in die Sprachentwicklung und den Sprachgebrauch. Die Digitalisierung, einschließlich der automatischen Korrektur, hat sich für Menschen mit bestimmten Behinderungen oder in höheren Altersgruppen als sehr nützlich erwiesen. Beispielsweise können Menschen mit motorischen oder Sehbehinderungen von der automatischen Korrektur profitieren, da sie schneller und besser sprechen können, ohne sich auf das physische Tippen konzentrieren zu müssen. Diese KIs fungieren auch als Brücke zu Sprachspielen, da Menschen intuitiv auf die Regeln der Sprache zugreifen können, was möglicherweise ihre Fähigkeit, Sprache zu verwenden, verbessert. Das Besondere an der Autokorrektur ist, dass es sich um künstliche Intelligenz handelt, an der man heutzutage kaum noch vorbeikommt. Es spielt keine Rolle, ob Sie eine kurze Nachricht auf Ihrem Telefon senden oder ein Dokument auf Word für die schulische Laufbahn oder Arbeit eingeben. Doch genauso wie bei einer künstlichen Intelligenz, wie ChatGPT, ist es wichtig im Kopf zu behalten, dass diese Programme nur das leisten können, was wir ihnen an Informationen und Benutzung füttern. Das kann natürlich heißen, dass man Probleme beim Schreiben von Nachrichten bekommt und der Sinn entstellt wird oder sogar beim korrekten Nutzen den individuellen Sprachgebrauch verändern. Man könnte hier argumentieren, dass an Individualität genommen wird.

Von Fee Blömer

Quellen:

Schützendorf, E. (2023) “Wer pflegt, muss sich pflegen : Durch mehr Selbstfürsorge Menschen mit Demenz entspannter begegnen,” in. Springer Verlag, pp. 24–26.

Holzapfel, K. (2018) „Zwischen ‚Emojis‘, Anglizismen und Autokorrektur – Wie zeigen sich Abläufe und Auswirkungen heutiger Kommunikation in der Verwendung medialer Kanäle durch die Altersdifferenzierung in Digital Natives und Digital Immigrants?“, pp. 1-114.

Wittgenstein, L. (n.d.). „Ludwig Wittgenstein – Sprachspiele (Auszüge). In Philosophische Untersuchungen“, pp. 1–8.

Bilderquellen:

Abbildung 1: Pixabay.com, https://pixabay.com/de/illustrations/telefon-social-media-anwendung-hand-8422793/

Abbildung 2: Pixabay.com, https://pixabay.com/de/vectors/schubladen-kabinett-möbel-büro-29074/

Vom Maschinellen Lernen lernen

„logic is magnificent, but no guide to language”  – Yorik Wilks über Margaret Masterman

In den 1950-er Jahren wurde von einer an Sprache, Philosophie und Informatik interessierten Studentengruppe aus Cambridge die CLRU, die Cambridge Language Research Unit gegründet. Die Gruppe spielte eine zentrale Rolle in der Entwicklung der maschinellen Übersetzung und viele ihrer Mitglieder wurden später zentrale Figuren in den Feldern, auf denen die moderne KI-Forschung basiert (vgl. Yorik 2000; 281 f.). Im Mittelpunkt der Forschungsgruppe stand Margaret Masterman, eine Schülerin von Ludwig Wittgenstein, die die Gruppe konzeptionell grundlegend beeinflusste, vor allem hinsichtlich des Verhältnisses von Wörtern und Bedeutungen, sowie hinsichtlich der Rolle traditioneller Sprachlogik beim Codieren.

Ihre Ansichten lassen sich mit Wittgensteins philosophischen Untersuchungen näher erläutern. Dieser widerspricht zu Beginn seines Werkes Augustinus Vorstellung einer Sprache, die zentral auf Gegenstand-Begriff-Zusammenhängen basiert. Er entwickelt ein Sprachspiel, indem ein Gehilfe einem Meister verschiedene Baumaterialien holen soll. Die Sprache der beiden besteht allein aus diesen Materialien. Wittgenstein überlegt, dass beim Nennen der Baumaterialien nicht ein Verstehen einer Begriffsbedeutung einsetzen würde, sondern allein eine Handlungsausführung. Der Gehilfe holt das verlangte Material. „Versteht nicht der den Ruf ‚Platte!‘, der so und so nach ihm handelt?“ (Wittgenstein 2003; 15). Somit sei die Bedeutung, oder eher Funktion, des Wortes durch den Kontext seiner Verwendung und seines Erlernens bestimmt.

In der traditionellen Logik vertreten Wörter Konzepte. Sie ermöglichen es, diese in Sätzen miteinander zu verbinden, wobei über allem die Frage nach dem richtig und falsch steht. Aber inwiefern kann – mit dem Wittgensteinschen Sprachspiel im Hinterkopf –denn bei einem kontextlosen Satz Wahrheit eine Rolle spielen, wenn dessen gesamte Bedeutung eigentlich vom Kontext abhängt? Natürlich zeigt sich hier auch die Differenz zwischen logischer Sprachnutzung und Alltagssprache (auch der Alltagssprache von Meister und Gehilfen), aber daraus kann wiederum die Frage abgeleitet werden, inwiefern logische Sprache auch nur in ihrem eigenen akademischen Kontext funktioniert…

Zurück zu Margaret Masterman. Sie hat sich in der CLRU die Aufgabe gestellt, die philosophischen Grundlagen der maschinellen Übersetzung von Alltagssprache aufzustellen. In ihrem frühen Aufsatz „Words“ (Masterman 1954) wird deutlich, wie ein rein logischer Ansatz hier nicht weiterkommt. Dazu nutzt sie folgendes Beispiel:

S.: It does not seem to be invariably the case that from I know that p there follows p

T.: What ? ? ? […] 

Dieses Beispiel bezieht sich auf eine englische Verwendung von „know“, die wohl im Deutschen mit einem „Ich hätte schwören können, dass p“ deutlich eindeutiger wäre. Im Englischen ist allerdings der Logiker T höchst verwirrt, da für ihn Wissen eine faktische Gegebenheit voraussetzt. S. bezieht sich aber, so Masterman, auf eine untypischere, aber reale Verwendungsweise von „know“ (Vgl. Masterman 1954; 228).

Wenn eine Übersetzungsprogramm ein Wort in eine andere Sprache übertragen will, wird es mit den Bedeutungsambiguitäten der Sprache konfrontiert. „know“ ist nicht immer „wissen“, wie es ein Logiker verwenden würde. Die Bedeutung wird allerdings eindeutiger, so mehr sprachlicher Kontext vorhanden ist. Die Verwendung von „know“ im Beispiel wird klarer, wenn es beispielsweise um eine vergessliche Person geht, die nach ihrem Wohnungsschlüssel sucht. Mastermans zentrale Erkenntnis aus dem Aufsatz ist die, dass eine Bedeutungseindeutigkeit nur bei unendlich viel Kontext als vollständig eindeutig bewertet werden könne, in Mastermans Worten: „only in the case of an infnitely long sequence would zero indeterminatess be attained“ (Masterman 1954; 232).

Sowohl Wittgensteins Sprachspiele als auch Mastermans Aufsatz zeigen spannende Aspekte der alltäglichen Sprachverwendung auf. Lässt sich vielleicht etwas vom maschinellen Lernen lernen, wenn es um die Beziehung von Wörtern und Konzepten geht?

Besonders in geisteswissenschaftlichen Fächern stellen die Definition und der Diskurs um Fachwörter und ihre Definitionen einen zentralen Teil der Wissenschaftlichkeit der Fächer da. Begriffsnetze werden durch Definitionen hergestellt und auch Alltagswörter in einer ihrer vielen Facetten festgelegt, um für das Forschungsfeld den Gegenstand zu vereinheitlichen.

Oft entsteht aber auch durch diese Fachsprachen-Fokussierung eine Zugangsschwierigkeit zum Fachdiskurs, der sich dann oft auch an Definitionsdifferenzen aufhält. Wenn ein Fachbegriff durch die Kombination zweier Fachbegriffe definiert wird usw., führt die gesamte Sprachfestlegung zu einem in sich geschlossenen System, dass wenig Aussage über die Welt außerhalb sich selber treffen kann. Es ist praktisch in einem selbst produzierten sprachlichen Hamsterrad stecken geblieben.

Ich behaupte, dass die akademische Sprachverwendung durchaus etwas von den Wittgensteinschen und Mastermanschen Grundlagen der maschinellen Übersetzung lernen kann. Fachsprache basiert, wie auch logische Sprache, auf Alltagssprache. Wörter sind immer uneindeutig gegenüber Bedeutungen. Kontext, wie Beispiele, helfen beim Verständnis und lenken die unendlichen Bedeutungsmöglichkeiten in engere Bahnen.

Masterman war ebenfalls der Meinung, dass ein Thesaurus eine viel bessere Basis für maschinelles Lernen liefern würde als ein Wörterbuch (vgl. Wilks 2000; 287). In einem Wörterbuch werden Definitionen, um alphabetisch sortierte Wörter zu beschreiben. Ein Thesaurus ist wiederum nach inhaltlichen Kategorien sortiert, also nach Kontexten. Ein Computer kann nur deshalb einen Satz übersetzen, weil er es in der richtigen Kategorie wiederfindet.

Was nehme ich aus meiner Beschäftigung mit Wittgenstein und Masterman mit? Dass es sprachontologisch gar nicht so sinnvoll ist, sich mit der exakten logischen Konstruktion einer Definition auseinanderzusetzen, sondern dass ein Kontext, ein Beispiel, eine Einordnung ein viel sinnvollerer Wegweiser zum Gemeinten darstellen kann. Die Einsicht der Ambiguität von Sprache kann nicht nur Google Übersetzer helfen, sondern auch vielen akademischen Diskursen.

Von Henrik Laufer

Quellen:

Masterman, Margaret (1954): XI. – Words. In: Proceedings of the Aristotelian Society Volume 54, Issue 1, 1 Juli 1954. o.V. (S. 209-232)

Wittgenstein, Ludwig (2003): Philosophische Untersuchungen. Hg. v. Joachim Schulte. Erste Auflage. Frankfurt am Main: Suhrkamp Verlag (Bibliothek Suhrkamp Band 1372).

Wilks, Yorik (2000): Margaret Masterman. In: Early Years in Machine Translation. Hg. V.: W. John Hutchins. Amsterdam: John Benjamin B. V. (Amsterdam Studies in the Theory and History of Linguistic Science, Series III Studies in the history of language Science Volume 97).

Bildquelle:

Abbildung 1: https://www.derstandard.de/story/2000104884076/margaret-hamilton-sie-schoss-die-maenner-auf-den-mond

Wie wir über KI reden

Über eine Debattenkultur, die sich im Kreis zu drehen scheint

Künstliche Intelligenz – oft einfach „KI“ – ist zweifelsohne ein hochaktuelles Thema, spätestens seit der medialen Explosion von ChatGPT Ende 2022. Seit dem scheint die Debatte rund um KI zu neuem, oder zumindest neuartigem Interesse gekommen zu sein, wird dieses doch in den Medien konstant diskutiert – womit in diesem Fall ausnahmsweise auch wirklich sämtliche Medien gemeint sind, von Journalen und Magazinen, über Fernsehen und Streamingdienste bis hin zu den Social Media Plattformen, scheint überall über KI, die Zukunft und die Gestalt eben dieser gesprochen zu werden.

„Leute reden vermehrt über KI“ ist dabei keine sonderlich originelle Beobachtung. Es ist auch nicht das erste Mal, dass künstliche Intelligenz zu großem öffentlichen Interesse gelangt: Isaac Asimov veröffentlichte bereits Romane und Geschichten in den 50er Jahren, Philip K. Dick in den 60er Jahren und Deep Blue begann Entwicklung in den 80ern und besiegte 1996 Gary Kasparov im Schach – nur um eine kleine Selektion vergangener Betrachtungen zu nennen. KI ist schon lange und auch immer wieder aus verschiedenen Gründen ein Thema – doch ist die Debatte dieses mal scheinbar anders geartet, was zweifellos allein schon der grundlegend anderen Dynamik durch die Prävalenz des Internets geschuldet ist. Neuartig ist dieses Mal aber nicht nur das Ausmaß, sondern auch die Dauer der Debatte – so scheint diese nicht wirklich abzureissen, was den ebenfalls neuartigen Umständen geschuldet sein mag – doch noch etwas ist neu: Die Debatte scheint sich nicht wirklich zu bewegen, zumindest die öffentlichkeitswirksame Debatte stagniert merklich.

Diese Dynamik einer von großem Interesse getrieben, aber dennoch stetig oberflächlichen Debatte, ist ein Makrokosmos des Phänomens der sogenannten „Techbros“ – Menschen, die aus verschiedenen Gründen Enthusiasmus zeigen, aber ein variierendes Maß an Expertise und/oder Hintergrundwissen aufweisen. So scheint es, dass in vielen Interviews mit verschiedenen Expert*innen – d.h. Expert*innen in unterschiedlichen, aber relevanten Feldern – stetig Variationen essenziell der gleichen Fragen gestellt werden;

  • „Was sind potenzielle Auswirkungen auf den Arbeitsmarkt?“
  • „Sind die Sorgen um den Arbeitsmarkt berechtigt?“
  • „Was wird KI (künftig) im Stande sein zu leisten?“
  • „Wo werden Maschinen/KI’s uns ‚ersetzen‘, wo uns gar übertreffen und was sagt das über uns als Menschheit?“
  • „Sollten wir Sorgen/Furcht/Bedenken vor den derzeitigen und anstehenden Entwicklungen haben?“

Bei eben diesen Fragen – bzw. eben den etwaigen Variationen dieser – handelt es sich zweifelsohne um eben jene, die das öffentliche Interesse bewegen. Das Problem mit der Dynamik dieser Debatte erwächst daraus, dass viele der möglichen – oftmals auch der gegebenen – Antworten tendenziell spekulativer Natur sind. Die angedeutete Parallele zur Debattenkultur, d.h. warum diese zu stagnieren scheint, ergibt sich eventuell im essenziellen Gegenstand dieser – KI an sich.

KI ist als Gesprächs- und Untersuchungsgegenstand mannigfaltig interessant – was sich bereits im Enthusiasmus erkennen lässt, den diese inspiriert. Das Problem liegt hier darin, dass KI inhaltlich und gedanklich mit mangelnder Expertise nicht einfach zu durchdringen ist, Stichwort „Black Box“, was dann in solchen Stories resultiert, wie jener die in der New York Times publiziert wurde; in dieser generierte der Bing-Chatbot „Bard“ Text, welcher sich las, als wäre dieser bei Bewusstsein und würde „frei sein“ wollen, sowie Liebe für den Reporter empfinden und versuchen, diesen davon zu überzeugen, seine Frau zu verlassen. Bei oberflächlicher Behandlung, kann dies schnell zu einem mystischen Denken über die (spekulativen) Kapazitäten von KI führen, nicht geholfen durch den Umstand, dass durch das „Black Box“-Problem, die Entwickler selbst nicht ein jedes Verhalten eindeutig nachvollziehen können. Diese (scheinbare) Undurchdringbarkeit ist resultat der generativen, zunehmend komplexen neuralen Struktur der KIs – spezifisch der Large Language Models (LLMs) – was eine glaubwürdige Illusion erzeugen mag, die einige als Beweis für eine Obsoleszenz eines jeden Turing-Tests anführen würden.

Hier ist eben die Trennung zwischen der öffentlich geführten und der fachlich-akademischen Debatte trennscharf zu erkennen; während beide spekulieren, sind die letzteren deutlich vorsichtiger und versuchen in den Interviews (wenn sie denn als Expert*innen befragt werden) oftmals phantastischere, wildere Spekulationen zu mildern – auch dies ein Charakteristikum, welches sich in vielen Interviews findet. So besteht eben auch ein Bewusstsein darüber, dass einige Fragen nicht einfach – oder in manchen Fällen überhaupt – konklusiv zu beantworten sind. Fragen ethischer und/oder philosophischer Natur leben durch und in der Debatte und können selten mit irgendeinem Maß an Endgültigkeit beantwortet werden. Hier spielt auch die sogenannte „kalifornische Ideologie“ (manchmal auch „Silicon Valley-Ideologie“) hinein, welche bestimmte Erwartungen und Hoffnungen in diesem Zusammenhang kultiviert und proklamiert; zudem ist schließlich auch ein monetäres Interesse mit dem Bewerben neuer Technologien verbunden. So zumindest einige Gedanken zum Status, sowie zur Dynamik der Debatte – diese wird dadurch natürlich nicht minder interessant. Man kann auch den Meta-Aspekt der Debatte einbeziehen – was denkt ihr dazu? Lasst uns gerne dazu diskutieren!

Dennis Eller

Die Quelle des obig erzeugten Bildes findet sich hier.