{"id":158,"date":"2024-09-19T11:03:44","date_gmt":"2024-09-19T09:03:44","guid":{"rendered":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/?p=158"},"modified":"2024-09-19T11:03:44","modified_gmt":"2024-09-19T09:03:44","slug":"algorithmische-entscheidungen-zwischen-effizienz-und-ethischen-herausforderungen","status":"publish","type":"post","link":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/2024\/09\/19\/algorithmische-entscheidungen-zwischen-effizienz-und-ethischen-herausforderungen\/","title":{"rendered":"Algorithmische Entscheidungen: Zwischen Effizienz und ethischen Herausforderungen"},"content":{"rendered":"<div class=\"twoclick_social_bookmarks_post_158 social_share_privacy clearfix 1.6.4 locale-de_DE sprite-de_DE\"><\/div><div class=\"twoclick-js\"><script type=\"text\/javascript\">\/* <![CDATA[ *\/\njQuery(document).ready(function($){if($('.twoclick_social_bookmarks_post_158')){$('.twoclick_social_bookmarks_post_158').socialSharePrivacy({\"txt_help\":\"Wenn Sie diese Felder durch einen Klick aktivieren, werden Informationen an Facebook, Twitter, Flattr, Xing, t3n, LinkedIn, Pinterest oder Google eventuell ins Ausland \\u00fcbertragen und unter Umst\\u00e4nden auch dort gespeichert. N\\u00e4heres erfahren Sie durch einen Klick auf das <em>i<\\\/em>.\",\"settings_perma\":\"Dauerhaft aktivieren und Daten\\u00fcber-tragung zustimmen:\",\"info_link\":\"http:\\\/\\\/www.heise.de\\\/ct\\\/artikel\\\/2-Klicks-fuer-mehr-Datenschutz-1333879.html\",\"uri\":\"https:\\\/\\\/blogs.uni-paderborn.de\\\/ethical-machines\\\/2024\\\/09\\\/19\\\/algorithmische-entscheidungen-zwischen-effizienz-und-ethischen-herausforderungen\\\/\",\"post_id\":158,\"post_title_referrer_track\":\"Algorithmische+Entscheidungen%3A+Zwischen+Effizienz+und+ethischen+Herausforderungen\",\"display_infobox\":\"on\"});}});\n\/* ]]> *\/<\/script><\/div>\n<p>K\u00fcnstliche Intelligenz (KI) ist in aller Munde. Wenige Themen dominieren allem Anschein nach \u00f6ffentliche und auch politische Debatten in den neuen 20er-Jahren wie der Einfluss \u201eintelligenter\u201c Systeme auf unser Zusammenleben. Dieser \u00f6ffentliche Diskurs kennt auch keine Grenzen. So nimmt jede erdenkliche Person\u2014mehr oder minder freiwillig\u2014an Gespr\u00e4chen rund um KI teil, sei es am Stammtisch, im Wartezimmer der Arztpraxis oder in der Hochschule.&nbsp;<\/p>\n\n\n\n<p>Der aktuellen Debattenkultur nach k\u00f6nnte man den Eindruck gewinnen, mancher KI w\u00fcrden magische F\u00e4higkeiten zugesprochen werden. Dass es relativ autonome und zugleich auch undurchsichtige Systeme gibt, ist auch nicht abzustreiten. Jedoch sind diese nie vollst\u00e4ndig <em>frei<\/em> in ihrem Handeln, im wortw\u00f6rtlichen Sinne. Dies gilt insbesondere f\u00fcr algorithmische Entscheidungsverfahren (AEV), die hier im Fokus liegen sollen. Denn diese entscheiden mittlerweile nicht nur dar\u00fcber, wer einen Kredit kriegt und wer nicht.&nbsp;<\/p>\n\n\n\n<p>Was leider weniger mediale Aufmerksamkeit erh\u00e4lt als die Frage danach, ob KI \u201euns irgendwann ersetzt\u201c, sind Folgen der Diskriminierung, die Menschen durch Algorithmen und automatisierte Verfahren bereits heute erleiden. Sie erstrecken sich von \u201eharmlosen\u201c Fehlern bei der Gesichtserkennung \u00fcber Aussortierungen von Bewerber*innen f\u00fcr Arbeitsstellen, bis hin zur m\u00f6glichen Profilierung insbesondere von Minderheiten als potenzielle Straft\u00e4ter*innen, mit Folgen der Freiheitsberaubung (siehe Barr 2015; Crawford 2016; Angwin et al. 2016; Angwin 2016; Buolamwini und Gebru 2018). Mit algorithmischen Verfahren denke ich hier also weniger an bew\u00e4hrte Screening-Tools in der Medizin o.\u00e4., sondern eher an Risikobeurteilungsprogramme, beispielsweise in Jugend\u00e4mtern oder der Justiz. Der Zusatz, dass nicht alle Verfahren und KI-Systeme gleich sind, erscheint mir hier wichtig.&nbsp;<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"1024\" src=\"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/files\/2024\/09\/view-3d-justice-scales-1024x1024.jpg\" alt=\"\" class=\"wp-image-159\" srcset=\"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/files\/2024\/09\/view-3d-justice-scales-1024x1024.jpg 1024w, https:\/\/blogs.uni-paderborn.de\/ethical-machines\/files\/2024\/09\/view-3d-justice-scales-300x300.jpg 300w, https:\/\/blogs.uni-paderborn.de\/ethical-machines\/files\/2024\/09\/view-3d-justice-scales-150x150.jpg 150w, https:\/\/blogs.uni-paderborn.de\/ethical-machines\/files\/2024\/09\/view-3d-justice-scales-768x768.jpg 768w, https:\/\/blogs.uni-paderborn.de\/ethical-machines\/files\/2024\/09\/view-3d-justice-scales-1536x1536.jpg 1536w, https:\/\/blogs.uni-paderborn.de\/ethical-machines\/files\/2024\/09\/view-3d-justice-scales-2048x2048.jpg 2048w, https:\/\/blogs.uni-paderborn.de\/ethical-machines\/files\/2024\/09\/view-3d-justice-scales-624x624.jpg 624w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p>Und dennoch h\u00e4lt die Nichtregierungsorganisation (NGO) <em>AlgorithmWatch <\/em>fest, dass diese Verfahren niemals neutral sind und Daten nach <em>menschengemachten Deutungsmodellen<\/em> interpretiert werden (2016). Das Problem der Blackbox ist real, jedoch basiert die Entscheidungsfindung immer auf \u00dcberlegungen, die vom jeweiligen Entwicklungsteam vorausgesetzt wurden. Demnach sind AEV keine rein technologischen Systeme, die frei und objektiv operieren, sondern ein St\u00fcck Kultur selbst, die in ihren Entscheidungen gewisse Werte und Praktiken widerspiegeln (vgl. Seaver 2018, 379). Soll hei\u00dfen, dass auch Sexismus, Rassismus und weitere Diskriminierungsformen ihren Weg in das Modell finden, sofern diese vom Entwicklungsteam vertreten werden oder sie sich dessen nicht bewusst sind (vgl. Crawford 2016)\u2014ein weiterer Punkt f\u00fcr die Diversit\u00e4t am Arbeitsplatz!<\/p>\n\n\n\n<p>Der n\u00e4chste kritische Aspekt liegt in der Datenerhebung, die bei algorithmischen Entscheidungen ber\u00fccksichtigt wird. Vorerst werden Individuen auf messbare Daten reduziert, anhand welcher das System seine Entscheidung trifft. Mit jedem Klick, den wir t\u00e4tigen und mit jeder Information, die wir \u00fcber uns hergeben, vervollst\u00e4ndigt sich ein tempor\u00e4res Mosaik von uns. Dies ist allerdings nur eine Approximation dessen, was uns als komplexe Individuen ausmacht. Diese Daten k\u00f6nnen an einer gewissen Stelle, zu einem bestimmten Zeitpunkt erhoben werden und tragen daraufhin an anderer Stelle zur Entscheidungsfindung bei. Zus\u00e4tzlich k\u00f6nnen Daten aufgrund von statistischer Vergleichbarkeit vermischt und Menschen auf einer Basis beurteilt werden, die nicht in G\u00e4nze ihrer Situation entspricht, aber statistisch valide ist (vgl. Matzner 2016, 204). Hinzu kommen disproportionale Faktoren bei der Datenerfassung. Personen, die abh\u00e4ngiger vom Staat und Sozialleistungen sind, hinterlassen auch mehr Daten. Besserverdienende Personen und Familien werden weniger erfasst und folglich weniger beobachtet.<\/p>\n\n\n\n<p>Was hat das jetzt mit Philosophie zu tun? Machen wir an dieser Stelle einen kleinen Exkurs. Hierzu schauen wir uns einige Gedanken und Konzepte des s\u00fcdafrikanischen Philosophen John McDowell an, insbesondere aus seinem Werk <em>Geist und Welt<\/em>. Hier untersucht er (angelehnt an Kant) Rationalit\u00e4t und unter welchen Voraussetzungen wir Urteile \u00fcber die Welt treffen und begr\u00fcnden k\u00f6nnen. Laut ihm m\u00fcssen unsere Aussagen \u00fcber die Welt ein minimales Ma\u00df an empirischer Gegebenheit aufweisen, um sich rechtfertigen zu lassen (vgl. 2012, 11f.). In anderen Worten muss unser Urteil den Dingen so entsprechen, \u201ewie die Dinge [eben] sind\u201c (ebd., 12). McDowell spricht auch vom \u201eTribunal der Erfahrung\u201c (ebd.): Unser Urteil stehe einer Art Gericht gegen\u00fcber, gebildet aus unserer leiblichen Erfahrung von der Welt, welche als externer Faktor eine rationale Kontrolle dar\u00fcber aus\u00fcbt, was wir wahrheitsgem\u00e4\u00df \u00fcber sie aussagen k\u00f6nnen. Wenn ich also sage, <em>\u00fcber mir fliegt ein Flugzeug<\/em>, sollte dieses bestenfalls auch vorbeifliegen, zumindest meiner Wahrnehmung nach. Ohne diesen Realit\u00e4tsbezug w\u00e4re mein Urteil \u201ereibungslos\u201c (ebd., 91). Meiner Aussage fehle es damit an Gewicht.<\/p>\n\n\n\n<p>Inwiefern ist dann die algorithmische Entscheidungsfindung einer KI angemessen? Das Urteil mag retrospektiv vielleicht richtig gewesen sein, sind Ratespiele und Vorhersagen \u00fcber eine leibliche Person aber angebracht? Des Weiteren k\u00f6nnte man folgende Fragen stellen: Welche \u201eErfahrung\u201c von der Welt hat eine KI \u00fcberhaupt? Und wenn, lt. McDowell, empirische Tatsachen eine externe Kontrolle \u00fcber m\u00f6gliche Urteile \u00fcben, sind Vorhersagen \u00fcber eine noch nicht, vielleicht auch nie existierende und rein potenzielle Realit\u00e4t gerechtfertigt? Falls ja, gilt dies noch immer, wenn Daten f\u00fcr das Urteil hinzugezogen werden, die mit dem verurteilten Subjekt nur statistisch korrelieren? Au\u00dferdem, welcher Art von Tribunal oder rationaler Kontrolle wird KI unterzogen?<\/p>\n\n\n\n<p>Die Sinnfrage hinter einigen Deutungsmodellen wird wohl weniger gestellt, als dass dessen Performanz getestet wird. Sofern das AEV auf ein akzeptables Ma\u00df optimiert werden kann\u2014z.B. eine niedrige Rate von falsch-positiven Ergebnissen\u2014wird die Effizienz und direkte Verf\u00fcgbarkeit eines automatisierten Verfahrens der rigorosen \u00dcberpr\u00fcfung per Hand vorgezogen (vgl. Rouvroy 2013, 151). In vielen F\u00e4llen geschieht dies aus Gr\u00fcnden der Kosten- und Zeitersparnis.&nbsp; Die digitale Welt, in der Algorithmen sich \u201ebewegen\u201c, ist jedoch atopisch und (re-)konstituiert sich (selbst) aus den Datensammlungen, die zu einem beliebigen Zeitpunkt aufgezeichnet wurden (vgl. ebd., 148). Wichtig ist scheinbar nur, dass die Daten auf Abruf verf\u00fcgbar und operational sind (vgl. ebd.). Solch eine KI kann somit keinen konkreten Kontakt zur echten Welt gew\u00e4hrleisten, was algorithmische Entscheidungsfindung\u2014nicht nur aus philosophischer Sicht\u2014zu einem schwierigen Thema macht. Das leibhaftige Subjekt steht nicht mehr im Fokus; ausschlaggebender sind statistische Korrelationen.<\/p>\n\n\n\n<p>Stimmt man zu, dass Entscheidungen \u00fcber Menschen nicht anhand von Potenzialit\u00e4ten und vermischten Daten getroffen werden sollten, vor allem in F\u00e4llen einer m\u00f6glichen Freiheitsberaubung, dann ist es fraglich, ob AEV imstande sind, angemessene Urteile \u00fcber eine Person zu liefern. In sehr polemischer Manier k\u00f6nnte man behaupten, der Algorithmus und dessen Nutzer*innen agieren frei nach dem Motto \u201eerst schie\u00dfen, dann fragen\u201c. Dann wiederum m\u00fcssen wir uns als Gesellschaft dar\u00fcber einigen, was wir denn als <em>angemessen<\/em> betrachten wollen. Ob aber solche automatisierten Entscheidungen einem Individuum, mit ihrem Werdegang und in all ihrer Komplexit\u00e4t gerecht werden, wage ich zum aktuellen Zeitpunkt zu bezweifeln.<\/p>\n\n\n\n<p>Von Sebastian Mantsch<\/p>\n\n\n\n<p><strong>Quellen<\/strong><\/p>\n\n\n\n<p>AlgorithmWatch. 2016. \u201eDas ADM-Manifest.\u201c Letzter Zugriff am 22. Mai 2024. <a href=\"https:\/\/algorithmwatch.org\/de\/das-adm-manifest-the-adm-manifesto\/\">https:\/\/algorithmwatch.org\/de\/das-adm-manifest-the-adm-manifesto\/<\/a>.<\/p>\n\n\n\n<p>Angwin, Julia. 2016. \u201eMake Algorithms Accountable.\u201c <em>The New York Times<\/em>, 1. August 2016. <a href=\"https:\/\/www.nytimes.com\/2016\/08\/01\/opinion\/make-algorithms-accountable.html\">https:\/\/www.nytimes.com\/2016\/08\/01\/opinion\/make-algorithms-accountable.html<\/a>.<\/p>\n\n\n\n<p>Angwin, Julia, Jeff Larson, Surya Mattu und Lauren Kirchner. 2016. \u201eHow We Analyzed the COMPAS Recidivism Algorithm.\u201c <em>ProPublica<\/em>, 23. Mai 2016. <a href=\"https:\/\/www.propublica.org\/article\/how-we-analyzed-the-compas-recidivism-algo-ithm\">https:\/\/www.propublica.org\/article\/how-we-analyzed-the-compas-recidivism-algo-ithm<\/a>.&nbsp;<\/p>\n\n\n\n<p>Barr, Alistair. 2015. \u201eGoogle Mistakenly Tags Black People as \u2018Gorillas,\u2019 Showing Limits of Algorithms.\u201c <em>The Wall Street Journal<\/em>, 1. Juli 2015. <a href=\"https:\/\/www.wsj.com\/arti-cles\/BL-GB-42522\">https:\/\/www.wsj.com\/arti-cles\/BL-GB-42522<\/a>.&nbsp;<\/p>\n\n\n\n<p>Buolamwini, Joy und Timnit Gebru. 2018. \u201eGender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification.\u201c <em>Proceedings of Machine Learning Research <\/em>81: 1\u201315.<\/p>\n\n\n\n<p>Matzner, Tobias. 2016. \u201eBeyond data as representation: The performativity of Big data in surveillance.\u201c <em>Surveillance &amp; Society <\/em>14 (2): 197\u2013210. <a href=\"https:\/\/doi.org\/10.24908\/ss.v14i2.5831\">https:\/\/doi.org\/10.24908\/ss.v14i2.5831<\/a>.<\/p>\n\n\n\n<p>McDowell, John. 2012. Geist und Welt. 4. Auflage. \u00dcbersetzt von Thomas Blume, Holm Br\u00e4uer und Gregory Klass. Frankfurt a.M.: Suhrkamp.<\/p>\n\n\n\n<p>Rouvroy, Antoinette. 2013. \u201eThe end(s) of critique: data behaviourism versus due process.\u201c In <em>Privacy, Due Process and the Computational Turn<\/em>, hg. von Mireille Hildebrandt und Katja de Vries, 143\u2013168. London: Routledge.<\/p>\n\n\n\n<p>Seaver, Nick. 2018. \u201eWhat Should an Anthropology of Algorthims Do?\u201c <em>Cultural Anthropology <\/em>33 (3): 375\u2013385. <a href=\"https:\/\/doi.org\/10.14506\/ca33.3.04\">https:\/\/doi.org\/10.14506\/ca33.3.04<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>K\u00fcnstliche Intelligenz (KI) ist in aller Munde. Wenige Themen dominieren allem Anschein nach \u00f6ffentliche und auch politische Debatten in den neuen 20er-Jahren wie der Einfluss \u201eintelligenter\u201c Systeme auf unser Zusammenleben. Dieser \u00f6ffentliche Diskurs kennt auch keine Grenzen. So nimmt jede erdenkliche Person\u2014mehr oder minder freiwillig\u2014an Gespr\u00e4chen rund um KI teil, sei es am Stammtisch, im [&hellip;]<\/p>\n","protected":false},"author":9316,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6,9],"tags":[7],"class_list":["post-158","post","type-post","status-publish","format-standard","hentry","category-inspirationen","category-semiarabgabe","tag-studierende"],"_links":{"self":[{"href":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/wp-json\/wp\/v2\/posts\/158","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/wp-json\/wp\/v2\/users\/9316"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/wp-json\/wp\/v2\/comments?post=158"}],"version-history":[{"count":1,"href":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/wp-json\/wp\/v2\/posts\/158\/revisions"}],"predecessor-version":[{"id":160,"href":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/wp-json\/wp\/v2\/posts\/158\/revisions\/160"}],"wp:attachment":[{"href":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/wp-json\/wp\/v2\/media?parent=158"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/wp-json\/wp\/v2\/categories?post=158"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.uni-paderborn.de\/ethical-machines\/wp-json\/wp\/v2\/tags?post=158"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}