Freiheit und Kalkül. Die Politik der Algorithmen: [Was bedeutet das alles?] – Müller-Mall, Sabine – Erläuterungen – Denkanstöße – Analyse (Reclams Universal-Bibliothek)

by Sabine Müller-Mall

Algorithmen spielen in unserem sozialen Leben eine immer größere Rolle – in Meinungsumfragen, beim Wahlverhalten, in der Werbung. Dabei nehmen sie vor allem Einfluss darauf, wie Soziales politisch werden kann. Wir dürfen Algorithmen deshalb nicht bloß nutzen oder ihre Nutzung hinnehmen, sondern müssen grundlegend klären, wo und wie wir sie überhaupt einsetzen wollen. Nur dann, wenn wir sie als politisch begreifen und demokratisch mit ihnen umgehen, laufen wir keine Gefahr, uns ihnen zu unterwerfen und dabei die Gesellschaft zu entpolitisieren.

72 pages, Kindle Edition

Published September 25, 2020

Reviews

[Laramzp · Rating 5 out of 5]

Ende bietet gar nichts aber kein buch fasst so präxise alle politischen dimensionen von KI zusammen !!!

[Matthias Moeser · Rating 2 out of 5]

Das Buch versucht einen grundlegenden, allgemeinen Beitrag zur Bewertung der Bedeutung von künstlicher Intelligenz in unserer Gesellschaft zu leisten. Meiner Ansicht nach ist dieser Versuch eher misslungen. Er scheitert an zu abstrakten, verkürzten und sich selbst wiederholenden Argumenten, die leider meistens ohne Beispiele dargelegt werden. Daraus werden dann gewaltige Thesen abgeleitet ("[Algorithmen] verändern aber gleichzeitig das Gefüge demokratischer Verfassungen, die verfassen das Verhältnis von Politik und Recht neu, indem ihre Politik wirksam wird", auf den letzten 10 Seiten, nach zwei Seiten Einleitung zu Verfassung und Algorithmen)
Leider habe ich irgendwann das Vertrauen in die Fakten Lage verloren. Es gibt keine Quellenverweise und als ich eine Behauptung zur Sperrung von Accounts durch künstliche Intelligenz zumindest für Twitter nicht belegen konnte, habe ich angefangen an anderen Behauptungen zu zweifeln.
Eine echte Lücke sehe ich aber darin, dass überhaupt nicht diskutiert wird, dass Menschen nun mal begrenzt rational sind und die Aufmerksamkeits Ökonomie von sozialen Netzwerken hier voll zuschlägt. (Das klingt zwar an in "Mündigkeit ausüben" bleibt aber auch dabei).
Auch doof fand ich viele abstrakte Fremdworte, die z. T. Gruselig dem englischen entlehnt wurden (ubiquitär, Affordanz), aber das nehme ich als persönliche Vorliebe.
Das Thema ist dennoch wichtig und die Verknüpfung der Disziplinen hilfreich, aber in der Fassung finde ich das leider keinen so wertvollen Beitrag.

Nachtrag 24.02.2023
Hier ist eine lesenswerte Kritik eines wichtigen Anteils angewendeter KI: https://predictive-optimization.cs.pr...

[Ruben J. D. · Rating 4 out of 5]

Müller-Mall hat Wichtiges gedacht. Über derart aktuelle, zentrale und umfassende Themen wie die Auswirkungen allgegenwärtiger Algorithmisierung auf die politischen Systeme demokratisch verfasster Staaten kann derzeit kaum genug nachgedacht, können kaum genug Argumente in den Diskurs derart eingespeist werden, dass wir hoffentlich einmal uns besser auskennen und klüger handeln als in der momentan herrschenden Phase innovationssüchtiger Orientierungslosigkeit.

Was denkt Müller-Mall? Die Leitgedanken des kleinen Buchs (aus einer übrigens herrlichen Reihe) im Überblick: Digitalisierung ist selbstverstärkende, ausgreifende Bündelung von Computerisierung, Mobilisierung und Algorithmisierung (eine mutige Eigendefinition), das Politische beschreibt einen zukunftsorientierten, gestalterischen Blick auf das Soziale. Zusammengenommen: Die Logik von Input-Output-Wahrhscheinlichkeitskalulation (von Algorithmus und AI) formiert und strukturiert den sozialen Raum bzw. die Möglichkeiten des Sozialen (Schufa-Scores, Kriminalprognosen, Social Bots etc.). Algorithmen werten Daten normativ aus. Algorithmen normalisieren (in der Konsumlandschaft) das Wahrscheinliche - wobei Müller-Mall hier etwas die Notwendigkeit der Komplexitätsbekämpfung durch Technik übersieht (weil der sinnblidliche "long tail" an immer neuen Kulturprodukten uns sonst wie die ständig wachsende Schlange bei "snake" einzuknoten und zu ersticken droht, für eine differenzierte Sicht siehe nur https://www.economist.com/special-rep...). Algorithmen stehen - hier kann ich nur energisch zustimmen - in scharfem Konflikt mit dem demokratischen Prinzip der Autonomie, dass sich als Bedingung der Verantwortlichkeit und als Möglichkeit zu immer neuem, auch irrationalem oder inkonsistenten Handeln ausdrückt. Algorithmen setzen auf Rationalität und darauf „vorgängiges Handeln [zu] verwalten”. Sie brauchen kein politisches Konzept von Freiheit oder Autonomie. Nicht nur das: Sie sind überall und sie zeigen die ständige Möglichkeit des Verzichts auf den Freiheitsgedanken. Algorithmen entpolitisieren so auch die aus vielen sozialen Logiken zusammengesetzte Demokratie, indem sie ihren Output politisch unverhandelbar stellen. Algorithmen marginalisieren Gestaltung, weil sie die Frage der wünschenswerten und der wahrscheinlichen Zukunft ineinander werfen (ein auch ansonsten wichtiger Hinweis!). Hier bringt Müller-Mall auch kurz Corona ein: Statistische Obergrenzen statt immer neuer normativer Abwägungen entscheiden, schlicht weil es einfacher ist, nach der Prognose statt nach der gewollten Möglichkeit zu fragen.

Es folgt, natürlich mit David Hume, die sehr wichtige Differenzierung von Gesetzmäßigkeit und Gesetz. Gesetze beinhalten normative Feststellungen und verändern sie, werden angewendet durch (immer subjektive) juridische Urteile. Algorithmen dagegen steuern auf Basis erkannter Gesetzmäßigkeiten. „Und das ist eine Wende von kopernikanischem Außmaß: Das Verhältnis von Politik und Recht verändert sich grundlegend.” (S. 53). Die gleiche Wirkung ist auf den Gesetzgebungsprozess festzustellen (auch hier wertvolle rechtstheoretisch-staatsorganisatorische Erinnerungen): Die Parteien sollen nicht bloß einen Willen abfragen oder feststellen, sondern seine Bildung formend begleiten. Aber Algorithmen bedeuten Prognose statt Diskussion, Abfrage statt Argument. Eine die Mündigkeit „unterhöhlende” politische Wirkung ist die Folge.

Zudem wirken Algorithmen auch auf die Sprache selbst: Weil sie sich nichthermeneutischen Verstehens bemächtigen, verfestigen sie bloß vergangenes Sprechen und verschließen sich damit dem emanzipatorischen Potential neuer Sprache. Aber: Ist nicht jede jetzige Sprache, jedes derzeitige Sprechen ein Bezug auf vergangene Konvention und erst darauf aufbauend, noch, gerade noch verständlich, eine Möglichkeit der Erneuerung? Das kann vielleicht auch der Algorithmus. Dass Algorithmen aber den Zugang zum Sprechen regeln (auf Facebook etc.) ist viel eher und offensichtlicher problematisch.

Dann ein erneuter, noch schärferer Blick auf die Rechtssetzung: Sie verbindet formalisierende und deformalisierende Momente - plurale Debatte und formale Lesung. Aber Algorithmen formalisieren nun das Informelle, sind insofern auch dem Recht selbst ähnlich, welches die politischen Prozesse in formaljuristischer Sprache fasst. Aber sie verschieben die Balance zum Formellen, entkoppeln schließlich Politik und Recht, weil sie weder verfass- noch politisierbar sind. Demokratie ist immer Möglichkeit der Veränderung am (oder mitJacques Derrida: als Horizont), was mit der Wirkung von Algorithmen auf die prozeduralen Verfahren der Demokratie kaum vereinbar erscheint.

Nun in wenigen Seiten: Algorithmen können auch emanzipieren und ermöglichen. Transparenz und Effizienz dagegen reichen als Argumente nicht. Transparenz, weil sie nur den Nachvollzug des Heteronomen ermöglicht und Effizienz, weil sie nur eine Steigerung der Effizienz des gesetzmäßigen, nicht des gesetzlichen Regelvollzugs bedeutet. Wir müssen uns all das ins Bewusstsein rufen und autonom, politisch über Algorithmen entscheiden.

Neben überzeitlicher Allgemeinheit (die man vielleicht nicht ernsthaft fordern kann) fehlt dem Werk vor allem dies: Die Fähigkeit, selbst zur utilitaristischen Sprache der algorithmisierten Menschen zu greifen und analytische Wirkkraft zu entfalten. Stattdessen verlegt sich Müller-Mall, hier ganz Autorin einer Denkschrift statt einer quellenreichen Abhandlung, auf Wiederholung als Stilmittel. Aber wird das die Unüberzeugten überzeugen? Die technokapitalismuskritischen Linkstheoretiker werden Beifall leisten, vielleicht auch die konservativen Zukunftsfürchter. Aber die Influencer und die Börsenjunkies? Ein zweiter Band, oder eine Fortsetzung im geistigen Sinne, müsste dringend daran arbeiten, eine weniger algorithmisierte Zukunft als Möglichkeit konkret zu skizzieren und auch die dahinter stehenden Paradigmen des Menschseins entweder den Andersdenkenden zu öffnen oder konfrontativ nachzuschärfen. Um zwanglos zwingend Zukunft zu gestalten.

[Fabian Nick · Rating 2 out of 5]

Müller-Mall beschreibt die Politizität und Ubiquität von Algorithmen und wie sich diese auf Politik und die Mündigkeit der Menschen im Besonderen auswirkt. Allerdings differenziert sie dabei meiner Meinung nach den Begriff des “Algorithmus” nicht stark genug: Je nach Situation ist entweder ein Kochrezept schon ein Algorithmus oder auch moderne KI. Dadurch wird der Begriff des “Algorithmus” zu einer zu umfänglichen Hülle, mit der sich dann quasi jede Behauptung, insbesondere der der Politizität und Ubiquität von Algorithmen beweisen lässt.