Neoprimitiver Technoanimismus: Beherrschen uns Algorithmen?

Platon entwarf für den idealen Staat eine Regierungsform, in der die weisesten Bürger, die Philosophen, den Ton angeben: eine Epistokratie. Im sozialen Klima nach der Französischen Revolution aspirierte eine andere Berufsgruppe auf dieses Amt: die Ingenieure. Philosophen wie Auguste Compte oder Henri de Saint-Simon suchten das alte aristokratische System der Nepotismen und Standesprivilegien durch eine neue Elite vom Tisch zu wischen: die Polytechniker. Die Idee der Technokratie war geboren. Und sie übt ihren Einfluss bis heute aus. Gerade heute, da Unternehmen wie Google, Amazon, Facebook oder Apple eine noch kaum ausgelotete Macht über uns ausüben. Im Kern dieser Macht stecken Algorithmen. Deshalb wurde auch schon von einer Algokratie gesprochen.

Beherrschen uns Algorithmen wirklich? NZZ, 23.11. Gastkommentar von Eduard Kaeser

100 ungeordnete Socken

Aber worin besteht eigentlich diese Macht? Algorithmen sind Problemlösungsverfahren, die man auf kleine, geistlose Schritte herunterbrechen kann. Wir alle gehen in unserem Alltag dann und wann algorithmisch vor, das heisst: Wir lösen ein Problem Schritt für Schritt nach einer bestimmten Regel.

Angenommen, ich will hundert ungeordnete Socken im Wäschetrockner zu Paaren ordnen und ich wähle folgendes Verfahren: Zufällig eine Socke herausfischen, dann eine zweite. Passen sie zusammen, lege ich sie weg; passen sie nicht zusammen, werfe ich die zweite in die Trommel zurück und fische auf gut Glück eine andere heraus. Und so weiter.

Das Verfahren ist ein sogenannter Sortieralgorithmus. Er ist ziemlich dumm und umständlich, im schlimmsten Fall muss ich die gezogene Socke mit 99 andern vergleichen, bis ich das erste Paar gefunden habe. Dann führe ich mit den restlichen 98 Socken die gleiche Prozedur durch: gezogene Socke mit 97 andern Socken vergleichen. Und so weiter. Insgesamt müsste ich schlimmstenfalls über 2500 Mal Socken vergleichen, bis ich alle geordnet habe. Ich kann die Prozedur verbessern, indem ich die Sockenmenge halbiere, und mit den Hälften dasselbe Verfahren durchspiele. Immerhin hätte ich dann «nur» etwa 1300 Mal die Socken zu vergleichen.

Das banale Beispiel hebt bereits eine der kardinalen Aufgaben der Algorithmik hervor: Effizienz, Abkürzung von Verfahren. Algorithmen sind wundervolle Werkzeuge, sie bilden ein Universum des automatischen Geistes; und sie erweisen sich auf den immensen Datenfeldern der Cloud als unentbehrlich. Je komplexer ein Verfahren, desto wichtiger wird es, einen effizienten Algorithmus zu finden. Algorithmen sind die Schürfmaschinen des digitalen Goldrausches. Aber eben: Es handelt sich um Werkzeuge – um nicht mehr und nicht weniger.

Die ökonomische und soziale Macht der Algorithmen – ausgehend vom Stellenwert der Technologiegiganten, die sie einsetzen – ist unbestritten. Wir sollten allerdings nicht aus den Augen verlieren, dass sich diese Macht auch beträchtlich der symbolischen Macht der Computermetapher verdankt. Ich hege den Verdacht, dass viele Leute, die heute unentwegt das Wort «Algorithmus» im Munde führen, im Grunde nicht oder nur diffus wissen, wovon sie sprechen. Und gerade aufgrund seiner hippen Schwammigkeit hat sich das Wort zu seiner metaphorischen Vormachtstellung aufschwingen können.

Algorithmen werden zusehends undurchsichtiger. Sie zerfliessen zu einem «Code-Brei». Wahrscheinlich verstehen die Algorithmen-Designer ihre Artefakte selber nicht mehr vollständig. Sie schreiben einfach weitere Code-Schichten auf bereits existierenden Code, so wie mittelalterliche Mönche auf bereits beschriebene Pergamente neue Texte schrieben: Palimpseste.

Ich sehe hier eine allgemeine Tendenz, sozusagen eine Kassation alter aufklärerischer Ideale auf fortgeschrittener wissenschaftlich-technischer Entwicklungshöhe. Ihre Undurchsichtigkeit verleiht Algorithmen eine fast mystische Aura. Wir kippen ihnen gegenüber in eine Devotionshaltung – eine Ironie sondergleichen: Während die Aufklärung die Potenz des rationalen Geistes – verkörpert durch Naturwissenschaften und Technik – gegen die Mächte des Glaubens und Aberglaubens richtete, pervertiert diese Potenz nun zur Idolatrie der Technik.

Die Computeringenieure sehen sich als Tempeldiener eines techno-theologischen Kultus. Erst kürzlich hat Anthony Levandowski, Ingenieur bei Google und Mitentwickler fahrerloser Autos, eine religiöse Vereinigung namens Way of the Future gegründet, die sich der Verehrung einer «Gottheit basierend auf künstlicher Intelligenz» verschreibt. Die Leute im Silicon Valley scheinen die Warnung John McCarthys, eines der Pioniere auf dem Gebiet der künstlichen Intelligenz, vergessen zu haben: «Wir müssen vorsichtig sein, Maschinen Eigenschaften zuzuschreiben, die sie nicht haben. Der Mensch macht sich leicht zum Narren, wenn es etwas gibt, woran er glauben will.»

Wie alle Metaphern ist auch die Metapher des Algorithmus eine Karikatur. Algorithmen sind allgegenwärtig, aber nicht alles. Betrachten wir Google Maps. Selbstverständlich handelt es sich hier um eine Software für Kartendienstleistung, aber Google Maps ist ein physisch-virtuelles Konglomerat. Daran beteiligt sind geografische Informationssysteme, Satelliten und Transponder, Sensoren auf Autos und Hausdächern, Smartphones, Routingsysteme für Datennetzwerke, nicht zuletzt eine kleine Armee von menschlichen Operatoren an Bildschirmen, die weltweit die Karten up to date halten.

Algorithmen als Karikaturen zu bezeichnen, entzaubert sie. Indes bleiben sie mächtige Instrumente, deren Macht grösstenteils darin besteht, andere Maschinen auf abstrakter Ebene zu simulieren. Das ist die fundamentale Einsicht von Alan Turing. Aber diese Fähigkeit kann uns zu sektiererischer Einäugigkeit und metaphorischer Universalisierung verleiten: Alles ist «im Prinzip» ein Computer.

Wir kennen diesen Reduktionismus schon von der alten Maschine her: Der Mensch ist «nichts als» eine Maschine. Er bestärkt eine Art von Techno-Fatalismus: Der Vormarsch der Algorithmen ist unaufhaltsam. Wir beginnen alle sozialen und kulturellen Veränderungen dem Einfluss der Technologie zuzuschreiben und vergessen dabei, dass es «die» Technologie nicht gibt. Es gibt Menschen – Ingenieure, Unternehmer, Investoren, Evangelisten der künstlichen Intelligenz –, welche die Technologie zu ganz bestimmten Zwecken einsetzen – und missbrauchen. Und vielen kommt es zupass, wenn die Nutzer ihrer Produkte in der Herdenwärme einer lammfrommen Technikgläubigkeit verharren.

Ein Riesenzauber kehrt zurück

Beherrschen uns die Algorithmen? Zweifellos wachsen sie in eine immer zentralere Rolle hinein, auf fast allen sozialen Gebieten, in Medien, Politik, Wirtschaft, Beruf, Schulen, Gefängnissen, Spitälern. Und eine Grundskepsis erscheint angezeigt in einer Welt, die zunehmend von opaken Informationsströmen und Algorithmen beherrscht wird.

Die amerikanische Mathematikerin Cathy O’Neil gibt im Buch «Angriff der Algorithmen» (2017) Einblicke in ein verstörendes Zeitphänomen: Ein immaterielles Wettrüsten der Algorithmen findet statt, das für den Normalbürger unsichtbar bleibt, ihn aber aufgrund von schlampiger Statistik, voreingenommenen Modellen und einem fast gemeingefährlichen Vertrauen in computergenerierte Entscheidungen als Kollateralopfer zurücklässt.

Aber die künstliche Intelligenz der Algorithmen «greift» uns nicht «an». Vielmehr macht sich in ihr ein Teil der menschlichen Intelligenz – nämlich der automatisierbare – breiter und breiter. Einseitige Denkdiät. Max Weber sprach von der Entzauberung der Welt durch wissenschaftliche und technische Rationalität. Das Gegenteil ist heute der Fall. Ein Riesenzauber kehrt zurück, in der Gestalt von Gadgets, die wir verehren, statt zu verstehen.

Was uns wirklich zu beherrschen droht, ist ein neoprimitiver Technoanimismus, der unsere Entscheidungsfähigkeit zersetzt und uns aus dem kollektiven Unbewussten eines debil machenden Technikgebrauchs heraus steuert. Je entfesselter dieser Gebrauch, desto stärker sind wir an ihn gefesselt. – Zeit, aufzuwachen.

Eduard Kaeser ist Physiker und promovierter Philosoph. Er ist als Lehrer, freier Publizist und Jazzmusiker tätig.