Keine Angst, die Software kann's noch nicht besser. Dirk Kaftan und das Beethoven Orchester Bonn bei der Generalprobe des Beethoven Orchester Bonn für die von einer KI vollendete 10. Sinfonie Beethovens. Foto: imago images/Future Image
© imago images/Future Image

Dämon Digitalisierung Die Welt als Wille und Wackelpudding

"Klick": Der Risikoforscher Gerd Gigerenzer misstraut der vermeintlichen Allmacht Künstlicher Intelligenz.

Sie bestimmen unsere Reiserouten und unser Liebesleben. Sie unterstützen Polizisten bei der Verbrechensbekämpfung und Richter bei der psychologischen Einschätzung von Straftätern. Algorithmen, die Rechenwege der Computerprogramme, sind. Und weil Algorithmen zu den Geschäftsgeheimnissen der Programmanbieter von Parship bis zu Google Maps gehören, wirken sie auf viele Nutzer geheimnisvoll und bedrohlich: wie die Voraussetzung dafür, dass Rechner bald klüger sind als Menschen.

Der Psychologe, Bildungs- und Risikoforscher Gerd Gigerenzer hat das Thema Partnervermittlung ausgesucht, um seinen Lesern einen Einstieg ins Nachdenken über Künstliche Intelligenz (KI) und die Fähigkeiten von Computern und Software zu verschaffen. Gigerenzer kann komplexe Zusammenhänge mit klaren Worten erklären. Er kann rechnen. Und er lässt sich nicht blenden – von Werbung wie „alle elf Minuten verliebt sich ein Single über Parship“ so wenig wie von Thesen, dass Computerprogramme Verbrechen voraussagen könnten.

[Gerd Gigerenzer: Klick. Wie wir in einer digitalen Welt die Kontrolle behalten. Aus dem Englischen von Hainer Kober. C.Bertelsmann Verlag, München 2021. 416 Seiten, 24 €.]

Die regelmäßige Verdopplung der Rechenleistung von Hochleistungscomputern, deren Erfolge im Schach oder im Go, die Entwicklung neuronaler Netze – das alles hat viele Fachleute jede Skepsis vergessen lassen. Die Warnung vor der Machtübernahme der Künstlichen Intelligenz ist Standard geworden in der Literatur zur Digitalisierung. Gigerenzer hat sich seine Skepsis bewahrt. Das macht sein Buch so lesenswert.

Parship als Augenwischerei

Alle elf Minuten verliebt sich eine oder einer mit Parship? Die Website soll, so Gigerenzer, Millionen Kunden haben. Dann rechnet er – und kommt, eine Million Kunden vorausgesetzt, zu dem Ergebnis, dass sich binnen eines Jahres „nur 5 Prozent“ verlieben, insgesamt rund 52 000 Verliebte. „Nach einer Suche von zehn Jahren hätte also ungefähr die Hälfte der Kunden ihre wahre Liebe gefunden. Sollte die Seite mehr als eine Million zahlenden Kunden haben, ist die wahrscheinliche Wartezeit noch länger. Mit anderen Worten: es besteht die reale Aussicht, dass Sie bis ins hohe Alter suchen (und zahlen)“, schreibt Gigerenzer.

Der schlichte Titel „Klick“ täuscht: Gigerenzer erklärt, wie und auf welcher statistischen Grundlage Algorithmen funktionieren. Er macht klar, dass noch so ausgefuchste Rechenwege für Computer immer eine Prämisse haben: Die Zukunft wird so werden wie die Vergangenheit, in der die Daten gesammelt wurden. Gigerenzer bringt das auf den schönen Begriff der „stabilen Welt“. Wo die Verhältnisse stabil bleiben, funktionieren algorithmisch ermittelte Voraussagen: für die beste Reiseroute oder den kürzesten Weg. Ihre Fähigkeiten werden überschätzt, sobald die Verhältnisse volatil und instabil werden. Etwa, wenn menschliches Verhalten vorausgesagt werden soll. Denn Menschen verhalten sich oft irrational und verstoßen gegen Regeln.

Das betrifft das Verhalten im Straßenverkehr wie das Ausspähen von Orten für einen Raubüberfall oder die Einschätzung, ob ein junger Mann, der schon zweimal wegen Drogenhandels vor Gericht stand, abermals straffällig werden wird – und ob er überhaupt zum Prozesstermin erscheinen wird. Das alles sind Anwendungsgebiete angeblich hochkomplizierter Algorithmen.

Kontrolle durch Gesichtserkennung

KI, das sind für Gigerenzer vor allem Supercomputer, die Menschen beim Schach oder in Ratespiel-Shows besiegen. Als Psychologe hat Gigerenzer sich lange mit den Fähigkeiten befasst, die es braucht, um Risiken gut und richtig einschätzen zu können. Mit der rasenden Digitalisierung sind neue Risiken entstanden. Sie beginnen mit der Abhängigkeit vom Smartphone und enden beim Verlust der Freiheit und zunehmender staatlicher Kontrolle, etwa durch dauernde Überwachung und Gesichtserkennung im öffentlichen Raum.

Von Digitalisierungsgegnern - und Befürwortern hebt sich Gigerenzer so angenehm ab, weil er ohne deren apodiktische Argumente auskommt. Er setzt aufs Denken und die Fähigkeit zu zweifeln. Davon handelt die zweite Hälfte seines Buches.

[Wenn Sie alle aktuellen Entwicklungen zur Coronavirus-Pandemie live auf Ihr Handy haben wollen, empfehlen wir Ihnen unsere App, die Sie hier für Apple- und Android-Geräte herunterladen können.]

Hier nimmt er sich Digitalisierungsphänomene vor, die Risiken mit sich bringen. Die sind gut verpackt in Bequemlichkeit, wie sie smarte Kühlschränke und Häuser versprechen oder die scheinbare Umsonst-Nutzbarkeit von Google, Facebook und vielen anderen Apps.

Da wird Gigerenzers Ton gelegentlich schärfer, seine Argumentation politisch. Im Kapitel „Schlafwandelnd in die Überwachung“ schreibt er, China bekenne sich offen dazu, der Westen betreibe sie geheim. Und er fragt, ob „die Demokratie“ überleben werde. Seine Antwort ist ein Auftrag an die Politik – die Erinnerung an ein vielfach gegebenes, nicht eingelöstes Versprechen: Die Staaten müssten den Tech-Unternehmen Paroli bieten und zurückkehren zu einem Internet, „das auf der freien Entfaltung von Wissen basiert statt auf Überwachungskapitalismus“. Doch je öfter Politiker im freien Westen die Besteuerung der Silicon-Valley-Unternehmen versprechen und die Entwicklung eigener Suchmaschinen fordern, desto dringender muss man fragen, wann sie damit anfangen.

Zur Startseite