Von der Berechenbarkeit der Welt – Die Mathematikerin Hannah Fry erklärt, was „Algorithmen können und wie sie unser Leben verändern“
Hannah Fry ist außerordentliche Professorin für Mathematik am University College in London und hat vor einigen Jahren bereits ein ausgesprochen unterhaltsames Buch über die Berechenbarkeit der Liebe geschrieben. In ihrem jüngsten Werk widmet sie sich nun einem Thema, das uns alle mehr oder weniger betrifft: Algorithmen. Oft bekommen wir überhaupt nicht mit, welche Rolle sie in unserem Leben spielen, dass sie es tun, steht allerdings fest.
Die Autorin gliedert ihr Buch in sieben umfangreiche Abschnitte, in denen sie anhand zahlreicher Beispiele erläutert, in welchen Bereichen Algorithmen bereits eine wichtige Rolle spielen: Macht, Daten, Justiz, Medizin, Autos, Kriminalität und Kunst.
Der Titel – „Hello World“ – ist eine Anspielung auf den Initiationsritus, den jeder Programmierer durchläuft. Das erste Programm, das in so gut wie jedem Programmierlehrbuch den Einstieg in die Welt des Codens bildet, lässt zwei Worte auf dem Bildschirm erscheinen: „Hello world!“ Brian Kernighan, einer der Entwickler von C, hat diese Tradition in den 1970er Jahren begründet. Hannah Fry nimmt in ihrem Titel Bezug auf diesen Austausch zwischen Mensch und Maschine, der in der heutigen Zeit nicht mehr wegzudenken ist.
Der Algorithmus hat längst Eingang in unseren Alltagswortschatz gefunden. Wir sprechen über den mächtigen Facebookalgorithmus, der Filterblasen erzeugt und Präsidentschaftskandidaten wie Trump zum Wahlsieg verhilft, über den Netflixalgorithmus, der uns zu Serienjunkies macht und über selbstlernende Algorithmen, die als künstliche Intelligenzen unseren Alltag erleichtern. Aber was bedeutet der Begriff Algorithmus überhaupt? Ein Algorithmus beschreibt ein „schrittweises Verfahren, um Probleme zu lösen oder ein Ziel zu erreichen, insbesondere mit einem Computer“ (20). Im Grunde genommen ist es eine Art Kochrezept – im maschinellen Sinne natürlich gecodet.
Algorithmen können priorisieren (geordnete Listen anlegen, wie z.B. Google Search oder auch der Netflixalgorithmus), klassifizieren (Kategorien auswählen, wie z.B. der Facebookalgorithmus, der uns in Kategorien wie „Single über 30“ o.ä. eintütet), kombinieren (Parship und Co lassen grüßen) und filtern (Facebook erzeugt auf diese Weise Filterblasen und Siri, Cortana und Co lernen, Hintergrundgeräusche auszublenden und ausschließlich auf die Stimme zu achten). Viele Algorithmen bieten eine Kombination aus diesen Fähigkeiten.
Doch wie schafft es eine Maschine, all diese Dinge zu bewerkstelligen? Im Wesentlichen gibt es zwei Ansätze: regelbasierte Algorithmen und selbstlernende Algorithmen (Machine-learning-Algorithmen).
Weil alles, was mit Technik und Code zu tun hat, für breite Teile der Bevölkerung wie eine Art Hexenwerk wirkt, genießen Algorithmen oft den Ruf der Perfektion. Andererseits werden sie als selbstlernende künstliche Intelligenzen gefürchtet. Aber müssen wir uns wirklich Sorgen machen?
Im ersten Abschnitt widmet sich die Autorin der Macht, die Algorithmen zweifelsohne haben. Vor wenigen Tagen ist in einer entlegenen Ecke von Regensburg (auf den Winzerer Höhen) ein Lkw gestrandet, der stur den Anweisungen seines Navigationssystems gefolgt ist. Ich kenne die Gegend und wundere mich: Jedem Menschen, der einigermaßen vernünftig denken kann, müsste schon lange vor der Stelle, an der der Lkw steckenblieb, bewusst sein, dass nur noch Felder kommen. Aber der Fahrer vertraute nicht auf den gesunden Menschenverstand, sondern auf die Maschine – und musste von der Polizei gerettet werden. Durch solche Aktionen sind Fahrer bereits zu Tode gekommen, weil sie über Abhänge in die Tiefe stürzten. Es ist schwer, einer Sache, die derart vollkommen wirkt, zu misstrauen. Das Gefühl, sich in Sicherheit wiegen zu können und gleichzeitig keine Verantwortung zu tragen, muss schön sein – vielleicht ein bisschen wie im Mutterbauch. Doch auch Algorithmen können fehlerhaft programmiert sein. Sie sind eine Menge, aber garantiert nicht unfehlbar. Es ist wie mit der vermeintlich unsinkbaren Titanic. Wir schalten unser Gehirn ab, wenn wir darauf vertrauen, dass eine Übermacht alles unter Kontrolle hat. Dies kann mitunter fatale Folgen haben. Wenn der Mensch sich zu sehr auf automatisierte Systeme verlässt, verlernt er Schritt für Schritt Fähigkeiten, die ihn selbst in die Lage versetzen würden, Verantwortung zu tragen. Durch den breiten Einsatz von Navigationssystemen hat unser Orientierungsvermögen nachweislich gelitten, denn was wir nicht mehr trainieren, kann sich auch nicht entwickeln und verkümmert schließlich.
Im Abschnitt „Daten“ geht es um das „Lieblingsessen“ von Algorithmen. Ohne Daten kann kein Algorithmus funktionieren. Insbesondere im Handel spielen Daten eine große Rolle, etwa bei der Nutzung von Kundenkarten, die unser Einkaufsverhalten penibel dokumentieren, so dass wir mit Hilfe von Analysen ziemlich problemlos manipuliert werden können. Cambridge Analytica hat zudem gezeigt, welche Rolle die Erhebung und Auswertung von Daten auch politisch spielen kann. Ohne Facebook und Cambridge Analytica wäre Donald Trump mit an Sicherheit grenzender Wahrscheinlichkeit nicht Präsident der USA geworden. Daten sind das Gold des 21. Jahrhunderts – nur machen wir uns das viel zu selten bewusst.
Das Kapitel zum Thema „Justiz“ hat mich überrascht, nachgerade schockiert. Mir war bereits klar, dass RichterInnen häufig Fehlentscheidungen treffen, u.a. abhängig davon, wann ein Prozess stattfindet (vor oder nach der Mittagspause) – aber wie fehlbar der Mensch ist und wie willkürlich Gerichtsurteile deshalb ausfallen (es gibt ja einen Ermessensspielraum, der eine wichtige Rolle spielt), war mir in dieser Drastik nicht bewusst. Eine Studie zeigte sogar, dass RichterInnen unterschiedlich entschieden, wenn sie absolut identische Fälle vorgelegt bekamen, die sich lediglich durch eine Kleinigkeit unterschieden – etwa durch das Geschlecht oder den Namen des Angeklagten. In vielen Fällen könnte ein Algorithmus hier Abhilfe schaffen – und vielfach ist das auch schon gängige Praxis. Allerdings wird ein Algorithmus nie RichterInnen ersetzen können, denn Ermessensspielräume sind wichtig. Zudem sollte nicht vergessen werden, dass auch Algorithmen vorurteilsbehaftet sein können und oft auch sind. Hannah Fry erklärt ausführlich und unterhaltsam, welche Chancen, aber auch Probleme (u.a. mathematische) der Einsatz von Algorithmen im Bereich Justiz mit sich bringt.
Im Abschnitt Medizin geht es um eines der wichtigsten Einsatzgebiete von Algorithmen. Insbesondere bei der Diagnostik spielen sie heute schon eine wichtige Rolle, sind sie doch dazu in der Lage, Muster schnell und zuverlässig zu erkennen, ohne jemals zu ermüden. Gemeinsam mit ÄrztInnen können sie einiges schaffen, etwa die zuverlässige Diagnose von Tumoren. Doch auch hier wirft die Nutzung der Technik Probleme auf. Gerade in einem derart sensiblen Bereich spielt Datenschutz eine große Rolle und Missbrauch ist ausgesprochen gefährlich. Hannah Fry geht u.a. auf den Trend ein, seine Gene analysieren zu lassen – eine Sache, die nicht ungefährlich ist, z.B. wenn man in den USA eine Lebensversicherung abschließen möchte und potenzielle genetische Risiken verheimlicht, von denen man ohne Gentest überhaupt nicht wüsste.
Auch im Kapitel über Autos fand ich viele überraschende Informationen. Die Medienberichterstattung suggeriert ja, dass das autonome Fahren bereits so weit entwickelt wäre, dass es im Prinzip nur noch eine Frage der Gesetzeslage ist. Doch das stimmt so nicht. Autonomes Fahren ist ein derart komplexer Vorgang, dass wir noch lange nicht so weit sind, Fahrzeuge wirklich autonom fahren zu lassen. Es ist eine Herausforderung, die uns noch einiges abverlangen wird – wobei fraglich ist, ob vollkommen autonomes Fahren überhaupt unser Ziel sein sollte. Die Autorin geht u.a. auch auf den Luftverkehr ein, der ohne Autopilot beinahe nicht mehr denkbar ist. Doch was bedeutet das für die Flugsicherheit und wie ist es um die Fähigkeiten v.a. junger PilotInnen bestellt? Der Ausfall des Autopiloten durch vereiste Sensoren hat am 31. Mai 2009 228 Menschen das Leben gekostet. Der junge Pilot war – während sein Kollege sich auf dem Langstreckenflug ausruhte – nicht dazu in der Lage, das Flugzeug bei Turbulenzen selbst zu stabilisieren. Das Eingreifen seines Kollegen kam zu spät.
Im Abschnitt Kriminalität geht es um präventive Verbrechensbekämpfung. Hier sind bereits mehrere Algorithmen im Einsatz. Allerdings gibt es in dieser Branche auch zahlreiche Scharlatane, die fehlerhafte Software an Behörden verkaufen. Doch selbst wenn ein Algorithmus zuverlässig arbeitet, kann es immer wieder zu Fehlern, z.B. bei der Eingabe durch Menschen, kommen. Auf diese Weise landen dann z.B. Babys oder Unschuldige auf No-fly-Listen und Co. Und trotzdem ist es wichtig, in diesem Bereich verstärkt auf Algorithmen zu setzen, denn sie tragen mitunter zu einer massiven Senkung von Einbruchsfällen bei.
Im letzten Kapitel geht es um Kunst. Hier wird u.a. ein Algorithmus vorgestellt, der Musik komponiert hat, die mehr nach Bach klingt als Bach selbst. Auch bei der Vorhersage von potenziellen Charterfolgen können Algorithmen eingesetzt werden. Prognosen sind aber schwierig, da viele Parameter nicht eindeutig festgelegt werden können, etwa der Faktor „Qualität“. Was ist schön? Diese Frage beschäftigt uns schon mindestens seit der Antike. Die Autorin berichtet von einigen sehr spannenden Experimenten, die im Bereich Kunst (v.a. Musik) gemacht wurden. Darin wird zum Beispiel auch aufgezeigt, welche Rolle der sogenannte „soziale Beweis“ spielt. Musik, die bei vielen anderen Menschen gut ankommt, gefällt uns im Allgemeinen besser als Musik, die kaum jemand gut findet.
In einem Schlusskapitel setzt sich die Autorin noch einmal mit all den Dingen auseinander, die thematisiert wurden und gelangt zu dem Ergebnis, dass Algorithmen niemals den Menschen ersetzen werden können – aber die Zusammenarbeit von Mensch und Maschine kann in vielen Bereichen zu einer Verbesserung führen, wobei nicht vergessen werden darf, dass auch Algorithmen niemals vollkommen sein können. Sie sind weder vollkommen sicher, noch absolut gerecht und niemals perfekt. Letztendlich wird es deshalb immer nur darum gehen können, etwas besser zu machen und sich damit abzufinden, dass das in diesem Moment eben „gut genug“ bedeuten muss.
Hannah Fry hat mich durch ihren unterhaltsamen Stil und ihre Fähigkeit, komplexe Inhalte sehr gut verständlich zu vermitteln, wieder einmal überzeugen können. Wer sich für das überaus interessante Thema Digitalisierung interessiert, sollte unbedingt dieses Buch lesen!
Hannah Fry: Hello World. Was Algorithmen können und wie sie unser Leben verändern
übersetzt von Sigrid Schmid
erschienen am 15. April 2019
www.chbeck.de