Algorithmen helfen unsere Zukunft zu gestalten – meint Hannah Fry

Hannah Fry (*1984) ist eine rothaarige Mathematikerin irischer Abstammung, die BBC-Zuschauern bestens bekannt ist. Sie lehrt am University College in London, ist verheiratet und hat ein Kind. Ihr Spezialgebiet ist die Untersuchung mathematischer Muster in menschlichen Beziehungen. Ich las ihr Buch Hello World: How to be Human in the Age of the Machine (2018, 256 S.). Auf Deutsch würde der Titel lauten: Hallo Welt: Wie kann man Mensch sein im Zeitalter der Maschine. [Zufällig erinnert der Titel an das Motto der letztjährigen Jubiläumsveranstaltung der deutschen ACM-Sektion: Menschsein mit Algorithmen].

Bedeutung und Klassifikation

Algorithmen breiten sich immer mehr aus. Wir verdanken ihnen Leistungen nicht nur in Technik und Wirtschaft, sondern auch in Medien, Verkehr und Unterhaltung. Wir schaffen uns mit ihnen unsere Zukunft, weil wir dies so wollen. Es ist nicht so, dass sie einfach über uns kommen. Es ist auch nicht unbedingt schlecht. In der Regel werden Dinge besser, wenn sie genauer angepasst und geregelt werden. Algorithmen können uns aber auch einengen, ja die Luft wegnehmen, so wie jede Blumengirlande.

Algorithmen fallen in vier Kategorien: Priorisierung, Klassifikation, Assoziation und Filtern. Sie folgen zwei Paradigmen: Regelbasierung und Maschinelles Lernen. Im zweiten Falle kann es sein, dass wir Menschen nicht verstehen, wie die Maschine lernt. Fry würde dies lieber als ‚Computational Statistics‘ bezeichnen und nicht als Künstliche Intelligenz (KI).

Grenzen und Gefahren

Garri Kasparow ließ sich 1997 von dem Schachprogramm Big Blue irritieren, nicht weil es für komplizierte Situationen viel Zeit in Anspruch nahm, sondern auch für einfache Züge. Damit hatte er nicht gerechnet. Die Programmierer hatten dies mit Absicht eingebaut, damit das Programm als schwach eingeschätzt wurde. Es fiel Kasparow schwer zu akzeptieren, dass bei dem  Programm Big Blue alles mit rechten Dingen zuging. Die Intelligenz von Computern habe ja nur das Niveau eines Wurms erreicht. Menschen erlaubt man es noch eher, Fehler zu machen als einem Algorithmus. Schön ist die Geschichte, die Fry von Flugzeug-Piloten berichtet. Es brauche Dreierlei, um ein Flugzeug zu fliegen: einen Computer, einen Piloten und einen Hund. Der Pilot sei da, um den Hund zu füttern.  Die Aufgabe des Hundes sei es, den Piloten zu beißen, sobald dieser den Computer berührt.

Was der Firma Cambridge Analytica vorgeworfen wurde, war die Anwendung von Forschungsergebnissen, wie sie vorher auch von Clinton und Obama ausgenutzt wurden. So gelte als erwiesen, dass die Wähler der Republikaner eher Ford-Autos fahren als die der Demokraten. Der tatsächliche Effekt dieser genauen Gliederung des Wahlvolks (engl. micro-targeting) sei jedoch gering. Die freie Nutzung von Daten zähle zu den Stärken und Schwächen des Kapitalismus. Die Chinesen scheinen dies jedoch auf die Spitze zu  treiben. Europa dagegen ränge um einen Mittelweg. Die Datenschutz-Grundverordnung (engl. General Data Protection Regulation, Abk. GDPR) fände bereits Nachahmer in Argentinien, Brasilien und Südkorea.

Algorithmen in der Rechtsprechung und Verbrechensbekämpfung

Es ist nicht zu verkennen, dass unterschiedliche Richter für dasselbe Verbrechen unterschiedliche Strafen verhängen. Dasselbe trifft bei Begnadigungen und Bewährungen zu, für die das zukünftige Verhalten des Sträflings abgeschätzt wird. Man darf annehmen, dass in beiden Fällen Algorithmen zu Verbesserungen führen können. Die Kosten für einen Platz im Gefängnis sind nämlich in derselben Größenordnung wie die für einen Studienplatz in Harvard. Fehleinschätzungen können zu großem Schaden führen.

Es gibt geografische Muster für verschiedene Arten von Verbrechen, z. B. Einbruch und Vergewaltigungen. Auch sind sie nach Geschlecht und Alter unterschiedlich häufig. Die Anfälligkeit ist bei jungen Männern anders als bei Frauen. In allen Großstädten der Welt nutzt die Polizei Daten aus der Vergangenheit, um ihre Kontrollen zu verbessern. Vorhersagen zu treffen bezüglich der statistischen Wahrscheinlichkeit von Verbrechen ist möglich, nicht jedoch bezüglich des genauen Ortes und der involvierten Personen.

Die in der Gesichtserkennung benutzten Algorithmen haben in den letzten Jahrzehnten große Fortschritte gemacht. Sie finden vielfache Anwendungen, etwa im Gebäudezugang oder bei der Identifizierung von Handy-Besitzern. Beim Versuch, die automatische Gesichtserkennung bei der Identifizierung von Verbrechern einzusetzen, ist Vorsicht geboten. Hier sind DNA-Analysen wesentlich zuverlässiger.

In allen Fällen von Erkennungsproblemen und Vorhersagen kann es falsche Negative und falsche Positive geben, egal ob sie von Menschen oder von Algorithmen getroffen werden. Bei den falschen Negativen werden Fälle nicht erkannt, die erkannt werden müssten. Bei den falschen Positiven werden Fälle als zutreffend angegeben, die es nicht sind. Mal gibt es zu wenige Treffer, mal zu viele. Bei Algorithmen dienen explizite Regeln oder konkrete Daten als Basis. Es entspricht eher dem, was Daniel Kahneman als langsames Denken bezeichnet und nicht dem schnellen, intuitiven Denken, das im normalen Leben vorherrscht.

Algorithmen in der Medizin

Manche Tiere sind dem Menschen überlegen, was die Mustererkennung betrifft. So ist nachgewiesen, dass Tauben Brustkrebs am Bildschirm genauso gut erkennen können wie ein Pathologe. Moderne Algorithmen sollen mehr falsche Negative haben als ein Mensch, aber weniger falsche Positive.

Die Technik der Neuronalen Netze setzt sich immer mehr durch, vor allem seit der Kanadier Geoffrey Hinton ‚deep learning‘.erfunden hat [Hinton ist einer der Träger des Turing-Preises der ACM für 2018]. Je komplexer Netze werden, umso weniger können wir nachvollziehen, welche Daten wichtig waren.

IBMs Watson konnte seine Erwartungen in der Medizin bisher nicht erfüllen. Es mag daran liegen, dass medizinische Daten weniger gut strukturiert und weniger gut verknüpft sind, als die anderer Gebiete. Die englischen Krankenhäuser des NHS-Verbunds lehnen Raucher und Übergewichtige ab, wenn sie Knie- oder Hüftoperationen haben wollen. Ein privater Dienst (23andMe) besitzt genetische Daten von zwei Millionen Menschen, die für medizinische Zwecke verwandt werden können.

Algorithmen in der Technik

Über die vielen Anwendungen, die es in der Technik bereits gibt, wird wenig öffentlich diskutiert. Anders ist es mit dem autonomen Fahren. Hier rät die Autorin davon ab, zu viel zu erwarten oder zu verlangen. Ihr gefiel die Position eines Vertreters von Mercedes-Benz, der auf einer Fachtagung sagte, dass es ihre primäre Aufgabe sei, die Überlebenschancen ihrer Kunden zu verbessern. Systeme, die der Fahrerassistenz dienten, hätten Vorrang. Es gäbe immer noch zu viel Tote im Straßenverkehr. Für ihn könnten fahrerlose Autos anfangs ruhig im Konvoy fahren, was ja für Lastwagen durchaus Sinn macht.

Mathematisch gesehen sei Bayes‘ Theorem ein zentrales Werkzeug. Es gestatte es, Wissen graduell hinzuzufügen und damit die Zuverlässigkeit und Relevanz einer Lösung zu verbessern.

Algorithmen in der Kunst

Als weiteres Gebiet für die Anwendung von Algorithmen sieht Fry die Kunst. Dabei stieße man auf die Frage, was Qualität oder Schönheit sei. Natürlich ließe sich Musik im Stile Bachs komponieren, wenn man als Grundbaustein Bachs Akkorde verwende, [Da fällt mir ein, dass ich vor Jahren über ein Programm aus Amsterdam las, das wie Rembrandt malte]. Doug Hofstadter (*1955) stelle die Forderung auf, dass ein Programm, das Kunst erzeugt, echt schöpferisch sein müsste. Ob das sinnvoll ist, sei dahingestellt.

Schlussgedanken

Es sollte in offenen Diskussionen darüber gesprochen werden, was Algorithmen leisten können. Es wäre falsch, sie pauschal zu verdammen. Natürlich können Algorithmen Fehler enthalten oder einfach schlecht sein. Auch Menschen machen Fehler. Computer, d.h. Algorithmen, können helfen diese zu vermeiden oder ihre Folgen zu reduzieren. Es wäre dumm, wenn wir dies nicht täten. Was wir Menschen an Problemlösungen lernen, wird sich in anerkannten Algorithmen niederschlagen. Man sollte diese Form des Lernens nicht kleinreden oder unterschätzen. Dass die Autorin gewohnt ist, vor einem interessierten, aber kritischen Publikum aufzutreten, ist unverkennbar.