Abgasregelung und selbstfahrende Autos als ethische Probleme

Über ethische Prinzipien technischer Berufe wird meist nur in abstrakter Form gesprochen. Das ist das Gemeine und das Schöne am Abstrahieren. Es führt weg von der Verantwortung für den konkreten Einzelfall. Solche kommen in den ethischen Leitlinien für Informatiker und Ingenieure kaum vor. Sie sind wegabstrahiert. ‚Im Prinzip ja, aber …‘ so leitete auch Radio Eriwan früher seine Kritik an den Lügen des sozialistischen Systems ein. An zwei Fällen aus jüngster Zeit lässt sich das Thema etwas anders und zwar sehr konkret behandeln. Dass beide aus der Autobranche stammen ist kein Zufall. Einerseits stellen Autos ein extrem wichtiges Wirtschaftsgut dar, andererseits sind Autos zumindest in Deutschland das am meisten mit Informatik bestückte Massenprodukt. Ihre Rechnerleistung und Software-Ausstattung stiegen von Jahr zu Jahr.

Abgasregelung bei Dieselautos

Hier kam vor allem der VW-Konzern in Verruf. Alle  Medien wetteiferten darin, die Ursachen und die Folgen darzustellen. Ich gebe daher nur eine Kurzdarstellung. Man benutze Software, die betrüge. Das war die erste Nachricht. Vielleicht sei diese Software eigens von jemandem geschrieben oder verändert worden, der der deutschen Autoindustrie oder Martin Winterkorn eins auswischen wollte. Da gibt es Länder, Firmen und sogar reiche Familien, die dafür in Frage kämen. Wir sind Opfer, aber nicht Täter, war die anfängliche Vermutung.

Was in der Folge ans Tageslicht kam, passt überhaupt nicht in das übliche Schema. Es zeigte sich, dass im Falle von Dieselautos Ingenieure schon seit 10 Jahren echte Probleme haben. Die Lösung, die bei VW gewählt wurde, erinnert an den Beutel, den Diabeteskranke verwenden. Über eine zwei Meter lange externe Leitung wird dem Abgas Harnstoff (AdBlue) hinzugefügt, so dass es chemisch weniger Schaden anrichtet. Stickoxid wird in Stickstoff, CO₂ und Wasser umgewandelt. Mit anderen Worten: Jedes Dieselauto von VW wird zum Jaucheverteiler umfunktioniert. Es wird Software benötigt, die feststellt, wann das Versprühen von Jauche den Maximalwert erreichen soll. Das ist dann, wenn das Auto mit Vollgas fährt, sich aber nicht von der Stelle bewegt. Das ist immer dann der Fall, wenn auf einem Prüfstand Abgase gemessen werden.

Dieses durch den (nicht gerade genialen) Hardware-Entwurf erzeugte neue Problem durften Software-Entwickler lösen  ̶  und taten es. Die Software sorgt lediglich dafür, dass im Normalbetrieb Harnstoff gespart wird. Auch Jauche kostet Geld und kann nicht laufend nachgefüllt werden. Dafür sind sie jetzt die Prügelknaben. Es ist nicht nur die Software, sondern dieser ganze Systementwurf, der gegen geltendes Recht verstößt. Das betrifft zu allererst die Hardware, hier die Chemie, dann als deren Dienerin, auch die Software. Es ist mir unvorstellbar, dass dies im Geheimen geschah, d.h. ohne Wissen des technischen Managements. Gleichgültig auf welcher Ebene der Organisation, es muss Hunderte von Mitwissern gegeben haben. Das Ganze mit der Dummheit einiger Ingenieure oder Programmierer abzutun, geht leider nicht.

Die Aufklärung erfolgte bekanntlich durch eine amerikanische Hochschule (University of West Virginia) im Auftrag einer deutschen Umweltorganisation (ICCT). Die gemessenen Werte lagen bei einigen Fabrikaten beim 20- bis 50-fachen der Spezifikation. Dass die amerikanische Umweltbehörde (EPA) bereits Anfang 2014 davon erfuhr, lag nahe. Inzwischen hat es auch der Rest der Welt erfahren. Wie die schnelle Korrektur des Hardware-Entwurfs erfolgen kann, ist mir noch ein Rätsel. Im Zweifelsfall muss auch hier die Software helfen. Ein Nachbessern der Hardware ist bei mehreren Millionen Autos sehr teuer. Der Schaden für VW geht in die Milliarden. Viel schlimmer ist der Schaden, den die gesamte deutsche Industrie erleidet, die gerne mit dem Etikett German Engineering warb.

Unfälle durch selbstfahrende Autos

Das zweite Beispiel stammt rein zufällig ebenfalls aus der Automobilbranche. Es geht hier allerdings nur um potentielle Probleme. Die Realität steht uns vielleicht in 5-10 Jahren ins Haus. Auch hier geht es nur vordergründig um Software.

In einem aktuellen Beitrag [1] im Spektrum der Wissenschaft regen zwei Philosophen dazu an, Programmierern Regeln zu geben, welche sie bei der Programmierung selbstfahrender Autos verwenden sollten. Das Ergebnis ihrer Überlegung ist eher bescheiden. Gerät ein Fahrzeug in einen Unfall, soll es versuchen den Schaden zu minimieren. Dazu gehört, dass es versucht, Todesopfer zu vermeiden bzw. deren Zahl so gering wie möglich zu halten. Ein Programm sollte auf keinen Fall gezwungen werden, eine Abwägung zu treffen, welches von zwei Leben das wertvollere ist. Es darf weder alten Menschen einen Vorzug geben gegenüber Jungen, noch umgekehrt. Es sollte auch keine Schuldurteile fällen müssen. Möglich ist, dass es regelkonformes Verhalten von Verkehrsteilnehmern stärker schützt als regelwidriges Verhalten. Das entspräche der heutigen Rechtspraxis.

Ich möchte nicht versäumen zu bemerken, dass alles was in Richtung selbstfahrender Autos getan wird, den Effekt haben kann, dass sich die horrende Zahl der Verkehrstoten pro Jahr reduziert. Da helfen schon Assistenzsysteme.

Als Praktiker halte ich es für wichtig darauf hinzuweisen, dass Software-Entwickler gerne einen Bogen um jede Form von Produkthaftung machen. In einem Blog-Eintrag im November 2011 hatte ich diese Frage thematisiert. Eine Diskussion darüber wäre aber nützlich. Nur so viel: Der Entwickler könnte eine Haftungsversicherung abschließen. Er müsste einem Versicherer gegenüber nachweisen, dass er äußerste Sorgfalt angewandt hat. Dazu muss er anhand von reproduzierbaren Testergebnissen beweisen, dass er alle relevanten Klassen von Einsatzfällen abgedeckt hat. Was relevant ist, muss sowohl vom Problem als von der Struktur des Programmes abgeleitet sein. Das ist ein technische Fragestellung, die hier nicht vertieft werden kann. Die Meinung, dass ein mathematischer Beweis ausreichend ist, kann ich leider nicht teilen. Oft wird nicht hinreichend beachtet, für welchen Teil der Realität er gilt. Es kann sein, dass er bis zu 50% der möglichen Fehler nicht erfasst.

Konsequenzen

Man kann aus Schaden klüger werden, so lautet eine Volksweisheit. Nach dem Abgasskandal verkündete der SPIEGEL (in Heft 40/2015), dass sich die deutsche Industrie von Arroganz und Selbstgefälligkeit verabschieden sollte. Ich möchte hierbei einige Vertreter deutscher Hochschulen mit einschließen. Unter ihnen galt es lange Zeit als schick, auf die Ausbildung amerikanischer Ingenieure und Informatiker herabzublicken. Ihre Lehrmethoden sind jedoch meist weniger von dem überlastet, was man bei uns gerne als Theorie bezeichnet, die es aber nicht ist. Die Beschäftigung mit realen Fällen kann immer helfen, auch bei der Vermittlung ethischer Prinzipien.

Referenz

1.  Hevelke, A., Nida-Rümelin, J.: Intelligente Autos im Dilemma. Spektrum der Wissenschaft, Oktober 2015, 82-85