In meinen bisherigen Ausführungen zum Thema Digitalisierung habe
ich mich primär mit ihren technischen Aspekten befasst, so auch in einem vor
Kurzem erschienenen Interview.
Die Künstliche Intelligenz (KI) habe ich bisher nur sporadisch angesprochen. Bei
vielen aktuellen Stellungnahmen stehen für beides ihre gesellschaftlichen und politischen
Auswirkungen im Vordergrund. Über die Dramatik mancher Darstellungen und
Schlussfolgerungen kann ich nur staunen. Ein Beispiel hierfür ist das Buch Das Ende der Demokratie (2016,
512 S.) der Juristin Yvonne
Hofstetter (*1966). Sie ist im Hauptberuf Geschäftsführerin der
Beratungsfirma Teramark Technologies in Freising bei München. Der Untertitel
des Buches lautet: ‚Wie die künstliche Intelligenz die Politik übernimmt und uns
entmündigt.‘ Wen das nicht aufrüttelt, der muss taub oder dement sein. Alle
Parteien im Bundestag müssten sich angesprochen fühlen, nicht nur die der
Groko. Vielleicht erfasste es bereits den bayrischen Landtag. Das ist mir jedoch
entgangen.
Digitalisierung und KI, zwei Technologien ganz besonderer Art
Für einen Laien birgt die Informatik offensichtlich zwei
Bedrohungen, die sich gegenseitig komplementieren. Die eine bereitet der anderen
den Weg. Durch die Digitalisierung werden die Schleusen geöffnet für eine
Überschwemmung mit Daten. ‚Big Data‘ nennt man das Phänomen. Die KI liefert ungeahnte
Werkzeuge, um diese Datenflut zu steuern und zu analysieren. Ihre Möglichkeiten
gehen weit über das hinaus, was ein einzelner Mensch kann. Sie ermöglicht
Einsichten, die ansonsten unmöglich wären. Sie gestattet es, Dinge
festzustellen oder zu finden, die selbst einem versierten Fachmann entgehen
würden. Hofstetter fühlt sich berufen und verpflichtet, auf die daraus
erwachsenen Gefahren hinzuweisen und zu warnen. Bezüglich konkreter
Empfehlungen zur Lösung der Probleme tut sie sich etwas schwer.
Digitalisierung als Fluch der Menschheit
Gleich an Anfang fragt Hofstetter: Was wird aus Gesellschaft und Mensch,
wenn die KI immer mehr an Einfluss gewinnt? Selbst der klügste Mensch könnte heute
die ihn umgebende Komplexität nicht mehr beherrschen, sei es in der Medizin, den
Finanzmärkten, im Verkehr, dem Klima, etc.. Der selbstbestimmte Mensch der
Aufklärung sei vergreist. An seine Stelle trete der ‚homo informaticus‘. Der
gehorche Computern und Assistenzsystemen. Es herrsche ein digitaler
Imperialismus, der alles überwacht. Sein Werkzeug sei das Internet. Es wurde
eingeführt mit dem Versprechen von mehr Demokratie. Gebracht habe es mehr
Überwachung.
Die Digitalisierung zerstöre alles, was war. Sie verändere die freiheitlich-demokratische
Grundordnung. Als Kulturleistung überwinde sie alles was Natur ist, genau wie
alle andern Kulturleistungen der Menschheit vorher. Sie erlöse die Welt von ihren
Leiden. Big Data helfe dabei. Mathematiker, Physiker, Ingenieure und Informationstheoretiker
wüssten Bescheid [Informatiker kommen im Buch kaum vor]. Sie alle bezeichneten die
Digitalisierung als Debakel.
Die Digitalisierung verändere die Vorstellung von Mensch,
Gesellschaft und Staat. Die Überwachung sei systemisch. Wir Deutsche könnten das Überwachen
besonders gut. Dabei erinnert Hofstetter an das Jahr 1848 und das Schicksal von
Robert Blum. Er war Mitglied des Frankfurter Paulskirchen-Parlaments und wurde
in Wien standrechtlich erschossen. Auch ein Aufstand wie der 1989 in der DDR sei
nicht mehr möglich, da inzwischen alle Leute per Handy überwacht würden. Wenn
wir KI treiben, kopierten wir den Menschen. Der Mensch würde zum Ding. Das selbstfahrende
Auto träfe Entscheidungen über Leben und Tod. Schon Norbert
Wiener (1894-1964) habe in seiner Kybernetik Mensch und Maschine gleichgesetzt.
Chiles Salvador
Allende (1908-1973) wollte die Wirtschaft seines Landes 100% durch
Maschinen steuern lassen. Heute bräuchten wir keinen Staat mehr. Er sei zur nutzlosen
Hülle verkommen. Das Smartphone fülle die Leere aus, die durch den von
Nietzsche verkündeten Tod Gottes entstand.
Komplexe Systeme, selbst in der Physik
Früher hätten Physiker nach Invarianzen und Symmetrien gesucht.
Erst die Biologie entdeckte die Emergenz. Jetzt befassten sich alle
Wissenschaften mit Komplexität, wie sie die Chaos-Theorie lehrt. Komplexe
Systeme seien meist dynamisch und verschachtelt. Ihre Teilsysteme bewegten sich
mit unterschiedlicher Geschwindigkeit. Die Digitalisierung träfe auf komplexe
adaptive Systeme von Systemen. Wie beim Einschlag eines Meteoriten, so läuft nichts
linear ab. Ohne Smartphones hätte sich die Migrationswelle des Jahres 2015 anders
entwickelt. Eine Twitter-Nachricht der Nürnberger Migrationsbehörde (BAMF) vom 25.
August 2015, dass Dublin für Syrer ausgesetzt sei, hätte sich wie ein Lauffeuer
im Netz verbreitet. Zwei Tage später fand man 71 Erstickte in einem Kühllaster
auf der Autobahn. Die Chaos-Theorie komme mit deutlich weniger heftigen
Störungen aus, nämlich der berühmten Bewegung eines Schmetterlingsflügels.
Modellvorstellungen für Gesellschaft und Demokratie
Wie lässt sich die repräsentative Demokratie modellieren? Das
diskutiert Hofstetter mit zwei nicht-fiktiven, namentlich genannten
Mitarbeitern ihrer Firma. Sie liefern dazu eine Reihe von Gedanken und
versuchen sich an der Implementierung von Modellen. Es verschafft damit dem
Buch eine Art von Spannung, da das Ergebnis erst auf der allerletzten Seite
verraten wird. Hofstetter bricht dort das unvollendete Projekt ab.
Immerhin, die gestellten Fragen lockern den Text auf. Wie
beschreibt man die Grundprinzipien einer Demokratie? Was ist die Nutzenfunktion
einer Demokratie? In welchem Zusammenhang stehen so unterschiedliche Ziele wie Glück,
Zufriedenheit, Sicherheit, Bildung, Gesundheit und Einkommen? Wie kann eine KI
[hier als Personifikation gedacht] sie erkennen? Wieviel Gruppen-Psychologie
muss berücksichtigt werden? Schließlich: Wie erkennt man Muster in Daten?
Korrelationen zu finden reicht sicher nicht. Sind Interaktionen mächtiger als
Algorithmen? Ein weiteres schönes Forschungsthema!
Für die Modellbildung könnte ein Multi-Agenten-System (MAS)
dienen. Es ist dies ein Thema, das einst die KI-Forschung umtrieb. Man hat
bekanntlich die Finanzmärkte durch idealisierende Modelle zu erklären versucht,
mit bescheidenem Erfolg. MAS-Modelle müssten besser sein, da man mit ihnen auch
Crashs simulieren kann. Crashs seien intrinsisch für Finanzmärkte. MAS-Modelle
seien übrigens vor 20 Jahren in der europäischen Forschung entstanden. Leider
sei der europäische Vorsprung inzwischen ‚evaporiert‘.
Mögliche Zukünfte für Europa
Anstatt Prognosen abzugeben werden mehrere mögliche Szenarien durchgespielt,
wie sich die europäischen Demokratien entwickeln könnten. Da das Buch etwa ein
Jahr vor der letzten Präsidentenwahl Frankreichs entstand, lag es nahe sich zu
überlegen, was passieren könnte, wenn Marine Le Pen die Wahl gewinnt. Es wird
angenommen, dass sie Frankreich wie versprochen aus dem Euro und der EU führen
würde. Euroland und EU würden aufhören zu existieren. Interessant ist dabei die
Annahme, dass Le Pen eine bargeldlose Währung einführt (‚digifranc‘ genannt). Diese
würde dem Euro gegenüber um etwa 20% abgewertet. Das würde zu Unruhen in Paris
führen. Wie gut zu wissen, dass dieses Szenario uns erspart blieb. Viel
schwerer tun sich die Modellierer damit, die Zinspolitik der EZB vorherzusagen
und zu bewerten, oder gar den Brexit mit allen seinen Folgen durchzuspielen.
Besonderheiten der digitalen Wirtschaft
Die Besonderheiten, die eine digitalisierte Wirtschaft
auszeichnen, sind hinlänglich bekannt. Hofstetter hebt einige von ihnen
besonders hervor. So mache die Digitalisierung alles smart: Städte, Häuser,
Kühlschränke, usw. Zusätzlich zu den globalen Strömen von Gütern, Menschen und
Geld, kämen jetzt auch Informationsströme hinzu. Drei Länder nähmen hier
Spitzenpositionen ein: USA, Singapur und die Niederlande. Software fresse die
Welt auf – ein berühmtes Zitat von Marc Andreessen.
Was wir verstehen, kann automatisiert werden. Immer öfter verdränge Kapital
Arbeit. Die Kapitalbesitzer werden reicher, die Arbeiter ärmer. Der normale Mensch
nimmt nicht mit seiner Arbeit, sondern mit seinen Daten an der Wirtschaft teil.
Er erhält eine scheinbar kostenlose Teilhabe.
Hofstetter zitiert die bekannte Studie der Universität Oxford,
dass 50% aller heute aktiven Berufe in Zukunft wegfallen werden. Um wie viele
Stellen es sich dabei handelt, weiß sie auch nicht. Dass viele digitale
Produkte nur verschenkt werden, beunruhigt sie zutiefst [Dass dieselben
Unternehmen dennoch hohe Einnahmen verzeichnen, scheint ihr entgangen zu sein].
Lernende KI-Systeme
Sehr viel Akribie wird darauf verwandt zu erklären, wie eine KI
lernt. Heutige neuronale Netze würden über Gedächtnis und Hierarchien verfügen.
In den Tiefenschichten würden Neuronen nicht nur parallel, sondern
hintereinander geschaltet. Sie würden auf jeder Ebene einzeln trainiert.
Zusätzlich würden Markov-Ketten benutzt. Mehrfach wird Jürgen
Schmidhuber (*1963) erwähnt, ein Münchner Informatiker, der in Lugano lehrt.
Auch er arbeite an einem digitalen Weltmodell.
Künstlicher Politiker und gelenkte Gesellschaft
Ein weiteres Projekt ihrer Mitarbeiter besteht darin, einen
künstlichen Politiker zu bauen (Ai genannt). Er soll darauf trainiert werden
politische Unfälle zu verhindern. So soll er die Franzosen davon abbringen,
Marine Le Pen zu wählen. Das soll geschehen, indem entsprechende Nachrichten
erzeugt und im Netz verbreitet werden. Hofstetter gibt zu, dass wir nicht
wissen, was die Digitalisierung alles bewirkt. Sie glaubt, dass die aus der
Biologie bekannte Selbstregulierung komplexer Systeme zu unsicher ist. Wer die
Demokratie retten will, muss daher eine algorithmische Kontrolle zulassen und
vorsehen. Jedenfalls wäre eine Lenkung durch Algorithmen billiger als die
klassische Demokratie. Auch hätte sie Vorteile bezüglich ihrer Bequemlichkeit.
Positives Recht gegenüber Code als Recht
Juristen bewegt die Frage, ob die Gesetzgebung grundsätzlich an
das Medium Text gebunden ist, oder anders ausgedrückt, kann nicht Programmcode
Recht etablieren? Ein gedruckter Text stellt nur eine Vorschrift dar, an die
man sich halten kann oder auch nicht. Ein Code würde das Gesetz erzwingen. Das
wäre besonders dann der Fall, wenn ein KI-System Teile der Gesellschaft steuert.
Neues Phänomen: Informationskapitalismus
Waren die bisherigen Ausführungen eher allgemeiner Art, wird die
Autorin in einem Punkte relativ konkret. Sie prägt den Begriff des Informationskapitalismus und setzt ihn
mit der Überwachung durch ein Konsortium privater Unternehmen gleich. Es
handelt sich um Google, Apple, Facebook, Amazon und Microsoft, abgekürzt GAFAM [die Firmen IBM, Oracle und SAP dürfen
sich freuen, dass sie nicht dabei sind]. Die fünf genannten Firmen hätten sich
eine Macht angeeignet, die eigentlich nur dem Staat zustünde. Sie würden die
Bürger entmündigen. Da nur Google weiß, wie sein Suchalgorithmus funktioniert,
würde diese Firma entscheiden, was Relevanz für uns hat und was Wahrheit sei. Ein
Nachprüfen sei unmöglich.
Der Zugriff auf Wissen müsste Teil der Daseinsvorsorge sein, für
die der Staat zuständig ist. Es müsste auf Ausgewogenheit und Balance Wert
gelegt werden. [Hier frage ich mich immer, was mit Staat gemeint ist. Ist es
der Bundestaat Delaware, die USA, die Volksrepublik China, die Bundesrepublik
Deutschland oder die EU?]. Die Philosophin Hannah Arendt (1906-1975)
hätte bereits Forderungen erhoben und die Verantwortungen definiert, die von
Informationsdiensten erfüllt werden müssen. Die EU habe den Kampf aufgenommen
und mit der Datenschutzverordnung (DSGVO), die im Mai 2018 in Kraft tritt, die
Richtung vorgegeben.
Kritische Bewertung
Ich kann der Autorin des Buches
nicht den Vorwurf ersparen, dass es ihr primär darum geht, einen Popanz
aufzubauen. Ein Popanz ist eine Schreckgestalt, eine vermeintliche Bedrohung.
Um zu einer echten Gefahr zu werden, müssen zuerst noch eine ganze Reihe von
Dingen zusammenkommen, von denen nur schemenhafte Vorahnungen existieren. Das
schließt nicht aus, dass einzelne Dinge durchaus bedrohliche Formen annehmen
können oder bereits angenommen haben.
Der Umschlagtext, den ja der
Verlag und nicht notwendigerweise die Autorin selbst verfasst hat, geht
eindeutig in diese Richtung. ‚Der Umbau der Gesellschaft in die Herrschaft der
künstlichen Intelligenz ist in vollem Gange. Ob wir sie tatsächlich wollen,
darüber haben wir niemals demokratisch abgestimmt. Drohen also Freiheit und
Demokratie zwischen Politikversagen und Big Data zerrieben zu werden?‘ Die
Frage wird offen gelassen. Meine Antwort heißt eindeutig: Nein.
Nicht verhehlen möchte ich meine
Sorge, dass diese Art von Veröffentlichungen nicht dazu geeignet ist, die in
Deutschland leider immer noch anzutreffende Technikfeindlichkeit zu überwinden.
Wenn auch nicht alle sich davon beeinflussen lassen, was Juristen zu
technischen Fragen zu sagen haben, ist der potentielle Schaden nicht zu ignorieren.