Freitag, 27. April 2018

Digitalisierung und KI als angebliche Bedrohung für Demokratie und Gesellschaft

In meinen bisherigen Ausführungen zum Thema Digitalisierung habe ich mich primär mit ihren technischen Aspekten befasst, so auch in einem vor Kurzem erschienenen Interview. Die Künstliche Intelligenz (KI) habe ich bisher nur sporadisch angesprochen. Bei vielen aktuellen Stellungnahmen stehen für beides ihre gesellschaftlichen und politischen Auswirkungen im Vordergrund. Über die Dramatik mancher Darstellungen und Schlussfolgerungen kann ich nur staunen. Ein Beispiel hierfür ist das Buch Das Ende der Demokratie (2016, 512 S.) der Juristin Yvonne Hofstetter (*1966). Sie ist im Hauptberuf Geschäftsführerin der Beratungsfirma Teramark Technologies in Freising bei München. Der Untertitel des Buches lautet: ‚Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt.‘ Wen das nicht aufrüttelt, der muss taub oder dement sein. Alle Parteien im Bundestag müssten sich angesprochen fühlen, nicht nur die der Groko. Vielleicht erfasste es bereits den bayrischen Landtag. Das ist mir jedoch entgangen.

Digitalisierung und KI, zwei Technologien ganz besonderer Art

Für einen Laien birgt die Informatik offensichtlich zwei Bedrohungen, die sich gegenseitig komplementieren. Die eine bereitet der anderen den Weg. Durch die Digitalisierung werden die Schleusen geöffnet für eine Überschwemmung mit Daten. ‚Big Data‘ nennt man das Phänomen. Die KI liefert ungeahnte Werkzeuge, um diese Datenflut zu steuern und zu analysieren. Ihre Möglichkeiten gehen weit über das hinaus, was ein einzelner Mensch kann. Sie ermöglicht Einsichten, die ansonsten unmöglich wären. Sie gestattet es, Dinge festzustellen oder zu finden, die selbst einem versierten Fachmann entgehen würden. Hofstetter fühlt sich berufen und verpflichtet, auf die daraus erwachsenen Gefahren hinzuweisen und zu warnen. Bezüglich konkreter Empfehlungen zur Lösung der Probleme tut sie sich etwas schwer.

Digitalisierung als Fluch der Menschheit

Gleich an Anfang fragt Hofstetter: Was wird aus Gesellschaft und Mensch, wenn die KI immer mehr an Einfluss gewinnt? Selbst der klügste Mensch könnte heute die ihn umgebende Komplexität nicht mehr beherrschen, sei es in der Medizin, den Finanzmärkten, im Verkehr, dem Klima, etc.. Der selbstbestimmte Mensch der Aufklärung sei vergreist. An seine Stelle trete der ‚homo informaticus‘. Der gehorche Computern und Assistenzsystemen. Es herrsche ein digitaler Imperialismus, der alles überwacht. Sein Werkzeug sei das Internet. Es wurde eingeführt mit dem Versprechen von mehr Demokratie. Gebracht habe es mehr Überwachung.

Die Digitalisierung zerstöre alles, was war. Sie verändere die freiheitlich-demokratische Grundordnung. Als Kulturleistung überwinde sie alles was Natur ist, genau wie alle andern Kulturleistungen der Menschheit vorher. Sie erlöse die Welt von ihren Leiden. Big Data helfe dabei. Mathematiker, Physiker, Ingenieure und Informationstheoretiker wüssten Bescheid [Informatiker kommen im Buch kaum vor]. Sie alle bezeichneten die Digitalisierung als Debakel.

Die Digitalisierung verändere die Vorstellung von Mensch, Gesellschaft und Staat. Die Überwachung sei systemisch. Wir Deutsche könnten das Überwachen besonders gut. Dabei erinnert Hofstetter an das Jahr 1848 und das Schicksal von Robert Blum. Er war Mitglied des Frankfurter Paulskirchen-Parlaments und wurde in Wien standrechtlich erschossen. Auch ein Aufstand wie der 1989 in der DDR sei nicht mehr möglich, da inzwischen alle Leute per Handy überwacht würden. Wenn wir KI treiben, kopierten wir den Menschen. Der Mensch würde zum Ding. Das selbstfahrende Auto träfe Entscheidungen über Leben und Tod. Schon Norbert Wiener (1894-1964) habe in seiner Kybernetik Mensch und Maschine gleichgesetzt. Chiles Salvador Allende (1908-1973) wollte die Wirtschaft seines Landes 100% durch Maschinen steuern lassen. Heute bräuchten wir keinen Staat mehr. Er sei zur nutzlosen Hülle verkommen. Das Smartphone fülle die Leere aus, die durch den von Nietzsche verkündeten Tod Gottes entstand.

Komplexe Systeme, selbst in der Physik

Früher hätten Physiker nach Invarianzen und Symmetrien gesucht. Erst die Biologie entdeckte die Emergenz. Jetzt befassten sich alle Wissenschaften mit Komplexität, wie sie die Chaos-Theorie lehrt. Komplexe Systeme seien meist dynamisch und verschachtelt. Ihre Teilsysteme bewegten sich mit unterschiedlicher Geschwindigkeit. Die Digitalisierung träfe auf komplexe adaptive Systeme von Systemen. Wie beim Einschlag eines Meteoriten, so läuft nichts linear ab. Ohne Smartphones hätte sich die Migrationswelle des Jahres 2015 anders entwickelt. Eine Twitter-Nachricht der Nürnberger Migrationsbehörde (BAMF) vom 25. August 2015, dass Dublin für Syrer ausgesetzt sei, hätte sich wie ein Lauffeuer im Netz verbreitet. Zwei Tage später fand man 71 Erstickte in einem Kühllaster auf der Autobahn. Die Chaos-Theorie komme mit deutlich weniger heftigen Störungen aus, nämlich der berühmten Bewegung eines Schmetterlingsflügels.

Modellvorstellungen für Gesellschaft und Demokratie

Wie lässt sich die repräsentative Demokratie modellieren? Das diskutiert Hofstetter mit zwei nicht-fiktiven, namentlich genannten Mitarbeitern ihrer Firma. Sie liefern dazu eine Reihe von Gedanken und versuchen sich an der Implementierung von Modellen. Es verschafft damit dem Buch eine Art von Spannung, da das Ergebnis erst auf der allerletzten Seite verraten wird. Hofstetter bricht dort das unvollendete Projekt ab.

Immerhin, die gestellten Fragen lockern den Text auf. Wie beschreibt man die Grundprinzipien einer Demokratie? Was ist die Nutzenfunktion einer Demokratie? In welchem Zusammenhang stehen so unterschiedliche Ziele wie Glück, Zufriedenheit, Sicherheit, Bildung, Gesundheit und Einkommen? Wie kann eine KI [hier als Personifikation gedacht] sie erkennen? Wieviel Gruppen-Psychologie muss berücksichtigt werden? Schließlich: Wie erkennt man Muster in Daten? Korrelationen zu finden reicht sicher nicht. Sind Interaktionen mächtiger als Algorithmen? Ein weiteres schönes Forschungsthema!

Für die Modellbildung könnte ein Multi-Agenten-System (MAS) dienen. Es ist dies ein Thema, das einst die KI-Forschung umtrieb. Man hat bekanntlich die Finanzmärkte durch idealisierende Modelle zu erklären versucht, mit bescheidenem Erfolg. MAS-Modelle müssten besser sein, da man mit ihnen auch Crashs simulieren kann. Crashs seien intrinsisch für Finanzmärkte. MAS-Modelle seien übrigens vor 20 Jahren in der europäischen Forschung entstanden. Leider sei der europäische Vorsprung inzwischen ‚evaporiert‘.

Mögliche Zukünfte für Europa

Anstatt Prognosen abzugeben werden mehrere mögliche Szenarien durchgespielt, wie sich die europäischen Demokratien entwickeln könnten. Da das Buch etwa ein Jahr vor der letzten Präsidentenwahl Frankreichs entstand, lag es nahe sich zu überlegen, was passieren könnte, wenn Marine Le Pen die Wahl gewinnt. Es wird angenommen, dass sie Frankreich wie versprochen aus dem Euro und der EU führen würde. Euroland und EU würden aufhören zu existieren. Interessant ist dabei die Annahme, dass Le Pen eine bargeldlose Währung einführt (‚digifranc‘ genannt). Diese würde dem Euro gegenüber um etwa 20% abgewertet. Das würde zu Unruhen in Paris führen. Wie gut zu wissen, dass dieses Szenario uns erspart blieb. Viel schwerer tun sich die Modellierer damit, die Zinspolitik der EZB vorherzusagen und zu bewerten, oder gar den Brexit mit allen seinen Folgen durchzuspielen.

Besonderheiten der digitalen Wirtschaft

Die Besonderheiten, die eine digitalisierte Wirtschaft auszeichnen, sind hinlänglich bekannt. Hofstetter hebt einige von ihnen besonders hervor. So mache die Digitalisierung alles smart: Städte, Häuser, Kühlschränke, usw. Zusätzlich zu den globalen Strömen von Gütern, Menschen und Geld, kämen jetzt auch Informationsströme hinzu. Drei Länder nähmen hier Spitzenpositionen ein: USA, Singapur und die Niederlande. Software fresse die Welt auf – ein berühmtes Zitat von Marc Andreessen. Was wir verstehen, kann automatisiert werden. Immer öfter verdränge Kapital Arbeit. Die Kapitalbesitzer werden reicher, die Arbeiter ärmer. Der normale Mensch nimmt nicht mit seiner Arbeit, sondern mit seinen Daten an der Wirtschaft teil. Er erhält eine scheinbar kostenlose Teilhabe.

Hofstetter zitiert die bekannte Studie der Universität Oxford, dass 50% aller heute aktiven Berufe in Zukunft wegfallen werden. Um wie viele Stellen es sich dabei handelt, weiß sie auch nicht. Dass viele digitale Produkte nur verschenkt werden, beunruhigt sie zutiefst [Dass dieselben Unternehmen dennoch hohe Einnahmen verzeichnen, scheint ihr entgangen zu sein].

Lernende KI-Systeme

Sehr viel Akribie wird darauf verwandt zu erklären, wie eine KI lernt. Heutige neuronale Netze würden über Gedächtnis und Hierarchien verfügen. In den Tiefenschichten würden Neuronen nicht nur parallel, sondern hintereinander geschaltet. Sie würden auf jeder Ebene einzeln trainiert. Zusätzlich würden Markov-Ketten benutzt. Mehrfach wird Jürgen Schmidhuber (*1963) erwähnt, ein Münchner Informatiker, der in Lugano lehrt. Auch er arbeite an einem digitalen Weltmodell.

Künstlicher Politiker und gelenkte Gesellschaft

Ein weiteres Projekt ihrer Mitarbeiter besteht darin, einen künstlichen Politiker zu bauen (Ai genannt). Er soll darauf trainiert werden politische Unfälle zu verhindern. So soll er die Franzosen davon abbringen, Marine Le Pen zu wählen. Das soll geschehen, indem entsprechende Nachrichten erzeugt und im Netz verbreitet werden. Hofstetter gibt zu, dass wir nicht wissen, was die Digitalisierung alles bewirkt. Sie glaubt, dass die aus der Biologie bekannte Selbstregulierung komplexer Systeme zu unsicher ist. Wer die Demokratie retten will, muss daher eine algorithmische Kontrolle zulassen und vorsehen. Jedenfalls wäre eine Lenkung durch Algorithmen billiger als die klassische Demokratie. Auch hätte sie Vorteile bezüglich ihrer Bequemlichkeit.

Positives Recht gegenüber Code als Recht

Juristen bewegt die Frage, ob die Gesetzgebung grundsätzlich an das Medium Text gebunden ist, oder anders ausgedrückt, kann nicht Programmcode Recht etablieren? Ein gedruckter Text stellt nur eine Vorschrift dar, an die man sich halten kann oder auch nicht. Ein Code würde das Gesetz erzwingen. Das wäre besonders dann der Fall, wenn ein KI-System Teile der Gesellschaft steuert.

Neues Phänomen: Informationskapitalismus

Waren die bisherigen Ausführungen eher allgemeiner Art, wird die Autorin in einem Punkte relativ konkret. Sie prägt den Begriff des Informationskapitalismus und setzt ihn mit der Überwachung durch ein Konsortium privater Unternehmen gleich. Es handelt sich um Google, Apple, Facebook, Amazon und Microsoft, abgekürzt GAFAM [die Firmen IBM, Oracle und SAP dürfen sich freuen, dass sie nicht dabei sind]. Die fünf genannten Firmen hätten sich eine Macht angeeignet, die eigentlich nur dem Staat zustünde. Sie würden die Bürger entmündigen. Da nur Google weiß, wie sein Suchalgorithmus funktioniert, würde diese Firma entscheiden, was Relevanz für uns hat und was Wahrheit sei. Ein Nachprüfen sei unmöglich.

Der Zugriff auf Wissen müsste Teil der Daseinsvorsorge sein, für die der Staat zuständig ist. Es müsste auf Ausgewogenheit und Balance Wert gelegt werden. [Hier frage ich mich immer, was mit Staat gemeint ist. Ist es der Bundestaat Delaware, die USA, die Volksrepublik China, die Bundesrepublik Deutschland oder die EU?]. Die Philosophin Hannah Arendt (1906-1975) hätte bereits Forderungen erhoben und die Verantwortungen definiert, die von Informationsdiensten erfüllt werden müssen. Die EU habe den Kampf aufgenommen und mit der Datenschutzverordnung (DSGVO), die im Mai 2018 in Kraft tritt, die Richtung vorgegeben.

Kritische Bewertung

Ich kann der Autorin des Buches nicht den Vorwurf ersparen, dass es ihr primär darum geht, einen Popanz aufzubauen. Ein Popanz ist eine Schreckgestalt, eine vermeintliche Bedrohung. Um zu einer echten Gefahr zu werden, müssen zuerst noch eine ganze Reihe von Dingen zusammenkommen, von denen nur schemenhafte Vorahnungen existieren. Das schließt nicht aus, dass einzelne Dinge durchaus bedrohliche Formen annehmen können oder bereits angenommen haben.

Der Umschlagtext, den ja der Verlag und nicht notwendigerweise die Autorin selbst verfasst hat, geht eindeutig in diese Richtung. ‚Der Umbau der Gesellschaft in die Herrschaft der künstlichen Intelligenz ist in vollem Gange. Ob wir sie tatsächlich wollen, darüber haben wir niemals demokratisch abgestimmt. Drohen also Freiheit und Demokratie zwischen Politikversagen und Big Data zerrieben zu werden?‘ Die Frage wird offen gelassen. Meine Antwort heißt eindeutig: Nein.

Nicht verhehlen möchte ich meine Sorge, dass diese Art von Veröffentlichungen nicht dazu geeignet ist, die in Deutschland leider immer noch anzutreffende Technikfeindlichkeit zu überwinden. Wenn auch nicht alle sich davon beeinflussen lassen, was Juristen zu technischen Fragen zu sagen haben, ist der potentielle Schaden nicht zu ignorieren.

Keine Kommentare:

Kommentar veröffentlichen