Mittwoch, 2. April 2014

Information als Grundstein biologischen Lebens

Ein Thema, das in diesem Blog immer wieder auftaucht, ist das rechte Verständnis des Begriffs Information in den verschiedenen Fachgebieten. Obwohl Hans Diel, Peter Hiemann und ich glaubten, das Thema im September 2011 wirklich erschöpfend behandelt zu haben, tauchen immer wieder neue Aspekte auf, die Schwierigkeiten zu machen scheinen. Dieser Tage war es wieder soweit. Heinz Penzlin schrieb in dem soeben in diesem Blog besprochenen Buch über Biologie: Das Leben sei das Produkt der Dreiheit von Energie, Stoff und Information. Es fiel auf, wie schwer sich dabei Biologen immer noch mit dem Begriff Information tun. Ich konnte nicht umhin zu bemerken:

Es ist schon erstaunlich, dass die Biologie sich [was den Begriff Information betrifft] immer wieder in die Irre führen lässt, waren doch Manfred Eigen und Carl Friedrich von Weizsäcker sehr klar in ihren Aussagen.  … Weizsäcker [wird] zitiert mit dem Satz: ‚Information ist nur das, was verstanden wird‘.

Die zweite Forderung, die immer wieder erhoben wird, heißt, nur neues Wissen kann Information sein. Eine simple Wiederholung derselben Daten ist (in der Regel) keine neue Information. Die Frage, die ich heute beantworten möchte, lautet: Wie lassen sich ‚verstehen‘ und ‚neues Wissen‘ exakt beschreiben? Das ist wirklich nicht schwer. Einen dritten Aspekt, den des Vergessens, will ich außer acht lassen. Er ist zwar interessant beim Vergleich zwischen Menschen und Maschinen. Er trägt zur Konkretisierung des Informationsbegriffs jedoch nicht bei.

Verstehen und Nicht-Verstehen

Im extremsten Falle heißt Nicht-Verstehen, dass ein gerade vorliegendes Signal z ϵ Z nicht interpretiert werden kann. Es erscheint als Rauschen. Da Information nicht nur aus dem Signal allein abgeleitet werden kann, muss immer ein Bezug zu etwas anderem hergestellt werden. Dieser Bezugspunkt heißt Bedeutung. Man kann sie als Symbol s ϵ S auffassen, als Vertreterin des Bedeutungsbereichs. Diese Beziehung lässt sich als Abbildung oder Funktion I auffassen.

I: Z S

Mathematisch ausgedrückt bedeutet Nicht-Verstehen, dass bezogen auf die Funktion I der Eingabewert außerhalb des Definitionsbereich z ϵ Z liegt oder innerhalb des Definitionsbereichs an einer Stelle, an der kein Wert s ϵ S existiert. Man sagt auch, dass die Funktion I unvollständig ist. Die immer wieder auftretende Schwierigkeit, die viele Menschen haben, besteht darin, dass sie glauben, Information sei eine skalare Größe, so wie Gewicht oder Temperatur.

Die hier benutzte Notation lehnt sich an eine frühere Veröffentlichung [1] zu dem Thema an. I steht für Information, Z für Signal und S für Symbol. Große Buchstaben bezeichnen Mengen; kleine Buchstaben bezeichnen die Elemente der Menge gleichen Namens. Man kann auch sagen, dass Information immer als Tupel <z,s> aufzufassen ist. Dass es im Falle von Z und S eigentlich Potenzmengen sind, ist hier außer acht gelassen, ebenso dass die Signale z ϵ Z nicht immer eindeutig sind und durch die Angabe eines Kontexts eindeutig gemacht werden müssen.

Sprach- und Wissenserwerb

Es drängt sich die Frage auf, wie die erwähnten Tupelmengen zustande kommen. Der Vorgang wird – nicht nur beim Menschen – als Lernen bezeichnet. Er besteht im Prinzip, d.h. in seiner Grundform, darin, sich Tupel zu merken. Beim Menschen geschieht dies durch wiederholtes Lesen, evtl. unterstützt durch lautes Aufsagen. Ein klassisches Beispiel ist das Vokabellernen:

<arm, Arm>, <leg, Bein>, <head, Kopf>, …

Auch innerhalb derselben Sprache kann man mittels Tupeln lernen, und zwar indem man auf die Signale mit den Fingern hinweist, oder sie grafisch darstellt:

Die hier gezeigten Tupel haben statischen Charakter, d.h. sie bleiben unverändert in Ort und Zeit. Viele andere gelten nur, bezogen auf einen Zeitpunkt oder Ort. Beispiele sind Klimadaten wie Temperatur, Luftfeuchtigkeit und Windstärke. Es muss dann immer eine Zeit- oder Ortsangabe hinzugefügt werden.

Anekdote: Unsere älteste Tochter lebte mit uns in Amerika, als sie sprechen lernte. Im Nachbarhaus wohnte das etwa gleichaltrige Kind französischer Eltern. Die beiden Kinder schufen für sich eine neue, gemeinsame Sprache mit Elementen aus drei Sprachen: Deutsch, Englisch und Französisch.

Redundanz

Information ist redundant, wenn der Empfänger das betreffende Tupel bereits kennt. Was für den einen Empfänger redundant ist, kann für alle anderen Empfänger neu sein. Redundanz kann ausgenutzt werden, um Übertragungs- und Kopierfehler zu erkennen und zu korrigieren. Außerdem spielt sie beim menschlichen Lernen eine große Rolle. ‚Repetitio mater studiorum est‘ sagte der Lateiner.

Folgerung und Erklärung

Signale enthalten nur dann Information, wenn sie wenigstens von einem Empfänger verstanden werden und für einen Empfänger neu sind. Als verstanden gilt ein Signal immer dann, wenn es bei dem Empfänger die vom Sender erwartete Reaktion auslöst. Das kann sich wieder in Signalen niederschlagen, die der Empfänger aussendet. Am einfachsten ist es, er sendet nur eine Empfangsbestätigung, dass er die Nachricht zwar erhalten, aber noch nicht gelesen und interpretiert hat. Besser ist es, er sendet ‚Verstanden!‘, Am besten ist es, er bestätigt, dass er den Auftrag ausgeführt hat, sofern einer in der Nachricht enthalten war.

Die Interpretation eines Signals erfolgt immer nach dem Empfang. Es besteht eine Kausalitätsbeziehung. Die Zeitdifferenz zwischen Absendung, Empfang und Interpretation kann erheblich sein. Es können Jahre, ja Jahrmillionen sein. Mit andern Worten, das Weltall ist seit seinem Entstehen reich an Signalen, jedoch ohne irgendwelche Information. Nur ein Teil der Dinge, die uns die Geologie oder die Archäologie offenbart, stellt Information dar. Die Information entsteht im Moment der Ausgrabung oder sogar erst später. Sie entsteht im Kopf und kann anschließend auf Papier oder andere Medien übertragen und gespeichert werden.

Wegen der Bedeutung, die Licht und andere elektromagnetische Wellen haben, misst man in der Astronomie Entfernungen in Lichtjahren. Es ist die Strecke, die Licht innerhalb eines Erdenjahres zurücklegt. Liegt ein Ereignis mehr als einige Tausend Lichtjahre entfernt, wird es von Erdenbewohnern nie als Signal zur Kenntnis genommen, geschweige denn als Information interpretiert. In der Biologie gibt es Information, seit es durch RNA oder DNA gesteuerte Vererbung gibt. Informationsverarbeitung ist kein Privileg des Menschen, wohl aber ein Privileg von Lebewesen. Wie von Edelmann und andern ausgeführt, ist Information ein genuin biologischer Begriff. Für Physiker, die von Information im Zusammenhang mit Schwarzen Löchern reden, fehlt mir jedes Verständnis. Es muss eine völlig andere Definition von Information zu Grunde liegen.

Nicht-verbale Kommunikation

Manche Diskussionen beschränken sich, wenn über Kommunikation gesprochen wird, auf die verbale, also die sprach-basierte Kommunikation. Als Ingenieur habe ich schon immer heftig widersprochen, wenn gesagt wurde, dass Denken an die menschliche Sprache gebunden sei. Die beruhigend gemeinte Antwort lautete dann, Maschinencodes, Schaltpläne und Bauzeichnungen seien doch Sprachen, nur etwas exotische. Das Thema soll hier nicht vertieft werden. Es gibt viele Kommunikationsformen, die schwächer als eine natürliche Sprache sind. Andere sind erheblich stärker. Viele haben den Nachteil, dass sie sich nur schlecht oder gar nicht für eine orts- oder zeitübergreifende Dokumentation eignen.

Informationsmaße

Das einzige Informationsmaß, das Sinn macht, ist der Definitionsgrad der Funktion I. Es ist dies das Verhältnis der Zahl der definierten Tupel zu der Gesamtzahl der syntaktisch möglichen Werte von S. In [1] sind verschiedene Beispiele gegeben.

Nebenbemerkung:

Bekanntlich ist Lernen mehr als nur Sprach- oder Wissenserwerb. Ebenso wichtig ist der Erwerb von Fähigkeiten. Wie beim Tennis- und Klavierspielen muss man die entsprechenden Regeln lernen und diese einüben. Ohne Übung können Menschen kaum etwas lernen. Übung ist mehr als nur Wiederholung der Signalübertragung. Es müssen diejenigen Körperteile angesprochen werden, die für die Ausführung einer Tätigkeit relevant sind.

Referenz

1. Endres, A.: Der Informationsbegriff – eine informatikorientierte Annäherung. Informatik Forsch. Entw. 18 (2004), 88–93

Am 4.4.2014 schrieb Hartmut Wedekind aus Darmstadt:

 In der Abstraktionslehre ist „Information“ dreiteilig. Uns tritt sie als Äußerung (utterance) (1.Stufe), Aussage (proposition) (2.Stufe) und Sachverhalt (fact)(3.Stufe) entgegen.
 


NB (Bertal Dresen): Ob und wieweit sich die Begriffe Information und Äußerung decken, ist mir im Moment nicht klar. Vieleicht lohnt es sich, darüber nachzudenken.

Nachtrag am 5.4.2014:

Penzlin erwähnt Mario Bunge, der auch etwas zum Informationsbegriff gesagt haben soll. Ich hatte um 2004 mehrere seiner Bücher gelesen. Ein paar Notizen fand ich für unsere Diskussion interessant. (Einige Zitate gehen über das aktuelle Thema hinaus)

(1) Mahner/Bunge: Foundations of Biophilosophy 1997

Information ist ein Allzweckwort: ‚Wenn Du nicht weißt, was es ist, nenne es Information‘. (S.273). Würde man Biologen zwingen, sich wissenschaftlich auszudrücken, würde das Informations-Metapher alsbald verschwinden. (S. 280)

(2) Bunge/Mahner: Über die Natur der Dinge 2004

Information hat wenigstens zwei Bedeutungen: (1) Semantik von Begriffen [oder Signalen], (2) Aussage über Struktur eines Dings (S. 36). C.F. Weizsäcker sei der Auffassung, dass Masse und Energie nur Repräsentanten einer Ursubstanz namens Information seien (an derselben Stelle). Reale Dinge haben keine Semantik. Sie  gibt es nur für Konstrukte (S. 122). Abstrakte Objekte existieren nur innerhalb einer bestimmten Theorie. z.B. Zahlen in der Zahlentheorie, Zeus nur in der griechischen Mythologie. (S. 144). Denken und Bewusstsein sind als Prozesse an das ZNS gebunden. Sie auf Rechnern nachzubilden, greift zu kurz. Auch das beste Computermodell eines Feuers wird nicht heiß (Harnad) (S. 160)

(3) Bunge: Kausalität 1959

In der Formel s = g/2 * t hoch 2 bestimmt zwar t den freien Fall, ist jedoch nicht dessen Ursache. Man kann Vergangenheit und Zukunft gleichermaßen berechnen. (S. 5). Differentialgleichungen besagen, wie sich etwas verändert, aber nicht warum. (S. 84)

NB:  Habe soeben wiedergefunden, wo meine Abneigung gegen die linguistische Wende in der Philosophie herstammt. Mario Bunge heißt der Verführer. Er ist – wenn er noch lebt –
inzwischen 95 Jahre alt. 


Am 7.4.2014 führte Hartmut Wedekind den Dialog mit einer Frage an Biologen fort. Peter Hiemann antwortete darauf mit einer längeren Abhandlung am 13.4.2014.
Sie finden beides hier

Am 16.4.2014 schrieb Peter Hiemann aus Grasse:
 
Für Leser, die mit Luhmann wenig anfangen können, habe ich meinen Überlegungen zu biologischen Systemen im Abschnitt "Systemtheorie" eine Tabelle zugefügt. Da sie auf den Text neugierig macht, füge ich sie auch hier ein.

 
NB (Bertal Dresen): Ähnliche Überlegungen, noch etwas ausführlicher, findet man in Peter Hiemanns Beitrag vom 16.9.2013.

Kommentare:

  1. Am 2.4.2014 schrieb Peter Hiemann aus Grasse:

    Meines Erachtens wird man dem Phänomen Sprache nicht gerecht, wenn man nur den Austausch von Symbolen betrachtet. Menschliche Sprache wird erst verständlich, wenn sie im Kontext kultureller Verhältnisse erfasst wird, d.h. Sprache hat eine Kultur bildende Funktion und umgekehrt wirken kulturelle Verhältnisse zurück auf die Art sprachlicher Kommunikation. Dieses Phänomen ist heute ziemlich gut durch Sprachanalysen isolierter Stammesgemeinschaften belegt (Daniel Everett: "Die grösste Erfindung der Menschheit - Was mich meine Jahre am Amazonas über das Wesen der Sprache gelehrt haben").

    Aber auch ein paar Beobachtungen der Unterschiede zwischen den Sprachen Deutsch und Französisch machen deutlich, dass gleiche französische Wörter wesentlich mehr verschiedene Satzkonstruktionen mit völlig anderen Wortbedeutungen erlauben als im Deutschen. Wenn ich glaube, dass ich eine französische Vokabel (ein Tupel) gelernt habe, muss ich sehr bald feststellen, dass ich einen Satz, der dieses Wort enthält, überhaupt nicht verstehe. Man spricht mit einer gewissen Berechtigung davon, dass Französisch eine "Bildsprache" sei. Statt nur französische Wörter zu lernen, muss ich mir Bilder, die Wörter enthalten, einprägen.

    AntwortenLöschen
  2. Fast rechne ich damit, dass die Physiker unter meinen Lesern sich jetzt scharenweise zu Wort melden. ‚Wie kann jemand sich trauen zu sagen, die Physik enthalte keine Information.‘ Darauf würde ich wie folgt reagieren. Man muss unterscheiden zwischen den physikalischen Ereignissen in der Natur einerseits und der menschlichen Beobachtung und Beschreibung dieser Ereignisse andererseits. Für einen gebildeten Menschen ist alles Information, das Donnern beim Gewitter, die Welle beim Tsunami oder der wackelnde Berg bei einem Vulkanausbruch oder einem Erdbeben. Schon im Moment des Erlebens versuchen wir einen Bezug (eine Abbildung) zu etwas anderem herzustellen. Wir tun es erst recht, wenn wir das Ereignis filmen oder akustisch festhalten, vom geschriebenem Text ganz zu schweigen.

    Wenn die Zeitgenossen sterben oder die Aufzeichnungen verloren gehen, ist die Information weg. Nicht das Ereignis verschwindet oder das Signal, sondern die Information darüber. Auch beim Menschen (in der Noospäre) kann dies geschehen. Für den Ägypter, der den Stein von Rosetta erstellte, trug er Information. Einige Jahrhunderte lang waren es zur Hälfte nur noch Zeichen, also Signale. Erst Jean-François Champollion erkannte wieder den Informationscharakter der zweiten (aus Hieroglyphen bestehenden) Hälfte und konnte 1822 den Informationsgehalt auch dieser Hälfte erschließen.

    AntwortenLöschen
  3. Am 6.4.2014 schrieb Hartmut Wedekind:

    Die Zentralfigur der sprachkritischen Wende (linguistic turn) ist für mich der späte Wittgenstein (Wittgenstein II in seinen Philosophischen Untersuchungen). Russel und Moore folgen. Wittgenstein II (aber auch Wittgenstein I im Tractatus als Vorübung) hat der Wissenschaftstheorie entscheidend auf die Sprünge geholfen. Eine ungeheure Wirkmächtigkeit in der anglo-amerikanischen Welt lag vor. Deutschland folgte- wie immer - später. Methodisch ist er aber nicht der Erfinder, sondern er geht sehr stark auf Frege zurück, wie er selber im Tractatus (Vorwort) erläutert. Im Vorwort steht auch der berühmte Satz, der ebenfalls über dem ALGOL Report steht: "Was sich überhaupt sagen lässt, lässt sich klar sagen; und wovon man nicht reden kann, darüber muss man schweigen". Leider ist es dann im ALGOL-Report als Spruch geblieben, wiewohl die sprüche-kloppende Informatik gerne auf Wittgenstein zurückgreift. Da steht ein ganzes Arsenal an Sprüchen zur Verfügung.

    Der Wiener Kreis hat Wittgenstein (leicht paranoid und leicht erregbar) zwar respektiert, aber nicht gemocht. Und Popper (in die Ecke stecke ich den Mario Bunge) und Wittgenstein sind - so sagt man - mit dem Feuerhaken auf einander losgegangen. Popper gehört mit seinem Kritischen Rationalismus eigentlich nicht zur Wende. Popper wird aus meiner Sicht völlig überbewertet. Er war hat ein politscher Schriftsteller. Dass er Psychologe war, von Haus aus, der niemals eine mathematisch-logische Ausbildung genossen hatte, ist in der Welt unbekannt. Man merkt aber an ihm die Wiener sozialpsychologische Schule (A. Adler, S. Freud etc). Bis zur Politik ist es dann nicht mehr weit. Und seine Marx-Schriften sind ja auch weltbekannt.

    NB (Bertal Dresen): Die Linguistik ist nach meiner Meinung soviel und so wenig eine Quelle von wissenschaftlichen Einsichten wie das Lesen von Gedärmen (Hieroskopie) und das Studium des Vogelflugs (Ornithomantie). Auch sie haben eine uralte Tradition. Dass Poppers - und auch Bunges - Ideen Anwendungen in der praktischen Politik finden, sehe ich als deren großen Vorteil an. Ihnen daraus einen Vorwurf zu machen, darauf wäre ich nicht gekommen.

    AntwortenLöschen
  4. Am 8.4.2014 schrieb Hartmut Wedekind aus Darmstadt:

    Alles liegt schon auf dem Tisch. Die Terminologie hat sich in der handlungsorientierten Philosophie der Sprache (Sprachpragmatik) seit Wittgenstein II herausgebildet. Ich benutze sehr stark die beiden Aufsätze.

    - Kambartel, Friedrich: Symbolische Handlung - Überlegungen zu den Grundlagen einer pragmatischen Theorie in der Sprache.(1978) und vor allem:

    - Kambartel, Friedrich: Pragmatische Grundlagen der Semantik, in C.F. Gethmann "Theorie des wissenschaftlichen Argumentierens" Suhrkamp 1980.

    "Wer redet, der handelt" ist eigentlich eine bekannte Losung. Und "Symbol" als Zeichen zu sehen, aus denen Sprachliche Ausdrücke aufgebaut werden, ist auch gängig. Und dass das magische Wort " Information" auf Sprache basiert, ist auch nicht besonders aufregend. Herausgestellt werden aber immer die Wortsprachen. Die Gebärdensprachen, also wenn ich den Hut ziehe, um zu grüßen, werden aber auch behandelt. Also alles ganz einfach und "aktenkundig" ohne mein besonders Zutun. Von Shannon, Norbert Wiener (schlimm seine Definition: „information = no energy and no matter") enthält man sich. Man hält das philosophisch für entbehrlich und nicht weiterführend.

    Im zitierten zweiten Aufsatz von Kambartel "Pragmatische Grundlagen der Semantik" steht der entscheidenden Satz, wie ich glaube. Man muss natürlich wissen, dass Kambartel als Pragmatiker (Handlungsorientierter) auftritt, für den eine Bedeutung (Semantik) erst in zweiter Linie folgt. Leitstern ist Wittgenstein II im § 43 "Die Bedeutung eines Wortes ist sein Gebrauch in der Sprache". Die "Pragma" bestimmt die Bedeutung.

    Schau ich als Intentionalist wie Kambartel und Wittgenstein auf Spracherzeugung, dann verfolge ich, wie ich etwas in Gang setze. Das ist in der Sprache der Ereignisse eine "Throwing". Ich werfe in die Welt den Satz "Ich hebe meinen Arm". Der andere, der mir zuschaut, sieht das von außen und sieht mein Verhalten (behavior). Er ist der "Catcher", der Behavorist. Naturwissenschaftler sind alle samt und sonders Behavoristen, die beobachten und "catchen" von außen z.B. Zellen die etwas austauschen. Absichten, Intentionen gibt es naturwissenschaftlich überhaupt nicht. Der Naturwissenschaftler als Person hat schon Absichten, denn er will ja etwas bewirken. Aber die stehen naturwissenschaftlich überhaupt nicht zur Debatte. So gesehen ist der Naturwissenschaftler eine gespaltene Persönlichkeit. Schlimm ist nur, wenn Psychologen alle samt und sonders auf der behavoristischen Welle abfahren. Die greifen zu kurz.

    Jetzt kommt das Problem der Dominanz. Kambartel sagt, erst kommt die Pragmatik, er wird ja auch Radikal-Pragmatiker genannt. Den semantischen Standpunkt der "Catcher", die nach Bedeutung fragen, "nennt er ein esoterisch gelehrtes Problem".

    Ich glaube nun abschließend, man muss nach dem Modus schauen, in dem Information auftritt. Als Symbolische Handlung als Throwing oder als Widerfahrnis, das ich "catche" , irgendwie von außen, als Wahrnehmer. Kambartel ist ein pragmatischer Radikalinski. Ingenieure sind auch häufig pragmatische Radikalinskis. Aber sein und Wittgensteins pragmatischer Standpunkt ist wichtig. Der Catching-Aspekt, den gibt's aber auch. Aber, dass Sprechen ein Handeln ist, wie alles andere Handeln auch, ich glaube, dass ist unbestreitbar. Es unterscheidet sich durch die Symbolhaftigkeit. Das ist natürlich alles Wittgenstein II.

    AntwortenLöschen