Ein
Thema, das in diesem Blog immer wieder auftaucht, ist das rechte Verständnis
des Begriffs Information in den verschiedenen Fachgebieten. Obwohl Hans Diel,
Peter Hiemann und ich glaubten, das Thema im September 2011 wirklich erschöpfend
behandelt zu haben, tauchen immer wieder neue Aspekte auf, die Schwierigkeiten
zu machen scheinen. Dieser Tage war es wieder soweit. Heinz Penzlin schrieb in
dem soeben in diesem Blog
besprochenen Buch
über Biologie: Das Leben sei das Produkt der Dreiheit von Energie, Stoff und
Information. Es fiel auf, wie schwer sich dabei Biologen immer noch mit dem
Begriff Information tun. Ich konnte nicht umhin zu bemerken:
Es ist
schon erstaunlich, dass die Biologie sich [was den Begriff Information betrifft]
immer wieder in die Irre führen lässt, waren doch Manfred Eigen und Carl
Friedrich von Weizsäcker sehr klar in ihren Aussagen. … Weizsäcker [wird] zitiert mit dem Satz: ‚Information ist nur das, was verstanden wird‘.
Die
zweite Forderung, die immer wieder erhoben wird, heißt, nur neues Wissen kann
Information sein. Eine simple Wiederholung derselben Daten ist (in der Regel) keine
neue Information. Die Frage, die ich heute beantworten möchte, lautet: Wie
lassen sich ‚verstehen‘ und ‚neues Wissen‘ exakt beschreiben? Das ist wirklich nicht
schwer. Einen dritten Aspekt, den des Vergessens, will ich außer acht lassen. Er
ist zwar interessant beim Vergleich zwischen Menschen und Maschinen. Er trägt
zur Konkretisierung des Informationsbegriffs jedoch nicht bei.
Verstehen
und Nicht-Verstehen
Im
extremsten Falle heißt Nicht-Verstehen, dass ein gerade vorliegendes Signal z ϵ
Z nicht interpretiert werden kann. Es erscheint als Rauschen. Da Information
nicht nur aus dem Signal allein abgeleitet werden kann, muss immer ein Bezug zu
etwas anderem hergestellt werden. Dieser Bezugspunkt heißt Bedeutung. Man kann
sie als Symbol s ϵ S auffassen, als Vertreterin des Bedeutungsbereichs. Diese
Beziehung lässt sich als Abbildung oder Funktion I auffassen.
I: Z → S
Mathematisch
ausgedrückt bedeutet Nicht-Verstehen, dass bezogen auf die Funktion I der
Eingabewert außerhalb des Definitionsbereich z ϵ Z liegt oder innerhalb des
Definitionsbereichs an einer Stelle, an der kein Wert s ϵ S existiert. Man sagt
auch, dass die Funktion I unvollständig ist. Die immer wieder auftretende
Schwierigkeit, die viele Menschen haben, besteht darin, dass sie glauben,
Information sei eine skalare Größe, so wie Gewicht oder Temperatur.
Die
hier benutzte Notation lehnt sich an eine frühere Veröffentlichung [1] zu dem
Thema an. I steht für Information, Z für Signal und S für Symbol. Große
Buchstaben bezeichnen Mengen; kleine Buchstaben bezeichnen die Elemente der
Menge gleichen Namens. Man kann auch sagen, dass Information immer als Tupel
<z,s> aufzufassen ist. Dass es im Falle von Z und S eigentlich Potenzmengen
sind, ist hier außer acht gelassen, ebenso dass die Signale z ϵ Z nicht immer eindeutig
sind und durch die Angabe eines Kontexts eindeutig gemacht werden müssen.
Sprach-
und Wissenserwerb
Es
drängt sich die Frage auf, wie die erwähnten Tupelmengen zustande kommen. Der
Vorgang wird – nicht nur beim Menschen – als Lernen bezeichnet. Er besteht im
Prinzip, d.h. in seiner Grundform, darin, sich Tupel zu merken. Beim Menschen
geschieht dies durch wiederholtes Lesen, evtl. unterstützt durch lautes
Aufsagen. Ein klassisches Beispiel ist das Vokabellernen:
<arm, Arm>, <leg, Bein>, <head, Kopf>,
…
Auch innerhalb
derselben Sprache kann man mittels Tupeln lernen, und zwar indem man auf die Signale
mit den Fingern hinweist, oder sie grafisch darstellt:
Die
hier gezeigten Tupel haben statischen Charakter, d.h. sie bleiben unverändert
in Ort und Zeit. Viele andere gelten nur, bezogen auf einen Zeitpunkt oder Ort.
Beispiele sind Klimadaten wie Temperatur, Luftfeuchtigkeit und Windstärke. Es
muss dann immer eine Zeit- oder Ortsangabe hinzugefügt werden.
Anekdote: Unsere älteste Tochter lebte mit uns
in Amerika, als sie sprechen lernte. Im Nachbarhaus wohnte das etwa
gleichaltrige Kind französischer Eltern. Die beiden Kinder schufen für sich
eine neue, gemeinsame Sprache mit Elementen aus drei Sprachen: Deutsch,
Englisch und Französisch.
Redundanz
Information
ist redundant, wenn der Empfänger das betreffende Tupel bereits kennt. Was für
den einen Empfänger redundant ist, kann für alle anderen Empfänger neu sein. Redundanz
kann ausgenutzt werden, um Übertragungs- und Kopierfehler zu erkennen und zu
korrigieren. Außerdem spielt sie beim menschlichen Lernen eine große Rolle.
‚Repetitio mater studiorum est‘ sagte der Lateiner.
Folgerung
und Erklärung
Signale
enthalten nur dann Information, wenn sie wenigstens von einem Empfänger
verstanden werden und für einen Empfänger neu sind. Als verstanden gilt ein
Signal immer dann, wenn es bei dem Empfänger die vom Sender erwartete Reaktion
auslöst. Das kann sich wieder in Signalen niederschlagen, die der Empfänger
aussendet. Am einfachsten ist es, er sendet nur eine Empfangsbestätigung, dass
er die Nachricht zwar erhalten, aber noch nicht gelesen und interpretiert hat.
Besser ist es, er sendet ‚Verstanden!‘, Am besten ist es, er bestätigt, dass er
den Auftrag ausgeführt hat, sofern einer in der Nachricht enthalten war.
Die
Interpretation eines Signals erfolgt immer nach dem Empfang. Es besteht eine
Kausalitätsbeziehung. Die Zeitdifferenz zwischen Absendung, Empfang und
Interpretation kann erheblich sein. Es können Jahre, ja Jahrmillionen sein. Mit
andern Worten, das Weltall ist seit seinem Entstehen reich an Signalen, jedoch
ohne irgendwelche Information. Nur ein Teil der Dinge, die uns die Geologie
oder die Archäologie offenbart, stellt Information dar. Die Information
entsteht im Moment der Ausgrabung oder sogar erst später. Sie entsteht im Kopf
und kann anschließend auf Papier oder andere Medien übertragen und gespeichert
werden.
Wegen
der Bedeutung, die Licht und andere elektromagnetische Wellen haben, misst man
in der Astronomie Entfernungen in Lichtjahren. Es ist die Strecke, die Licht
innerhalb eines Erdenjahres zurücklegt. Liegt ein Ereignis mehr als einige
Tausend Lichtjahre entfernt, wird es von Erdenbewohnern nie als Signal zur
Kenntnis genommen, geschweige denn als Information interpretiert. In der
Biologie gibt es Information, seit es durch RNA oder DNA gesteuerte Vererbung
gibt. Informationsverarbeitung ist kein Privileg des Menschen, wohl aber ein
Privileg von Lebewesen. Wie von Edelmann und andern ausgeführt, ist Information ein genuin biologischer Begriff. Für Physiker, die von Information im Zusammenhang mit
Schwarzen Löchern reden, fehlt mir jedes Verständnis. Es muss eine völlig
andere Definition von Information zu Grunde liegen.
Nicht-verbale
Kommunikation
Manche
Diskussionen beschränken sich, wenn über Kommunikation gesprochen wird, auf die
verbale, also die sprach-basierte Kommunikation. Als Ingenieur habe ich schon
immer heftig widersprochen, wenn gesagt wurde, dass Denken an die menschliche Sprache
gebunden sei. Die beruhigend gemeinte Antwort lautete dann, Maschinencodes,
Schaltpläne und Bauzeichnungen seien doch Sprachen, nur etwas exotische. Das
Thema soll hier nicht vertieft werden. Es gibt viele Kommunikationsformen, die
schwächer als eine natürliche Sprache sind. Andere sind erheblich stärker. Viele haben den Nachteil, dass sie sich nur schlecht oder gar nicht für eine
orts- oder zeitübergreifende Dokumentation eignen.
Informationsmaße
Das
einzige Informationsmaß, das Sinn macht, ist der Definitionsgrad der Funktion
I. Es ist dies das Verhältnis der Zahl der definierten Tupel zu der Gesamtzahl
der syntaktisch möglichen Werte von S. In [1] sind verschiedene Beispiele
gegeben.
Nebenbemerkung:
Bekanntlich
ist Lernen mehr als nur Sprach- oder Wissenserwerb. Ebenso wichtig ist der
Erwerb von Fähigkeiten. Wie beim Tennis- und Klavierspielen muss man die
entsprechenden Regeln lernen und diese einüben. Ohne Übung können Menschen kaum
etwas lernen. Übung ist mehr als nur Wiederholung der Signalübertragung. Es
müssen diejenigen Körperteile angesprochen werden, die für die Ausführung einer
Tätigkeit relevant sind.
Referenz
1. Endres, A.: Der Informationsbegriff – eine
informatikorientierte Annäherung. Informatik Forsch. Entw. 18 (2004),
88–93
Am 4.4.2014 schrieb Hartmut Wedekind aus Darmstadt:
In der Abstraktionslehre ist „Information“ dreiteilig. Uns tritt sie als Äußerung (utterance) (1.Stufe), Aussage (proposition) (2.Stufe) und Sachverhalt (fact)(3.Stufe) entgegen.
NB (Bertal Dresen): Ob und wieweit sich die Begriffe Information und Äußerung decken, ist mir im Moment nicht klar. Vieleicht lohnt es sich, darüber nachzudenken.
Nachtrag am 5.4.2014:
Penzlin erwähnt Mario Bunge, der auch etwas zum Informationsbegriff gesagt haben soll. Ich hatte um 2004 mehrere seiner Bücher gelesen. Ein paar Notizen fand ich für unsere Diskussion interessant. (Einige Zitate gehen über das aktuelle Thema hinaus)
Am 4.4.2014 schrieb Hartmut Wedekind aus Darmstadt:
In der Abstraktionslehre ist „Information“ dreiteilig. Uns tritt sie als Äußerung (utterance) (1.Stufe), Aussage (proposition) (2.Stufe) und Sachverhalt (fact)(3.Stufe) entgegen.
NB (Bertal Dresen): Ob und wieweit sich die Begriffe Information und Äußerung decken, ist mir im Moment nicht klar. Vieleicht lohnt es sich, darüber nachzudenken.
Nachtrag am 5.4.2014:
Penzlin erwähnt Mario Bunge, der auch etwas zum Informationsbegriff gesagt haben soll. Ich hatte um 2004 mehrere seiner Bücher gelesen. Ein paar Notizen fand ich für unsere Diskussion interessant. (Einige Zitate gehen über das aktuelle Thema hinaus)
(1) Mahner/Bunge: Foundations of Biophilosophy 1997
Information ist ein Allzweckwort: ‚Wenn Du nicht weißt,
was es ist, nenne es Information‘. (S.273). Würde man Biologen zwingen, sich wissenschaftlich
auszudrücken, würde das Informations-Metapher alsbald verschwinden. (S. 280)
(2) Bunge/Mahner:
Über die Natur der Dinge 2004
Information hat wenigstens zwei Bedeutungen: (1) Semantik
von Begriffen [oder Signalen], (2) Aussage über Struktur eines Dings (S. 36). C.F. Weizsäcker sei der Auffassung, dass Masse und
Energie nur Repräsentanten einer Ursubstanz namens Information seien (an
derselben Stelle). Reale Dinge haben keine Semantik. Sie gibt es nur für Konstrukte (S. 122). Abstrakte Objekte existieren nur innerhalb einer bestimmten
Theorie. z.B. Zahlen in der Zahlentheorie, Zeus nur in der griechischen
Mythologie. (S. 144). Denken und Bewusstsein sind als Prozesse an das ZNS
gebunden. Sie auf Rechnern nachzubilden, greift zu kurz. Auch das beste
Computermodell eines Feuers wird nicht heiß (Harnad) (S. 160)
(3) Bunge:
Kausalität 1959
In der Formel s = g/2 * t hoch 2 bestimmt
zwar t den freien Fall, ist jedoch nicht dessen Ursache. Man kann Vergangenheit
und Zukunft gleichermaßen berechnen. (S. 5). Differentialgleichungen besagen, wie sich etwas
verändert, aber nicht warum. (S. 84)
NB: Habe soeben wiedergefunden, wo meine Abneigung gegen die linguistische Wende in der Philosophie herstammt. Mario Bunge heißt der Verführer. Er ist – wenn er noch lebt –
inzwischen 95 Jahre alt.
Am 7.4.2014 führte Hartmut Wedekind den Dialog mit einer Frage an Biologen fort. Peter Hiemann antwortete darauf mit einer längeren Abhandlung am 13.4.2014.
Sie finden beides hier.
Am 16.4.2014 schrieb Peter Hiemann aus Grasse:
Für Leser, die mit Luhmann wenig anfangen können, habe ich meinen Überlegungen zu biologischen Systemen im Abschnitt "Systemtheorie" eine Tabelle zugefügt. Da sie auf den Text neugierig macht, füge ich sie auch hier ein.
NB (Bertal Dresen): Ähnliche Überlegungen, noch etwas ausführlicher, findet man in Peter Hiemanns Beitrag vom 16.9.2013.
NB: Habe soeben wiedergefunden, wo meine Abneigung gegen die linguistische Wende in der Philosophie herstammt. Mario Bunge heißt der Verführer. Er ist – wenn er noch lebt –
inzwischen 95 Jahre alt.
Am 7.4.2014 führte Hartmut Wedekind den Dialog mit einer Frage an Biologen fort. Peter Hiemann antwortete darauf mit einer längeren Abhandlung am 13.4.2014.
Sie finden beides hier.
Am 16.4.2014 schrieb Peter Hiemann aus Grasse:
Für Leser, die mit Luhmann wenig anfangen können, habe ich meinen Überlegungen zu biologischen Systemen im Abschnitt "Systemtheorie" eine Tabelle zugefügt. Da sie auf den Text neugierig macht, füge ich sie auch hier ein.
NB (Bertal Dresen): Ähnliche Überlegungen, noch etwas ausführlicher, findet man in Peter Hiemanns Beitrag vom 16.9.2013.
Am 2.4.2014 schrieb Peter Hiemann aus Grasse:
AntwortenLöschenMeines Erachtens wird man dem Phänomen Sprache nicht gerecht, wenn man nur den Austausch von Symbolen betrachtet. Menschliche Sprache wird erst verständlich, wenn sie im Kontext kultureller Verhältnisse erfasst wird, d.h. Sprache hat eine Kultur bildende Funktion und umgekehrt wirken kulturelle Verhältnisse zurück auf die Art sprachlicher Kommunikation. Dieses Phänomen ist heute ziemlich gut durch Sprachanalysen isolierter Stammesgemeinschaften belegt (Daniel Everett: "Die grösste Erfindung der Menschheit - Was mich meine Jahre am Amazonas über das Wesen der Sprache gelehrt haben").
Aber auch ein paar Beobachtungen der Unterschiede zwischen den Sprachen Deutsch und Französisch machen deutlich, dass gleiche französische Wörter wesentlich mehr verschiedene Satzkonstruktionen mit völlig anderen Wortbedeutungen erlauben als im Deutschen. Wenn ich glaube, dass ich eine französische Vokabel (ein Tupel) gelernt habe, muss ich sehr bald feststellen, dass ich einen Satz, der dieses Wort enthält, überhaupt nicht verstehe. Man spricht mit einer gewissen Berechtigung davon, dass Französisch eine "Bildsprache" sei. Statt nur französische Wörter zu lernen, muss ich mir Bilder, die Wörter enthalten, einprägen.
Fast rechne ich damit, dass die Physiker unter meinen Lesern sich jetzt scharenweise zu Wort melden. ‚Wie kann jemand sich trauen zu sagen, die Physik enthalte keine Information.‘ Darauf würde ich wie folgt reagieren. Man muss unterscheiden zwischen den physikalischen Ereignissen in der Natur einerseits und der menschlichen Beobachtung und Beschreibung dieser Ereignisse andererseits. Für einen gebildeten Menschen ist alles Information, das Donnern beim Gewitter, die Welle beim Tsunami oder der wackelnde Berg bei einem Vulkanausbruch oder einem Erdbeben. Schon im Moment des Erlebens versuchen wir einen Bezug (eine Abbildung) zu etwas anderem herzustellen. Wir tun es erst recht, wenn wir das Ereignis filmen oder akustisch festhalten, vom geschriebenem Text ganz zu schweigen.
AntwortenLöschenWenn die Zeitgenossen sterben oder die Aufzeichnungen verloren gehen, ist die Information weg. Nicht das Ereignis verschwindet oder das Signal, sondern die Information darüber. Auch beim Menschen (in der Noospäre) kann dies geschehen. Für den Ägypter, der den Stein von Rosetta erstellte, trug er Information. Einige Jahrhunderte lang waren es zur Hälfte nur noch Zeichen, also Signale. Erst Jean-François Champollion erkannte wieder den Informationscharakter der zweiten (aus Hieroglyphen bestehenden) Hälfte und konnte 1822 den Informationsgehalt auch dieser Hälfte erschließen.
Am 6.4.2014 schrieb Hartmut Wedekind:
AntwortenLöschenDie Zentralfigur der sprachkritischen Wende (linguistic turn) ist für mich der späte Wittgenstein (Wittgenstein II in seinen Philosophischen Untersuchungen). Russel und Moore folgen. Wittgenstein II (aber auch Wittgenstein I im Tractatus als Vorübung) hat der Wissenschaftstheorie entscheidend auf die Sprünge geholfen. Eine ungeheure Wirkmächtigkeit in der anglo-amerikanischen Welt lag vor. Deutschland folgte- wie immer - später. Methodisch ist er aber nicht der Erfinder, sondern er geht sehr stark auf Frege zurück, wie er selber im Tractatus (Vorwort) erläutert. Im Vorwort steht auch der berühmte Satz, der ebenfalls über dem ALGOL Report steht: "Was sich überhaupt sagen lässt, lässt sich klar sagen; und wovon man nicht reden kann, darüber muss man schweigen". Leider ist es dann im ALGOL-Report als Spruch geblieben, wiewohl die sprüche-kloppende Informatik gerne auf Wittgenstein zurückgreift. Da steht ein ganzes Arsenal an Sprüchen zur Verfügung.
Der Wiener Kreis hat Wittgenstein (leicht paranoid und leicht erregbar) zwar respektiert, aber nicht gemocht. Und Popper (in die Ecke stecke ich den Mario Bunge) und Wittgenstein sind - so sagt man - mit dem Feuerhaken auf einander losgegangen. Popper gehört mit seinem Kritischen Rationalismus eigentlich nicht zur Wende. Popper wird aus meiner Sicht völlig überbewertet. Er war hat ein politscher Schriftsteller. Dass er Psychologe war, von Haus aus, der niemals eine mathematisch-logische Ausbildung genossen hatte, ist in der Welt unbekannt. Man merkt aber an ihm die Wiener sozialpsychologische Schule (A. Adler, S. Freud etc). Bis zur Politik ist es dann nicht mehr weit. Und seine Marx-Schriften sind ja auch weltbekannt.
NB (Bertal Dresen): Die Linguistik ist nach meiner Meinung soviel und so wenig eine Quelle von wissenschaftlichen Einsichten wie das Lesen von Gedärmen (Hieroskopie) und das Studium des Vogelflugs (Ornithomantie). Auch sie haben eine uralte Tradition. Dass Poppers - und auch Bunges - Ideen Anwendungen in der praktischen Politik finden, sehe ich als deren großen Vorteil an. Ihnen daraus einen Vorwurf zu machen, darauf wäre ich nicht gekommen.
Am 8.4.2014 schrieb Hartmut Wedekind aus Darmstadt:
AntwortenLöschenAlles liegt schon auf dem Tisch. Die Terminologie hat sich in der handlungsorientierten Philosophie der Sprache (Sprachpragmatik) seit Wittgenstein II herausgebildet. Ich benutze sehr stark die beiden Aufsätze.
- Kambartel, Friedrich: Symbolische Handlung - Überlegungen zu den Grundlagen einer pragmatischen Theorie in der Sprache.(1978) und vor allem:
- Kambartel, Friedrich: Pragmatische Grundlagen der Semantik, in C.F. Gethmann "Theorie des wissenschaftlichen Argumentierens" Suhrkamp 1980.
"Wer redet, der handelt" ist eigentlich eine bekannte Losung. Und "Symbol" als Zeichen zu sehen, aus denen Sprachliche Ausdrücke aufgebaut werden, ist auch gängig. Und dass das magische Wort " Information" auf Sprache basiert, ist auch nicht besonders aufregend. Herausgestellt werden aber immer die Wortsprachen. Die Gebärdensprachen, also wenn ich den Hut ziehe, um zu grüßen, werden aber auch behandelt. Also alles ganz einfach und "aktenkundig" ohne mein besonders Zutun. Von Shannon, Norbert Wiener (schlimm seine Definition: „information = no energy and no matter") enthält man sich. Man hält das philosophisch für entbehrlich und nicht weiterführend.
Im zitierten zweiten Aufsatz von Kambartel "Pragmatische Grundlagen der Semantik" steht der entscheidenden Satz, wie ich glaube. Man muss natürlich wissen, dass Kambartel als Pragmatiker (Handlungsorientierter) auftritt, für den eine Bedeutung (Semantik) erst in zweiter Linie folgt. Leitstern ist Wittgenstein II im § 43 "Die Bedeutung eines Wortes ist sein Gebrauch in der Sprache". Die "Pragma" bestimmt die Bedeutung.
Schau ich als Intentionalist wie Kambartel und Wittgenstein auf Spracherzeugung, dann verfolge ich, wie ich etwas in Gang setze. Das ist in der Sprache der Ereignisse eine "Throwing". Ich werfe in die Welt den Satz "Ich hebe meinen Arm". Der andere, der mir zuschaut, sieht das von außen und sieht mein Verhalten (behavior). Er ist der "Catcher", der Behavorist. Naturwissenschaftler sind alle samt und sonders Behavoristen, die beobachten und "catchen" von außen z.B. Zellen die etwas austauschen. Absichten, Intentionen gibt es naturwissenschaftlich überhaupt nicht. Der Naturwissenschaftler als Person hat schon Absichten, denn er will ja etwas bewirken. Aber die stehen naturwissenschaftlich überhaupt nicht zur Debatte. So gesehen ist der Naturwissenschaftler eine gespaltene Persönlichkeit. Schlimm ist nur, wenn Psychologen alle samt und sonders auf der behavoristischen Welle abfahren. Die greifen zu kurz.
Jetzt kommt das Problem der Dominanz. Kambartel sagt, erst kommt die Pragmatik, er wird ja auch Radikal-Pragmatiker genannt. Den semantischen Standpunkt der "Catcher", die nach Bedeutung fragen, "nennt er ein esoterisch gelehrtes Problem".
Ich glaube nun abschließend, man muss nach dem Modus schauen, in dem Information auftritt. Als Symbolische Handlung als Throwing oder als Widerfahrnis, das ich "catche" , irgendwie von außen, als Wahrnehmer. Kambartel ist ein pragmatischer Radikalinski. Ingenieure sind auch häufig pragmatische Radikalinskis. Aber sein und Wittgensteins pragmatischer Standpunkt ist wichtig. Der Catching-Aspekt, den gibt's aber auch. Aber, dass Sprechen ein Handeln ist, wie alles andere Handeln auch, ich glaube, dass ist unbestreitbar. Es unterscheidet sich durch die Symbolhaftigkeit. Das ist natürlich alles Wittgenstein II.