Information

Informationen sind eine Folge von Zeichen die einer bestimmten Menge entnommen sind. Ist der Zeichenvorrat geordnet dann ist es ein - informationstechnisch gesehen - Alphabet.

Eigenschaften

• Syntax (Regelwerk zur Wort oder Satzbildung - die Syntax muss streng befolgt werden)
• Semantik (Bedeutung)
• Pragmatik (Anwendungskontext - Python ist eine Progrmamiersprache, ist ein Interpreter, Programme sind Skripte)

• I = 'ANTON' (ein Wort über dem Alphat der lateinsichen Großbuchstaben.)
• I = 42 (ein Wort über dem Alphabet der Ziffern [0, .., 9] - des Typs Integer)

Kodieren - Dekodieren

• Daten werden zu Informationen kodiert; Informatione werden zu Daten dekodiert.

Unscharfer Begriff wird auch zwischen Daten und Daten und Informationen und Informationen verwendet.

• Ziele
  • Speicherung
  • Übertragung
  • Berechnung
  • Komprimierung
  • Verschlüsselung
  • Veranschaulichung

Ebenen

Es gibt vier Ebenen unter denen Informationen betrachtet werden.

• Codierung - Nachrichtentechnik - und Informatik
• Syntax - Formale Sprache (Th. Informatik) - Linguistik
• Semantik - Bedetuung
• Pragmatik -

Codierung

• Die Zeichenfolge "Informatik ist spannend" ist zu kurz für eine statistische Betrachtung. Die Häufigkeit einzelner Buchstaben ist nicht gleich.

• Gewisse Buchstaben wie e und t sind häufiger als andere. (e 14,7% - n 8,8%, x 0,01%)
• Das Auftreten von e liefert nicht die gleiche "Informationsbenge" wie x
  • Ist ein X in einem Wort enthalten, so reduziert sich die Menge der möglichen Worte auf viel wenger als bei einem E
• Bei der verlustfreine Kompression ist es möglich die häufigen Buchstaben verkürzt darzustellen.
• Die naive Kodierung ist bei einem E und einem X nicht die beste.
• Claude Elwood Shannon stellt sich die Frage, wieviel Information kann er verlustfrei übertragen über einen elektrischen Kanal (Telefonnetz zum Beispiel) sicherstellen - Das Ziel ist es Informationen von Rauschen zu unterschieden.
• Wie kann man Bitfehler erkennen und gegebenenfalls korrigieren.

"abrakadabra"

• Nicht alle Buchstaben kommen gleich oft vor
• Dies gilt für alle natürlichen Sprachen
• 5 a - 5/11 = 0,45
• 2 b - 0,18
• 1 d - 0,09
• 1 r - 0,09
• 2 k - 0,18

Die Häufigkeit ist nicht identisch mit der Wahrscheinlichkeit.

Informationsgehalt einer Nachricht nach Shannon

• l(x) = - log ₂ P(x) = -Id P(x) negativer Logarithmus dualis
  • Mit steigender Wahrscheinlichkeit für das Auftreten einer Nachricht sinkt deren Informaitonsgehalt
  • Immer postiiv
  • Für Nachricht mit gegen Null gehender Wahrscheinlichkeit stiegt der Informationsgehalt stark an und geht für P8x) --> gegen unendlich
  • Bei unabhängingen Nachrichten addiert sich der Informationsgehalt
  • Der Informationsgehalt gibt die günstigste (kürzeste) Codelänge für die Darstellung des Zeichens in Bit an

• Information führt zu einem Gewinn an Wissen.
• Informationsmenge ist was anderes als eine Datenmenge.

---

Andere Lexika

• Information bei Wikipedia (Erste Wikipedia-Version)

---

---