Wissenschaftliche Berichte

Wissenschaftliche Berichte - FZKA 6390

Informationstheoretische Betrachtungen zur Strukturermittlung

Zusammenfassung

Dies ist ein Arbeitsbericht zum DFG-Fördervorhaben "`Modellstrukturierung von sicherheitsrelevanten technischen Systemen mittels tensororientierter Mustererkennung und Genetischen Algorithmen"' (BR 1303/3-1). In vorausgegangenen Arbeiten wurde die Strukturierung von Modellen aus informationstheoretischer Sicht betrachtet. Dabei wird die Modellbildung als Informationsübertragung von einem Objekt auf ein Modell verstanden.

In diesem Bericht wird untersucht

Wie kann die Information optimal kodiert werden? Welche Art der Kodierung von Merkmalen ist für die Modellbildung optimal (binär, ternär, binär kodierte Ternärzahl)?
Ist aus informationstheoretischer Sicht eine Modellbildung ohne Strukturannahme möglich?
Welche Auswirkungen hat eine beliebige Struktur auf die Parameter eines Modells?

Für vollständige Merkmale wird nachgewiesen, dass die Information optimal mit dem Dualsystem kodiert wird. Dabei wird, entgegen der in der Literatur üblichen Beweisführung, der duale Logarithmus im Beweis weder angesetzt noch verwendet. Für unvollständige Merkmale wird die Basis e als optimal für die Entscheidungsstufung nachgewiesen. Auch hier wurde vermieden, den natürlichen Logarithmus beim Beweis anzusetzen, was sonst in der Literatur üblich ist. An Beispielen wird gezeigt, dass Entscheidungsstrategien für unvollständige Merkmale und mit nicht ganzzahliger Stufung für die Modellbildung denkbar, aber wenig praktikabel sind.

Für eine endliche Menge an Information, die zur Modellbildung verfügbar ist, wird gezeigt, dass der Wertebereich eines Parameters endlich sein muss, damit der Fehler des Parameters endlich bleiben kann und dass der Wertebereich eines Parameters die Null ausschließen muss, damit der relative Fehler kleiner als Eins bleiben kann.

Für den Fall, dass die Struktur eines Modells nicht durch die Festlegung auf eine Modellklasse eingeschränkt ist, wird gezeigt, dass eine Struktur mit einem oder mehreren Parametern durch eine Struktur ohne diese Parameter ersetzt werden kann. Daraus folgt, dass Gütemaße für solche Modelle nicht nur die Anzahl der Parameter sondern auch die Komplexität der Struktur bewerten müssen.

On the Determination of Structures - A Theoretical Approach of Information Science

Abstract

The report describes two proofs as a basis for optimal coding of information without using any logarithm in the formulation of the problem as is usually found in the literature. We proof also that, if we have finite information, than the range of values has to be finite to get a finite error of parameter and that the range of values must exclude zero to get a relative error less than one. Furthermore, we show an equivalence between structure and parameters. That means, each parameter can be replaced by a structure. Construction of a model is only sensible after reducing the considered class of the model to a finite number of structures and with prior knowledge about the range of parameters.