| dbo:abstract
|
- Das Themengebiet der Entropieschätzung befasst sich mit den unterschiedlichen Methoden für die statistische Schätzung der Shannon-Entropie auf der Basis von endlichen Stichproben. Für die formale Berechnung derShannon-Entropie ist gemäß Definition die Kenntnis der Wahrscheinlichkeiten der zugrunde liegendenNachrichtenquelle notwendig. Jedoch sind in der Praxis diese Wahrscheinlichkeiten meistens unbekannt, und man istdarauf angewiesen, die Wahrscheinlichkeiten der Nachrichten aus einer vorgegebenen endlichen Stichprobezu schätzen, um damit auf die Entropie der Gesamtheit zu schließen. Aufgrund der naturgegebenenstatistischen Schwankungen in endlichen Stichproben sind dabei systematische und unsystematischeAbweichungen bei den Schätzungen zu erwarten. Bei dem gewöhnlichen likelihood Schätzer für die Entropie werden die Wahrscheinlichkeiten , , in der Shannon-Entropie , durch die Maximum-Likelihood-Schätzer ersetzt. Erscheint im Falle voninsgesamt Beobachtungen das Ereignis mit einer absoluten Häufigkeitvon , so führt die Verwendung von zu dem in der Praxis häufig verwendeten Likelihood-Schätzer für die Entropie Dieser Schätzer ist aus statistischer Sicht besonders geeignet, wenn die Stichprobe sehr viel größer als die mögliche Anzahl der unterschiedlichen Ereignisse ist, d.h. gegeben ist. Andernfalls führt der obige Schätzer oft zu einer systematischen Unterschätzung der Entropie. Dieser Fehler wird besonders dann merklich, wenn der Umfang der Stichprobe nicht sehr viel größer als die Anzahl der unterschiedlichen Nachrichten der Quelle ist. In der Praxis ist jedoch letzteres oft von besonderem Interesse. (de)
- Das Themengebiet der Entropieschätzung befasst sich mit den unterschiedlichen Methoden für die statistische Schätzung der Shannon-Entropie auf der Basis von endlichen Stichproben. Für die formale Berechnung derShannon-Entropie ist gemäß Definition die Kenntnis der Wahrscheinlichkeiten der zugrunde liegendenNachrichtenquelle notwendig. Jedoch sind in der Praxis diese Wahrscheinlichkeiten meistens unbekannt, und man istdarauf angewiesen, die Wahrscheinlichkeiten der Nachrichten aus einer vorgegebenen endlichen Stichprobezu schätzen, um damit auf die Entropie der Gesamtheit zu schließen. Aufgrund der naturgegebenenstatistischen Schwankungen in endlichen Stichproben sind dabei systematische und unsystematischeAbweichungen bei den Schätzungen zu erwarten. Bei dem gewöhnlichen likelihood Schätzer für die Entropie werden die Wahrscheinlichkeiten , , in der Shannon-Entropie , durch die Maximum-Likelihood-Schätzer ersetzt. Erscheint im Falle voninsgesamt Beobachtungen das Ereignis mit einer absoluten Häufigkeitvon , so führt die Verwendung von zu dem in der Praxis häufig verwendeten Likelihood-Schätzer für die Entropie Dieser Schätzer ist aus statistischer Sicht besonders geeignet, wenn die Stichprobe sehr viel größer als die mögliche Anzahl der unterschiedlichen Ereignisse ist, d.h. gegeben ist. Andernfalls führt der obige Schätzer oft zu einer systematischen Unterschätzung der Entropie. Dieser Fehler wird besonders dann merklich, wenn der Umfang der Stichprobe nicht sehr viel größer als die Anzahl der unterschiedlichen Nachrichten der Quelle ist. In der Praxis ist jedoch letzteres oft von besonderem Interesse. (de)
|
| rdfs:comment
|
- Das Themengebiet der Entropieschätzung befasst sich mit den unterschiedlichen Methoden für die statistische Schätzung der Shannon-Entropie auf der Basis von endlichen Stichproben. Für die formale Berechnung derShannon-Entropie ist gemäß Definition die Kenntnis der Wahrscheinlichkeiten der zugrunde liegendenNachrichtenquelle notwendig. Jedoch sind in der Praxis diese Wahrscheinlichkeiten meistens unbekannt, und man istdarauf angewiesen, die Wahrscheinlichkeiten der Nachrichten aus einer vorgegebenen endlichen Stichprobezu schätzen, um damit auf die Entropie der Gesamtheit zu schließen. Aufgrund der naturgegebenenstatistischen Schwankungen in endlichen Stichproben sind dabei systematische und unsystematischeAbweichungen bei den Schätzungen zu erwarten. Bei dem gewöhnlichen likelihood Schätze (de)
- Das Themengebiet der Entropieschätzung befasst sich mit den unterschiedlichen Methoden für die statistische Schätzung der Shannon-Entropie auf der Basis von endlichen Stichproben. Für die formale Berechnung derShannon-Entropie ist gemäß Definition die Kenntnis der Wahrscheinlichkeiten der zugrunde liegendenNachrichtenquelle notwendig. Jedoch sind in der Praxis diese Wahrscheinlichkeiten meistens unbekannt, und man istdarauf angewiesen, die Wahrscheinlichkeiten der Nachrichten aus einer vorgegebenen endlichen Stichprobezu schätzen, um damit auf die Entropie der Gesamtheit zu schließen. Aufgrund der naturgegebenenstatistischen Schwankungen in endlichen Stichproben sind dabei systematische und unsystematischeAbweichungen bei den Schätzungen zu erwarten. Bei dem gewöhnlichen likelihood Schätze (de)
|
