EntropieHallo,
Ich möchte einige grundlegende deskriptive Statistiken zu Zeitreihendaten wie Mittelwert, Median, Kurtosis usw. durchführen, aber auch zum Grad der Variabilität im Zeitverlauf, der in der Literatur als „Entropie“ beschrieben wird. Ich kann dies in JMPpro nicht finden. Hat jemand einen Vorschlag, wie man das berechnen kann?
Lu
Erweiterte statistische ModellierungBetreff: EntropieDanke.
Ich werde weiterhin nach möglichen Hinweisen suchen, wie die Entropie für kontinuierliche Variablen berechnet wird.
Am besten,
TSBetreff: EntropieHallo Thierry
Siehe meine Antwort an P. Bartell und die angehängte Datei oben.
Grüße
Lu
Betreff: EntropieHallo Lu,
Es tut mir leid zu hören, dass Sie an etwas anderes gedacht haben. Könnten Sie mich für meine Ausbildung auf eine Referenz oder Ressource verweisen, die Entropie für kontinuierliche Variablen definiert oder verwendet?
Am besten
TSBetreff: EntropieHallo,
Danke für die Unterstützung, aber das ist nicht das, was ich brauchte. Meine Daten sind tatsächlich kontinuierlich.
Grüße
Lu
Betreff: EntropieHallo,
Ich habe eine aktuelle Veröffentlichung beigefügt, in der Entropiestatistiken für Zeitreihendaten verwendet wurden. Siehe Feature Engineering (Seite 4).
Soweit ich weiß, beschreibt Entropie die Änderung der Variabilität im Laufe der Zeit.
Grüße
Ludo
Betreff: EntropieCool! .zip-Dateien tun dies. Wenn Sie jemals eine ZIP-Datei ein zweites Mal komprimiert haben, ist Ihnen möglicherweise aufgefallen, dass dies nicht hilft. Die gezippten Daten haben bereits fast die maximale Entropie (sehen zufällig aus) und können nicht viel stärker komprimiert werden und werden möglicherweise etwas größer, um die Header-Informationen aufzunehmen.
Betreff: EntropieHallo Lu,
Ich habe vergessen zu erwähnen, dass dies nur für diskrete Symbole/Fälle gilt, da die Entropie einer Folge kontinuierlicher Daten (dh reeller Zahlen) im Wesentlichen unendlich ist.
Am besten,
TSBetreff: EntropieHallo Lu,
Hier ist die einfachste Beschreibung, die ich zur Berechnung der Shannon-Entropie finden konnte (siehe angehängte Datei und Quellinformationen):
- Berechnen Sie die Häufigkeit des Auftretens jedes Symbols/Falls = px (Verteilung > Häufigkeiten > In Tabelle umwandeln)
- In der resultierenden Tabelle ==> Neue Spalte „B“= px * Log2 (px)
- In der resultierenden Tabelle ==> Neue Spalte „H“ = - Col Sum (:B) oder wenn Sie es lieber in Bits ausdrücken möchten: -ROUND (Col Sum (:B),0)

Am besten,
TS
Betreff: EntropieKönnen Sie ein oder zwei Literaturzitate zum Thema „Entropie“ angeben? Um ehrlich zu sein, verstehe ich die Definition von Entropie aus physikalischer Sicht ... aber es ist ein Begriff, der mir in Bezug auf Statistik, Datenvisualisierung oder Analyse unbekannt ist. Vielleicht könnten wir mit einem Zitat einen Weg nach vorne in JMP vorschlagen?