Hallo liebe JMP-Anwender und JMP-Team,
Was hat Sie zu dieser Wunschlistenanfrage inspiriert?
Als ich mehr und mehr über verschiedene Clustering-Anwendungen und die verschiedenen verfügbaren Methoden (K-Means, Gaußian Mixtures, DBSCAN, Hierarchical ...) lernte, hatte ich mehrere Wünsche offen für Diskussionen über die in JMP verfügbaren Plattformen und Metriken:
- Betrachtet man die wichtigsten verschiedenen Arten von Clustering (zentroidbasiert, verteilungsbasiert, hierarchisch und dichtebasiert, vgl Clustering-Algorithmen | Maschinelles Lernen | Google-Entwickler ), scheint JMP in der Lage zu sein, 3 der 4 Haupttypen von Clustering abzudecken (jeweils mit K-Means, Normalmischungen und hierarchischem Clustering), aber nicht dichtebasiertes Clustering. Dieses Thema war bereits seit 2021 auf der JMP-Wunschliste : Dichtebasiertes Clustering - JMP User Community
- Betrachtet man die "Bewertungs"-Metriken, um zu wissen, welche Anzahl von Clustern am sinnvollsten erscheint, gibt es einige Unterschiede zwischen den Plattformen:
- Für hierarchisches Clustering ist die Bewertungsmetrik entfernungsbasiert,
- Beim K-Means-Clustering (centroïd-Clustering) erfolgt die Auswertung varianzbasiert mit Cubic Clustering Criterion (CCC),
- Für Normalmischungen (Distribution Clustering) erfolgt die Auswertung informationstheoretisch mit AICc und BIC.
Es scheint ganz normal, dass die Bewertung basierend auf dem Clustering-spezifischen Algorithmus unterschiedlich sein kann, aber es wäre großartig, die Clustering-Methoden auf derselben Basis / Metrik vergleichen zu können. Auch in der Literatur ( [2212.12189] Beenden Sie die Verwendung des Ellbogenkriteriums für k-means und wie man stattdessen die Anzahl der Cluster wählt (arxiv.org) ), Varianzkriterium oder BIC-Kriterium scheinen die bevorzugten Optionen zu sein, um unterschiedliche Anzahlen von Clustern für K-Means zu vergleichen.
Welche Verbesserungen wünschen Sie sich?
- Implementierung eines dichtebasierten Clustering-Verfahrens wie DBSCAN und/oder HDBSCAN.
- Implementierung einer gemeinsamen Bewertungsmetrik für die verschiedenen Clustering-Methoden (wie AICc und BIC), um besser beurteilen zu können, welche Methode(n) die vernünftigste(n) Wahl(en) zu sein scheinen. Die Wahl eines bestimmten Clustering-Verfahrens kann von Fachkenntnissen und/oder Präferenzen geleitet werden, aber es wäre großartig, eine „neutrale“ Metrik zu haben, um diese Wahl zu erleichtern oder in Frage zu stellen.
- Für jedes Clustering-Modell Implementierung anderer Clustering-Metriken basierend auf Varianz (CCC, VRC, ...), Distanz (Dunn, Silhouette-Scores, ...) und Informationstheorie (AICc, BIC, ...).
Warum ist diese Idee wichtig?
Die in JMP bereitgestellten Clustering-Algorithmen stellen die Mehrheit der erwarteten Fälle dar, aber dichtebasiertes Clustering fehlt wirklich und kann in vielen verschiedenen Situationen gefunden werden.
In Ermangelung einer gemeinsamen Metrik zum Vergleich der verschiedenen Clustering-Techniken kann es schwierig sein, die „richtige“ Methode auszuwählen oder sich bei der Wahl einer bestimmten Methode ausreichend sicher zu sein.
Schließlich ist es aufgrund der Vielzahl von Clustering basierend auf unterschiedlichen Datenstrukturen wichtig, unterschiedliche Bewertungsmetriken für jede Methode zu haben, die dabei helfen können, die „Robustheits“-Entscheidung über die Anzahl von Clustern zu bewerten.
