Salut tout le monde,
Je travaille avec un système dans lequel je dois à la fois réduire les variables et les regrouper. J'étudie le comportement des poissons. J'ai trois traitements comportementaux et lorsque je regarde un double graphique PCA, il est évident que mes données se regroupent en deux groupes et qu'elles correspondent approximativement à mes catégories de traitement les plus basses et les plus élevées. J'ai une catégorie intermédiaire qui est divisée entre les deux. Je veux utiliser K-means pour consolider ma variable de traitement en deux traitements au lieu de trois pour être utilisée dans des analyses ultérieures.
Deux questions:
1 : Si j'utilise plusieurs entrées très similaires et fortement corrélées (plusieurs façons différentes de mesurer la courbure du corps), cela perturbe-t-il l'algorithme de clustering ? Dois-je effectuer ma réduction de variable avant le clustering ?
2 : J'ai reçu des commentaires de réviseurs disant « ces clusters ne signifient rien, bien sûr, un algorithme de clustering va trouver des différences ». Existe-t-il un moyen de répondre à ces commentaires en faisant référence à la manière dont fonctionnent les clusters K-means.
Merci,
Étienne
Salut Stephen2020 - Vous avez de très bons résultats PCA en regardant l'image incluse. Ceci est votre support statistique pour deux groupes. K-means utilise les résultats de l'ACP, vous avez donc effectué une réduction variable dans le cadre de K-means.
Dans la plate-forme des composants principaux, effectuez un test de Bartlett pour déterminer l'importance de vos valeurs propres. Lorsque vous faites K-means, vous voyez ces valeurs propres sous le bi-tracé. Si rien n'est significatif avec le test de Bartlett, vous n'obtiendrez pas de très bons groupes en K-means. De même, si vous n'avez pas de valeurs propres qui expliquent une grande partie de la variation, vous n'avez pas vraiment beaucoup de structure de corrélation et la réduction de variable ne fait pas grand-chose (et donc K-means ne produira pas comme par magie des regroupements clairs).
Vous pouvez utiliser le CCC pour tester d'autres nombres de clusters, et si vous obtenez 2, ce serait un support supplémentaire que 2 est un bon nombre de clusters. Le CCC est le Cubic Clustering Criteria et essayez une gamme de clusters, comme 2 à 5. La documentation contient une référence pour cette méthode. Si vous n'en obtenez pas 2, ce n'est pas une justification solide pour NE PAS utiliser 2 groupes (car votre expertise guide votre choix de 2 groupes). CCC est un guide et des preuves à l'appui uniquement.
Enfin, utilisez les moyennes et les écarts-types rapportés pour vos groupes dans K-means. Les écarts-types se chevauchent-ils entre les clusters (haut d'un chevauchement avec bas de l'autre - vous devrez le calculer)? Sinon, vous pouvez également faire une déclaration à ce sujet.
La seule mise en garde est que tout ce que vous mettez dans PCA et K-means ne peut pas être retiré plus tard et utilisé comme variable Y pour une analyse plus approfondie.
Merci pour votre aide, cela me donne beaucoup de travail. Pouvez-vous expliquer davantage votre mise en garde? J'ai un ensemble de (9) variables d'entrée et (9) de sortie. Actuellement, je les jette tous dans le cluster K-means. L'identification des grappes à l'aide de K-means réduit efficacement mon nombre de traitements de 3 à 2. Ensuite, j'utiliserais l'outil "variables de cluster" pour identifier les variables d'entrée et de sortie représentatives (comme une forme de réduction des variables), puis j'utiliserais ces variables représentatives pour construire mon modèle. Je construirais un modèle distinct pour chaque cluster de données. Si je le simplifiais et disais que j'avais une entrée et une sortie, les utilisais tous les deux pour identifier les clusters, puis régressais les entrées et les sorties au sein de chaque cluster, utiliserais-je les données de manière incorrecte?
Je suis un peu perdu dans ce que tu fais et dans ton but ultime. Que cela à l'esprit, voici quelques éléments à considérer.
Vous dites avoir 9 entrées (Xs) et 9 sorties (Ys). Vous changez également quelque chose pour un traitement - est-ce l'une de ces 18 variables ?. Je ne comprends pas ce que représentera le modèle ultime - les X contre les Y, ou 18 variables par rapport à autre chose comme le traitement?
Vous pouvez certainement utiliser des techniques de clustering, comme K-means, pour segmenter vos données (de sorte que les lignes vont ensemble) et créer un modèle à partir de chaque sous-ensemble de vos données. En règle générale, les gens n'utilisent pas les résultats du clustering dans le modèle réel si vous segmentez, sauf pour diviser des lignes. Vous pouvez réduire davantage les dimensions sur chaque segment indépendamment, ce qui signifie que vous avez décidé de traiter chacun des segments de vos données de manière indépendante.
L'utilisation du clustering de variables pour identifier les variables principales de votre modèle est une manière liée, mais différente, de grouper par rapport aux K-means. Vous utilisez donc deux méthodes de clustering différentes et vous ne savez pas comment vous les avez utilisées ensemble. Vous n'utilisez certainement pas le clustering de variables sur les futures variables Y. Ils doivent rester en dehors de l'analyse jusqu'à ce que vous modélisiez. De même, si vous faites des K-moyennes avec les 18 variables (X et Y), divisez les données en 2 en fonction de cela, puis exécutez un modèle sur chaque section, réalisez simplement que vous avez biaisé votre résultat en raison de permettre les relations entre les X et Y à considérer avant de créer un autre modèle. Cluster sur Xs, si vous allez les utiliser dans un modèle, pas sur les Ys.
Dans l'ensemble, lorsque vous utilisez des techniques de réduction de dimension sur un groupe de variables, si vous comptez les utiliser comme X dans un autre modèle, vous ne mettez pas votre future variable Y dedans. Le but de l'exécution d'un modèle est de demander à certains X d'expliquer ce qui se passe pour une ou plusieurs variables d'intérêt. Si vous PCA ou regroupez ces X et Y ensemble, vous confondez pourquoi vous feriez un modèle en premier lieu.
Voici quelques autres idées, selon vos objectifs.
Il existe un moyen de sélectionner des variables avec un Y sur X - utilisez la partition ou une autre méthode d'arbre comme Bootstrap Forest. Cela vous donnerait les variables qui se classent le plus haut par rapport à un Y, et vous pouvez ignorer les autres X de petit à aucun effet. Prenez ensuite ces X et créez un modèle dans Fit Model.
Vous pouvez également réduire la dimension de certains d'entre vous, comme toute la courbure du corps. Vous feriez PCA et utiliser les composants PCA supérieurs dans le modèle (disons que 9 mesures de courbure pourraient être expliquées en 3 composants PCA). Utilisez ensuite les composants PCA en tant que X dans le modèle. Encore une fois, n'incluez pas les futurs Y dans l'APC. C'est bien parce que les ACP sont orthogonales, ce qui est une hypothèse de modélisation linéaire.
Si vous avez JMP Pro, vous pouvez utiliser LASSO dans GenReg pour effectuer à la fois une réduction variable et adapter un modèle en même temps. La complexité de ce modèle peut être limitée. Vous pouvez d'abord utiliser une méthode arborescente pour réduire le nombre de variables.
De plus, comme vous avez dit que vous disposiez de données de comportement, vous pourriez envisager d'utiliser GenReg pour ajuster un modèle, car il dispose de méthodes de rééchantillonnage pour les petits ensembles de données.
Si vous regardez des 9X et 9Y, vous voudrez peut-être PLS.
Enfin, ce que vous essayez de faire est peut-être en fait une analyse discriminante. Si vous essayez de construire un modèle qui décrit le traitement avec les 18 variables, alors l'analyse discriminante est une régression catégorielle avec réduction des variables et tout à fait appropriée pour cela. Vous pouvez exécuter DA avec 2 ou 3 traitements et comparer les ajustements pour décider si vous avez 2 ou 3 groupes.
Il y a Maîtriser des sujets JMP sur tous les éléments que j'ai mentionnés ci-dessus.
Avez-vous regardé cela vidéo sur l'analyse multivariée ? Il y a aussi journal cela va avec la vidéo.
