Data mining con piccoli campioni...Regressione con piccoli campioni?<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />Cari tutti gli esperti di JMP, so che questo tipo di discussione potrebbe essere allo stesso tempo una questione sciocca... molto sciocca e scottante... ma ho pensato che sarebbe stato carino sollevare la questione: quali tipi di regressione lineare E non lineare offre JMP quando si dispone di un campione di piccole dimensioni (ad esempio 50-70 record) e si desidera prevedere un risultato continuo da 5-7 predittori (sia categorici che continui) È possibile regressione lineare graduale con convalida incrociata k-fold OPPURE regressione minima parziale c'è un rimedio a questo problema? Gli alberi potenziati o le reti neurali sono semplicemente folli anche solo a pensarci? Le vostre risposte sono MOLTO GRADITE e MOLTO APPREZZATE. Con rispetto, Chris
Re: Data mining con piccoli campioni...Regressione con piccoli campioni?Anche se è passato molto tempo da quando è stata posta questa domanda, voglio intervenire qui perché penso che la discussione non parli di alcuni dettagli che sarebbero importanti per decidere se sarai in grado di ottenere informazioni significative.
1. I dati provengono da un DOE? Quindi 50-70 osservazioni saranno generalmente molto più sufficienti per avere sufficienti gradi di libertà per rilevare il comportamento sottostante.
2. Se da un DOE, di che tipo. È importante che il DOE possa stimare gli effetti del modello che desideri dare un'occhiata alla tua regressione o ad altri modelli. Se si tratta solo di un modello a effetto principale, il Design può stimare che avrai nuovamente incertezza se il modello creato ti dirà la verità
3. Se queste sono solo osservazioni, l'analisi esplorativa dei dati può aiutarti a identificare potenziali modelli, utilizzando quindi diverse strategie di modellazione come menzionate in precedenza e confrontarle ti aiuterà a vedere se puoi fidarti dei modelli (stanno raccontando la stessa storia o completamente diversi?)
In quest'ultimo caso potresti voler ottenere una migliore comprensione da un DOE.
4. Spesso si dice che le reti neurali non siano applicabili con così pochi dati a disposizione. Ricerche più recenti mostrano che con determinate strategie sarai in grado di ottenere risultati ancora accettabili. Tuttavia, non dovresti mai fidarti di un solo modello. Provane di diversi. Controlla come si comporta il modello quando si simula una piccola variazione delle impostazioni effettive, se i risultati della simulazione rimangono entro i limiti di confidenza o se superano pesantemente.
Prima di farlo, dovresti controllare la qualità dei dati, se sono presenti valori anomali, valori mancanti, se le colonne sono correlate a causa di alcune relazioni precedentemente note come A è k*B o simili, se ci sono molti duplicati. Le osservazioni sono misurazioni della stessa cosa nel tempo, sono misure ripetute, ... Tutto questo ti dirà cosa puoi o cosa non puoi fare con i tuoi dati.
Quindi, quello che voglio dire è che puoi creare modelli per tutti, ma se sono utili dipende da la tua domanda, da dove provengono i dati, E come è stato misurato, e non necessariamente da quante osservazioni hai.
Re: Data mining con piccoli campioni...Regressione con piccoli campioni?Così è molto più chiaro. Grazie mille
Cordiali saluti
C
Re: Data mining con piccoli campioni...Regressione con piccoli campioni?Would you please be so kind and elaborate a little bit more about signal and noise? (justone sentence)
Please accept my apologies but for me these two terms are pretty allegorical to my silly mind.
La maggior parte dei modelli statistici tenta di determinare se esiste un segnale (una relazione reale) che è maggiore della variabilità degli errori (rumore). Ogni tecnica di modellazione di cui sono a conoscenza fornisce una misura di questo rapporto segnale-rumore; ad esempio, nella regressione standard sarebbe il test F complessivo.
Non c'è motivo per cui non si possa avere un segnale molto grande e un rumore molto basso in 50 punti dati. Dipende dai dati.
Re: Data mining con piccoli campioni...Regressione con piccoli campioni?Grazie PG, questo aiuta. Controllerò.
Re: Data mining con piccoli campioni...Regressione con piccoli campioni?Sì, intendevo l'analisi di tipo CART, chiamata Partizione in JMP. Quando la variabile dipendente è continua, il risultato è un albero di regressione, altrimenti è un albero di classificazione (o decisione). Penso che le spline di regressione consumino troppi gradi di libertà per essere applicabili alla dimensione del set di dati. - PAG
Re: Data mining con piccoli campioni...Regressione con piccoli campioni?Ciao PaigeMiller
Potresti essere così gentile ed elaborare un po' di più il segnale e il rumore? ( Appena una frase)
Per favore accetta le mie scuse, ma per me questi due termini sono piuttosto allegorici per la mia sciocca mente.
GRAZIE!
Chris
Re: Data mining con piccoli campioni...Regressione con piccoli campioni?PS So che MARS non è offerto in JMP ma è offerto da SAS... quindi scipt potrebbe aiutare.
Re: Data mining con piccoli campioni...Regressione con piccoli campioni?Innanzitutto ti ringrazio moltissimo per la tua tempestiva risposta. Lo apprezzo molto
PGStats intendi l'analisi dell'albero di classificazione e regressione? CARRELLO?
In alternativa, pensi che le spline di regressione adattativa multivariata potrebbero funzionare anche per campioni di piccole dimensioni?
Molte grazie ancora!
Re: Data mining con piccoli campioni...Regressione con piccoli campioni?La prima cosa che faccio con set di dati così succinti è un'analisi dell'albero di regressione. È un modo rapido e intuitivo per esplorare la relazione tra le variabili dipendenti e predittive. I primi tre o quattro nodi sono generalmente significativi. - PAG
Re: Data mining con piccoli campioni...Regressione con piccoli campioni?Se queste procedure funzioneranno o meno con quelle dimensioni del campione dipende dal rapporto segnale-rumore. Se hai molto segnale e poco rumore, probabilmente non avrai nemmeno bisogno di 50 dischi. Al contrario, segnale basso e rumore elevato e probabilmente stai perdendo tempo.
