JMP Pro è un ottimo strumento per la costruzione rapida di più modelli con i tuoi dati utilizzando una varietà di tecniche, vale a dire metodi basati su albero (foresta Boostrap, opzioni Boosted Tree nella piattaforma Partition), reti neurali e regressione penalizzata (utilizzando il Regressione generalizzata personalità in Fit Model).
Quando si creano modelli predittivi, sono necessari metodi validi per convalidare il modello o si può facilmente mettere in difficoltà l'overfitting. Molte piattaforme di modellazione in JMP Pro supportano una colonna di convalida. La colonna di convalida viene utilizzata per suddividere i dati in parti di formazione e di convalida. Formazione i dati vengono utilizzati per creare il modello e convalida i dati sono usati per accordare il modello. A volte una terza divisione - test - è usato per simulare nuovi dati che sono arrivati in modo che tu possa vedere come il modello esegue con dati precedentemente non visti dal modello.
Supponiamo che desideri utilizzare il 70 percento dei dati per creare il modello e risparmiare il 30 percento per convalidare o perfezionare il modello. Potresti pensare che prendere un campione casuale di tutte le tue file potrebbe essere il modo migliore per andare, ma questo può facilmente portare a problemi se hai a che fare con molti valori anomali o un evento raro. Un semplice campione casuale potrebbe facilmente collocare tutti i punti dati importanti (come gli eventi rari) nel set di allenamento o nel set di validazione. Ciò crea condizioni di modellazione subottimali e può portare a costruire modelli che non sono molto utili.
La piattaforma Neural in JMP Pro può aiutarti a creare automaticamente una colonna di convalida imparziale ed equilibrata in pochi passaggi. Sto utilizzando il set di dati di Boston Housing, che si trova nei dati di esempio in JMP (Guida> Dati di esempio). Per questi dati, voglio predire quello di una casa Lvalore basato su un numero di possibili predittori. La distribuzione seguente mostra che la risposta ha un numero elevato mvalues che vogliamo essere sicuri che siano equamente divisi nei nostri set di formazione e convalida.
Nel lancio del modello neurale, posso specificare una percentuale di holdback per il metodo di convalida. Perché voglio uno split 70/30, metterò .3 nel campo. La piattaforma Neural ordinerà automaticamente la risposta dal valore più basso a quello più alto e quindi assegnerà casualmente il record al set di allenamento o di convalida in base alla mia proporzione desiderata.
Non sono particolarmente interessato al modello Neural attuale, quindi posso semplicemente accettare le impostazioni predefinite e fare clic su: Vai. Quindi dal menu a triangolo rosso sulla vestibilità, selezionerò l'opzione "Salva convalida".
Questo creerà automaticamente una nuova colonna di convalida nella mia tabella di dati, con ogni riga taggata "Formazione" o "Convalida".
Se riusciamo ad adattare una distribuzione alla risposta con convalida come Di , puoi vedere che le proprietà dei set di allenamento e di validazione sono molto vicine. La piattaforma Neural ha fatto un ottimo lavoro nel suddividere i miei dati in modo intelligente - automaticamente.
Ora sono pronto per il processo di costruzione dei miei modelli, sapendo di avere un solido schema di suddivisione dei dati che mi consentirà di creare il modello più informativo e utile con i miei dati. Grazie a Chris Gotwalt , lo sviluppatore della piattaforma neurale, per avermi mostrato questa potente capacità. È stato sicuramente il modo più rapido e affidabile per creare una colonna di convalida in JMP Pro che ho trovato finora.
Daniel Valente ha scritto:
Grazie Scott, felice che ti sia piaciuto! Hai ragione, sei solo in grado di produrre un set di formazione e convalida con questo metodo. Il set di test è disponibile solo quando si utilizza una colonna di convalida (all'avvio della piattaforma).
Scott Wise ha scritto:
Ottimo blog Dan! Possiamo anche fare un test, addestrare e convalidare dividere con questo metodo ... o solo una divisione di test e treno? Penso di conoscere la risposta (no), ma volevo controllare!
