Nei nostri due post precedenti sul blog, Jeremy Ash ( @JeremyAshJMP ) e l'ho presentato JMP capacità di analisi e visualizzazione spettrale analizzando un popolare set di dati di spettroscopia di Martens et al. 1 Abbiamo mostrato diversi modi di visualizzare i dati spettrali E alcuni passaggi di pre-elaborazione ciò ci ha permesso di migliorare notevolmente il rapporto segnale/rumore nei dati per ulteriori analisi e modellizzazioni.
In questo terzo segmento della serie di blog, mostriamo diversi modi in cui i dati spettrali possono essere modellati in JMP.I minimi quadrati parziali (PLS) sono lo strumento più comune per analizzare i dati spettrali e il PLS può essere eseguito sia con JMP che con JMP Pro . JMP Pro offre inoltre la regressione penalizzata Elastic Net, la modellazione della rete neurale e metodi avanzati di alberi decisionali come Bootstrap Forest.
Le tecniche Bootstrap Forest ed Elastic Net consentono di trovare rapidamente e facilmente le lunghezze d'onda più importanti dei singoli composti, nonché le lunghezze d'onda che definiscono i componenti nelle miscele. Queste tecniche di modellazione possono essere utilizzate con dati grezzi o dati elaborati. In questo post, Jeremy e io mostriamo le differenze tra la modellazione dei dati grezzi rispetto ai dati pre-elaborati per mostrare il miglioramento complessivo della capacità predittiva dopo la pre-elaborazione. A titolo di dichiarazione di chiarezza sul confronto complessivo dei metodi, è stata utilizzata la stessa colonna di convalida a due livelli con il 20% dei dati come set di convalida per tutte le analisi.
Metodi di modellazione
Minimi quadrati parziali
I minimi quadrati parziali sono il metodo standard per analizzare gli spettri. PLS gestisce sia dati wide che tall ed è particolarmente efficace nel gestire fattori altamente correlati. Questa capacità è di buon auspicio per gli spettri perché i dati spettrali hanno spesso assorbanze altamente correlate, il che fa sì che ciascuna lunghezza d'onda successiva dipenda da quella immediatamente precedente. A causa di questa dipendenza, il PLS viene spesso utilizzato per analizzare dati spettrali grezzi con ottimi risultati. Come affermato in precedenza, tuttavia, la pre-elaborazione migliora il modello predittivo risultante abbastanza da giustificare l'impegno di tempo e sforzi per pre-elaborare i dati. Ricorda che i dati del campione sono un gruppo di miscele di glutine e amido e, nel caso di PLS, fa davvero un ottimo lavoro sviluppando un modello che preveda bene i rapporti tra glutine e amido con eventuali campioni futuri.
Il modello PLS è stato costruito con due fattori latenti perché la precedente analisi delle componenti principali utilizzava due componenti principali. Inoltre, Q 2 non migliora molto al di là di due fattori e l’aggiunta di ulteriori fattori rende più difficile l’interpretazione del modello.
Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figura 1. Impostazione e output del modello dei minimi quadrati parziali.
Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figure 1. Partial Least Squares model set up and output.Figura 1. Impostazione e output del modello dei minimi quadrati parziali.
Figure 2. Partial Least Squares model with Raw data.Figure 2. Partial Least Squares model with Raw data.Figure 2. Partial Least Squares model with Raw data.Figure 2. Partial Least Squares model with Raw data.Figure 2. Partial Least Squares model with Raw data.Figura 2. Modello dei minimi quadrati parziali con dati grezzi.
Figure 3. Partial Least Squares model with Pre-Processed data.Figure 3. Partial Least Squares model with Pre-Processed data.Figure 3. Partial Least Squares model with Pre-Processed data.Figure 3. Partial Least Squares model with Pre-Processed data.Figure 3. Partial Least Squares model with Pre-Processed data.Figura 3. Modello dei minimi quadrati parziali con dati pre-elaborati.
Di seguito è riportato un confronto tra il grafico effettivo e quello previsto per entrambi i modelli PLS. Quello a sinistra è per i dati grezzi e quello a destra utilizza i dati preelaborati. Come puoi vedere, c'è un miglioramento significativo nel modello utilizzando i dati pre-elaborati.
Figure 4. Partial Least Squares model comparison with Raw and Pre-Processed data.Figure 4. Partial Least Squares model comparison with Raw and Pre-Processed data.Figure 4. Partial Least Squares model comparison with Raw and Pre-Processed data.Figure 4. Partial Least Squares model comparison with Raw and Pre-Processed data.Figure 4. Partial Least Squares model comparison with Raw and Pre-Processed data.Figura 4. Confronto del modello dei minimi quadrati parziali con dati grezzi e pre-elaborati.
Regressione generalizzata (Gen Reg)
Le tecniche di regressione generalizzata si trovano in JMP Pro . Gen Reg ti dà almeno due cose che non otterrai dai minimi quadrati ordinari. Uno è che con Gen Reg i tuoi dati non devono essere distribuiti normalmente. Hai opzioni per molti diversi tipi di distribuzioni. Un'altra differenza è che Gen Reg include la tecnica di regressione penalizzata e gestisce molto bene dati altamente correlati. Gen Reg fornisce Ridge, Lasso ed Elastic Net. Elastic Net è un buon compromesso per la modellazione dei dati spettrali perché è possibile modificare la penalità Elastic Net Alpha (ENA) per evitare di sottostimare un modello rifiutando molti fattori altamente correlati e importanti per il modello. Il valore predefinito di 0,99 ENA è stato utilizzato per costruire un modello iniziale. Questo modello sembrava essere piuttosto scarno e potenzialmente inadeguato. Un'opzione avanzata in Gen Reg è stata utilizzata per scansionare l'intervallo di valori alfa per vedere se esisteva un modello migliore. Questa scansione ha fornito un adattamento migliore utilizzando un valore ENA di 0,55. Puoi vedere la differenza nell'adattamento per i due valori ENA nei percorsi di soluzione riportati di seguito.
Figure 5 – Elastic Net solution paths for Raw data.Figure 5 – Elastic Net solution paths for Raw data.Figure 5 – Elastic Net solution paths for Raw data.Figure 5 – Elastic Net solution paths for Raw data.Figure 5 – Elastic Net solution paths for Raw data.Figura 5 – Percorsi della soluzione Elastic Net per i dati grezzi.
Figure 6 - Fit Statistics for Gen Reg with Raw Data.Figure 6 - Fit Statistics for Gen Reg with Raw Data.Figure 6 - Fit Statistics for Gen Reg with Raw Data.Figure 6 - Fit Statistics for Gen Reg with Raw Data.Figure 6 - Fit Statistics for Gen Reg with Raw Data.Figura 6 – Statistiche di adattamento per Gen Reg con dati grezzi.
Figure 7 - Elastic Net solution paths for Pre-Processed data.Figure 7 - Elastic Net solution paths for Pre-Processed data.Figure 7 - Elastic Net solution paths for Pre-Processed data.Figure 7 - Elastic Net solution paths for Pre-Processed data.Figure 7 - Elastic Net solution paths for Pre-Processed data.Figura 7 – Percorsi della soluzione Elastic Net per dati pre-elaborati.
Figure 8 - Fit Statistics for Gen Reg with Pre-Processed Data.Figure 8 - Fit Statistics for Gen Reg with Pre-Processed Data.Figure 8 - Fit Statistics for Gen Reg with Pre-Processed Data.Figure 8 - Fit Statistics for Gen Reg with Pre-Processed Data.Figure 8 - Fit Statistics for Gen Reg with Pre-Processed Data.Figura 8 – Statistiche di adattamento per Gen Reg con dati preelaborati.
Senza entrare più nel dettaglio, l'adattamento dei dati grezzi ha utilizzato 10 lunghezze d'onda quando l'Elastic Net Alpha (ENA) era 0,99 e 37 lunghezze d'onda quando l'ENA era 0,55.
I dati pre-elaborati hanno un risultato significativamente diverso. Utilizzando nuovamente Elastic Net, sono state trovate 22 lunghezze d'onda significative utilizzando un ENA di 0,99 e 53 lunghezze d'onda significative utilizzando un ENA di 0,55. Sebbene siano stati identificati un gran numero di lunghezze d'onda significative, 37 e 53, con ENA di 0,55, entrambi i risultati sono inferiori rispetto ai modelli PLS con un ampio margine. Il controllo delle statistiche di adattamento per entrambi i set di modelli mostra che i dati preelaborati hanno il modello predittivo complessivo migliore. Tuttavia, se utilizzassi solo dati grezzi, saresti comunque in grado di elaborare un modello predittivo ragionevolmente buono.
Figure 9 – Model comparison for Gen Reg with Raw and Pre-Processed Data.Figure 9 – Model comparison for Gen Reg with Raw and Pre-Processed Data.Figure 9 – Model comparison for Gen Reg with Raw and Pre-Processed Data.Figure 9 – Model comparison for Gen Reg with Raw and Pre-Processed Data.Figure 9 – Model comparison for Gen Reg with Raw and Pre-Processed Data.Figura 9 – Confronto dei modelli per Gen Reg con dati grezzi e preelaborati.
Un confronto tra i modelli PLS ed ELN utilizzando i dati elaborati mostra che i modelli ELN sono solo leggermente migliori in base a R 2 . Tuttavia, i modelli ELN sono più semplici e facili da interpretare.
Figure 10 – Comparison of PLS and ELN modeling techniques for processed data.Figure 10 – Comparison of PLS and ELN modeling techniques for processed data.Figure 10 – Comparison of PLS and ELN modeling techniques for processed data.Figure 10 – Comparison of PLS and ELN modeling techniques for processed data.Figure 10 – Comparison of PLS and ELN modeling techniques for processed data.Figura 10 – Confronto tra tecniche di modellazione PLS ed ELN per i dati elaborati.
Ciò significa che dovresti utilizzare i modelli Elastic Net per tutte le tue analisi spettrali? Dovresti considerarlo un candidato valido, ma in realtà dipende dalle piattaforme di modellazione disponibili e se l'interpretabilità del modello è desiderabile oltre alle prestazioni di previsione.
Ulteriori opzioni di modellazione
Modelli di rete neurale
A scopo dimostrativo è anche possibile utilizzare modelli di rete neurale, che in questo caso mostrano adattamenti estremamente buoni ma sono modelli altamente complessi.
Tuttavia, il Prediction Profiler di JMP consente agli utenti di interpretare anche i modelli più complessi e non lineari. Il Profiler può essere travolgente quando tutte le lunghezze d'onda vengono utilizzate per la previsione. Per mantenere più semplice il modello della rete neurale, puoi fornire le lunghezze d'onda selezionate con Gen Reg nella finestra di dialogo del modello.
Figure 11 – Comparison of Neural Net fits for raw and pre-processed data.Figure 11 – Comparison of Neural Net fits for raw and pre-processed data.Figure 11 – Comparison of Neural Net fits for raw and pre-processed data.Figure 11 – Comparison of Neural Net fits for raw and pre-processed data.Figure 11 – Comparison of Neural Net fits for raw and pre-processed data.Figura 11 – Confronto degli adattamenti della Rete Neurale per dati grezzi e pre-elaborati.
In entrambi i casi, i dati sono stati adattati con uno strato nascosto e tre nodi con una funzione di attivazione della tangente iperbolica utilizzando una colonna di convalida fissa al 20% per la convalida incrociata.
Foresta di bootstrap
Utilizzando un approccio Bootstrap Forest si ottengono le lunghezze d'onda più significative per un dato insieme di spettri. È anche una chiara indicazione che la pre-elaborazione fornisce un modello molto migliore. La differenza si basa sulla Validation R 2 per ciascun set di dati. La convalida R 2 per i dati grezzi è 0,805, e per i dati elaborati la Validation R 2 è 0,987. I modelli seguenti sono stati adattati utilizzando un 20% fisso di dati come set di validazione per evitare una selezione casuale del set di validazione.
Figure 12 – Comparison of Bootstrap Forest fits for Raw and Pre-Processed data.Figure 12 – Comparison of Bootstrap Forest fits for Raw and Pre-Processed data.Figure 12 – Comparison of Bootstrap Forest fits for Raw and Pre-Processed data.Figure 12 – Comparison of Bootstrap Forest fits for Raw and Pre-Processed data.Figure 12 – Comparison of Bootstrap Forest fits for Raw and Pre-Processed data.Figura 12 – Confronto degli adattamenti della foresta Bootstrap per dati grezzi e pre-elaborati.
Supporta la regressione vettoriale
In JMP Pro è disponibile anche il supporto della modellazione di regressione vettoriale (SVR), che rappresenta un'altra valida alternativa per l'analisi dei dati spettrali. SVR è un algoritmo di machine learning potente e flessibile basato sui confini utilizzato per creare modelli predittivi per una risposta continua. Nel caso del nostro set di dati, SVR mostra un miglioramento significativo anche nell’analisi dei dati elaborati.
Figure 13 - Comparison of SVR model fits for Raw and Pre-Processed data.Figure 13 - Comparison of SVR model fits for Raw and Pre-Processed data.Figure 13 - Comparison of SVR model fits for Raw and Pre-Processed data.Figure 13 - Comparison of SVR model fits for Raw and Pre-Processed data.Figure 13 - Comparison of SVR model fits for Raw and Pre-Processed data.Figura 13 – Confronto degli adattamenti del modello SVR per i dati grezzi e pre-elaborati.
In JMP e JMP Pro sono presenti altre tecniche di modellazione che è possibile utilizzare per modellare i dati spettrali, quindi se non ne hai vista una che vorresti utilizzare o che hai utilizzato, faccelo sapere e faremo in modo di illustrarla in dettaglio un futuro post sul blog.
1) " Diffusione della luce e assorbimento della luce separati da una correzione moltiplicativa estesa del segnale. Applicazione all'analisi della trasmissione nel vicino infrarosso di miscele di polveri " Chimica analitica 2003 febbraio 1;75(3):394-404
