Come selezionare i termini del modello per campioni di piccole dimensioni (DOVREI usare Lasso? Scegliere i termini manualmente con il valore p?)Ciao,
Sto cercando il modo migliore per selezionare i termini da includere nel mio modello quadratico. 
Innanzitutto, sto utilizzando il metodo dei minimi quadrati per capire come il pH e altri indicatori continui (e forse anche alcuni indicatori discreti da aggiungere presto al mio modello) siano influenzati da tre diversi fattori (concentrazione A, concentrazione B e rapporto C). Quindi devo trovare la relazione tra i fattori (il loro quadrato e le loro interazioni) e i valori misurati (pH, valori reologici, ecc.).
Ho ottenuto i miei dati eseguendo un disegno sperimentale a matrice L9 di Taguchi (tre parametri con tre livelli ciascuno), quindi ho solo 9 esperimenti. Devo scegliere i termini per i miei modelli da utilizzare per ogni output. (Un primo modello per il pH, un altro può essere utilizzato per le misurazioni reologiche, ecc.)
Con sole 9 simulazioni, so di non poter adattare il modello quadratico completo (10 parametri). Gli effetti principali sono ortogonali, ma le interazioni a due fattori sono sovrapposte agli effetti principali (|r| ≈ 0,58), quindi ho intenzione di eliminarle. Rimangono quindi gli effetti principali più i termini quadratici (6 parametri). La mia domanda riguarda la scelta tra i termini rimanenti: riduzione manuale (rimozione dei termini non significativi uno per uno) o LASSO: quale approccio è più appropriato per un dottorato di ricerca?
Grazie per l'aiuto!
Cordiali saluti,
Anna
Oggetto: Come selezionare i termini del modello per campioni di piccole dimensioni (DOVREI usare Lasso? Scegliere i termini manualmente con il valore p?)Non esitate a chiedere ulteriori dettagli!
Oggetto: Come selezionare i termini del modello per campioni di piccole dimensioni (DOVREI usare Lasso? Scegliere i termini manualmente con il valore p?)Ciao @FrancesBudgie97 ,
Benvenuto nella community!
È piuttosto raro vedere l'utilizzo dei modelli Taguchi. Per essere sicuri, i tuoi tre fattori sono numerici continui, ma per creare il modello li hai definiti come categorici o numerici discreti?
Non rimuoverei a priori i termini che potrebbero essere correlati ad altri nel modello. La correlazione tra i termini è spesso presente nei modelli statistici e ciò non impedisce la loro inclusione. La conseguenza sarà una certa limitazione nell'inclusione dei termini (non sarà possibile includerli tutti, altrimenti si otterrà una singolarità nel modello), una minore precisione nella loro stima (con intervalli di confidenza più ampi attorno ai valori stimati) e un certo grado di collinearità (è possibile verificare i valori del fattore di inflazione della varianza (VIF) per i termini inclusi nel modello per valutare il grado di collinearità).
Poiché non è possibile stimare tutti i possibili termini di un modello di superficie di risposta (RSM) a partire dal proprio progetto, ci si trova in una situazione di sovrasaturazione. Sarà necessario utilizzare metodi specifici che aiutino a determinare quali termini potrebbero avere il maggiore impatto sulle diverse risposte. Alcune opzioni interessanti sono:
È possibile trovare un caso d'uso presentato nel gruppo utenti francese di JMP qui , dove ho utilizzato queste diverse piattaforme per confrontare le metriche di adattamento del modello (R² / RMSE / ...), l'equilibrio tra complessità e accuratezza del modello (con criteri informativi come verosimiglianza, AICc e BIC) , la concordanza tra modelli per l'inclusione di termini, ecc...
Per quanto riguarda la tua domanda su come aggiungere/rimuovere termini per costruire i tuoi modelli, i metodi menzionati sopra possono essere d'aiuto. Ma soprattutto, devi definire:
- Il tuo obiettivo : ti trovi in una situazione di screening (dove i valori p possono aiutare a distinguere il segnale reale dalla variazione casuale o dal rumore)? Oppure in uno scenario di ottimizzazione/previsione (dove l'accuratezza del modello potrebbe essere più importante, quindi potresti fare affidamento su RMSE e altre metriche predittive)? O ancora, ti trovi in una situazione intermedia e non sei sicuro (il criterio informativo può aiutarti a confrontare i modelli e a determinare il giusto equilibrio tra i termini e il numero di termini inclusi, bilanciando accuratezza e complessità).
- Le tue conoscenze/competenze nel settore : Sei in grado di rimuovere/aggiungere termini basandoti su dati storici o conoscenze relative al sistema che stai studiando? Esistono già interazioni o effetti principali noti per essere attivi e importanti? Puoi verificare/valutare un modello con esperti del settore per accertarti che abbia un senso?
- Strategia di validazione : Una volta selezionati i modelli che sembrano adeguati alle vostre risposte, è necessario validarli. In base ai vostri obiettivi e al budget sperimentale, potreste avere diversi scenari per eseguire le prove di validazione. Siete interessati solo a validare i punti ottimali? Oppure volete validare il modello sugli intervalli dei fattori studiati (e per farlo, eseguire combinazioni di livelli dei fattori non presenti nel disegno sperimentale, ma che rispettino gli intervalli dei fattori)? Non ci sono regole rigide per validare i risultati, ma dedicare particolare attenzione (e tempo!) all'esecuzione di questi esperimenti di validazione può rafforzare notevolmente la vostra fiducia nei modelli (e la fiducia dei vostri revisori!).
Spero che questa risposta ti sia d'aiuto.