Sto utilizzando la piattaforma di regressione generalizzata e cerco di trovare il modello migliore per i miei dati. Quando confronto i diversi modelli nella piattaforma di regressione generalizzata, ottengo

I valori Rsquare generalizzati sono tutti intorno a 0,94 per il set di addestramento e 0,95 per il set di convalida.
Quindi ho utilizzato Formula Depot -> Confronto modelli per ottenere ulteriori informazioni sui modelli. Prendo questo tavolo
I valori Rsquare per il set di addestramento sono nell'intervallo 0,53-0,62 e per il set di convalida 0,8-0,9.
Ho due domande:
- È normale che i valori Rsquare siano molto più bassi dei valori Rsquare generalizzati?
- È indicativo di un problema che gli Rsquare per il set di convalida siano maggiori rispetto al set di addestramento (ho provato 3 diverse suddivisioni dei dati tra la convalida e il set di addestramento.) Se il Rsquare per il set di addestramento era maggiore rispetto al set di convalida, sarebbe un'indicazione di over-fitting. Ma qui è il contrario.
Si scopre che il problema era correlato ai punti inclusi nei set di formazione e convalida. Ci sono stati alcuni punti anomali che hanno avuto una grande influenza su Rsquare. Quindi, a seconda di dove sono finiti, i valori sono cambiati molto.
Escluderli dalla valutazione ha migliorato la situazione.