Ponderazione delle reti neurali?<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />Un cliente mi ha posto una domanda riguardo alle reti neurali:
" Sto eseguendo l'adattamento del modello utilizzando reti neurali. Vorrei utilizzare la "ponderazione" per ridurre al minimo gli errori di classificazione per determinate situazioni. Come si utilizza il "peso" in JMP? È disponibile un'opzione "Frequenza" nella modellazione di reti neurali di JMP. Ha qualcosa a che fare con la ponderazione? Qualsiasi aiuto sarebbe molto apprezzato. "
Certo, la mia comprensione del funzionamento delle reti neurali è molto semplice, e qui sono un po 'perplesso. Capisco benissimo la ponderazione rispetto ai modelli di regressione, ma quando si tratta di reti neurali. Qualcuno può fornirmi aiuto o guida qui?
Saluti,
Erich
Ri: Ponderazione delle reti neurali?Perché non utilizzare la proprietà della colonna della matrice dei profitti per collocare i costi su una classificazione errata? Personalmente, non userei il peso, poiché sarà analogo alla duplicazione delle righe.
Ri: Ponderazione delle reti neurali?Ciao Eric,
Sembra che il cliente abbia a che fare con una variabile di risposta categorica sbilanciata, in cui la categoria target è sottorappresentata.Tendo a stare lontano da Freq e Weight per i modelli (specialmente i modelli Neural e Partition).Un modo generale per affrontare questo problema, se ci sono dati sufficienti, è campionare dal set di dati più ampio, selezionando tutte le osservazioni nella categoria obiettivo e lo stesso numero di osservazioni nell'altra categoria.Il modello si basa su dati bilanciati e la matrice di confusione lo riflette.Le probabilità vengono modificate dopo il fatto per riflettere le probabilità reali.
C'è un componente aggiuntivo che fa questo, che gestisce anche il bilanciamento del set di convalida, se lo si desidera.Ciò consente di costruire il modello su un set di addestramento bilanciato (e un set di convalida), quindi un set di test non bilanciato viene utilizzato per il confronto e la selezione del modello: Componente aggiuntivo di partizionamento dati stratificato (con opzioni di bilanciamento).
Un altro approccio consiste nell'esplorare diversi valori limite per la matrice di confusione per queste situazioni.C'è anche un componente aggiuntivo per questo: Componente aggiuntivo Matrice di confusione interruzione alternativa .
Questi approcci sono discussi in Shmueli, Patel e Bruce, Data Mining for Business Intelligence.Il primo approccio è discusso in Tecniche di data mining di Linoff e Berry.
Cordiali saluti, abbiamo messo una raccolta di questi utili strumenti su: Raccolta: componenti aggiuntivi degli strumenti di data mining
Spero che sia di aiuto!Felice di discutere se lo desideri.
Mia
Ri: Ponderazione delle reti neurali?Ciao Eric,
Non mi considererò un esperto in NN ma per quanto ne so ci sono diversi modi di pesi nelle reti neurali. Il primo è che la funzione Penalità venga ponderata perché pensi che pochi dei molti fattori contribuiscano maggiormente all'abilità predittiva del modello. Questa operazione può essere eseguita in JMP tramite l'impostazione della funzione Penalità su assoluto o decadimento del peso (O verview of Neural Networks )
Quello che ho capito dalla tua descrizione è interessato a pesare gli Input già per la funzione Transfer per costruire reti neurali artificiali. Dalla mia comprensione (e sono felice se qualcuno lo sa meglio di me e condivide le sue conoscenze ) non aggiungiamo peso per la funzione Transfer utilizzata dalla funzione di attivazione. Hmm, anche se è possibile ottenere dei pesi con la variabile di frequenza nel caso in cui, sotto il cofano, questa venga utilizzata per aggiungere più ingressi di uno solo per simulare un'importanza maggiore. Ma non ho più fiducia in me, poiché non posso esaminare l'algoritmo implementato.
Spero che questo sia di qualche aiuto. Comunque mi piacerebbe vedere così chi conferma quello che ho detto
Martin