Estudios de simulación de regresión penalizada.Hola,
Un cliente (un estadístico muy competente que respalda la fase preclínica en el sector farmacéutico) me preguntó si conocía algún estudio que se haya realizado para determinar qué tan efectivos son Elastic Net y Lasso en comparación con las técnicas estándar. ¿Funcionan mejor en determinadas situaciones? Creo que están particularmente interesados en la aplicación en el contexto del DoE.
¿Conoce alguna publicación a la que pueda señalarles? ¿Algún estudio interno que hayamos realizado que pueda compartirse?
Gracias,
filo
Re: Estudios de simulación de regresión penalizadaGracias, arcilla. Creo que mi cliente estará muy contento con esa respuesta.
filo
Re: Estudios de simulación de regresión penalizadaMuchos de los trabajos de investigación sobre regresión penalizada que he encontrado tienden a centrarse en datos de observación en lugar de experimentos diseñados. Aquí hay un documento que puede ser útil:
http://journals.plos.org/plosone/article?id=10.1371/journal.pone.0107957
Evaluar un método de selección de variables puede resultar bastante complicado porque hay muchas cosas que considerar. ¿Sintonizamos utilizando validación cruzada o un criterio de información? Para un método penalizado, también debemos considerar cómo se eligen los pesos de penalización. Y los resultados pueden depender de si el objetivo es minimizar el error de predicción o si es capturar las variables que realmente influyen en la respuesta.
Adjunto diapositivas de una presentación que hice en QPRC en 2015 relacionada con el uso de regresión penalizada para analizar experimentos de detección. Mi objetivo era ver qué tan bien funcionaría el lazo en diseños sobresaturados. Eso fue antes de que existieran los criterios de ERIC, que creo que tiene un gran potencial para estos casos.
Re: Estudios de simulación de regresión penalizadaAdemás, tal vez:
https://community.jmp.com/t5/Discovery-Summit-2015/Model-Selection-Strategies-for-Definitive-Screening-Designs/ta-p/22854
ian
Re: Estudios de simulación de regresión penalizadaFil,
Empecé a investigar la selección de modelos, en particular, qué técnicas funcionan mejor con la selección ad-hoc (ajustar todo, eliminar todo lo que esté por encima de p=0,05 y luego hacerlo de nuevo), paso a paso con BIC y Lasso. Aunque no he podido llegar muy lejos debido a limitaciones de tiempo, he llegado a comprender que la técnica de selección dependerá mucho del diseño. Entonces, para algo así como un factor completo, la técnica no importará, pero con un diseño personalizado casi saturado, sí lo será. Espero dedicar más tiempo a esto si las cosas se ralentizan. Clay Barker y Ryan Lekivetz también han trabajado en esta área.
Don
