Desafiando el Bosque Bootstrap en JMPHola,
un cliente mío es el que desafía a Bootstrap Forest en JMP porque es demasiado inflexible en cuanto a la configuración de los algoritmos. Lo compara con el H2O ( http://docs.h2o.ai/h2o/latest-stable/h2o-docs/data-science/drf.html ). En el documento adjunto, he intentado hacer coincidir las configuraciones de JMP con las de (en gris, las amarillas solo están en H2O).
Hay varias configuraciones que no se pueden cambiar (y probablemente no estén implementadas) en JMP, como por ejemplo
- offset_column (Las compensaciones son "valores de sesgo" por fila que se utilizan durante el entrenamiento del modelo)
- balance_classes (sobreexplorar las clases minoritarias para equilibrar la distribución de clases)
- nbins (Especifique el número de bins para que se construya el histograma, luego divídalo en el mejor punto)
- stopping_metric (Mucho más que R2 y RMSE: especifique la métrica que se usará para la detención temprana)
- punto de control (utilice esta opción para crear un nuevo modelo como continuación de un modelo generado anteriormente)
- col_sample_rate_per_tree / level (Especifique la frecuencia de muestreo de la columna por árbol o nivel)
- min_split_improvement (El valor de esta opción especifica la mejora relativa mínima en la reducción del error al cuadrado para que ocurra una división -> puede ayudar a reducir el sobreajuste)
- y algo más
Le he preguntado qué espera de tener estas opciones, ya que dudo que el modelo resultante traiga tanta mejora que considere seria. Afirma que es notable mejor. Luego verifiqué el sitio de H2O y supongo que se debe a un problema muy especial y para eso realmente podría obtener un mejor resultado al usar todas esas opciones de ajuste.
¿Ha escuchado de otros clientes haber dicho que existen otras (mejores herramientas) para modelos de bosques al azar?
Y, Chris u otros desarrolladores: ¿crees que agregar una u otra configuración sería una buena opción?
Gracias,
Martín
Re: Challenging Bootstrap Forest en JMPMartín,
Este paquete de H2O es nuevo para mí, pero parece que puedo usarlo con python y también en un portátil ipython.
Este enlace en git hub hace que parezca que podría ser relativamente fácil de usar una vez que se configure.
https://github.com/h2oai/h2o-3/blob/master/h2o-docs/src/product/tutorials/rf/rf.md Si tengo tiempo, me gustaría ver si puedo correr con él. Puede ser un poco más fácil de usar que XGBoost. Ambos tienen algunas opciones de búsqueda de cuadrícula para sintonizar.
"H2O es una plataforma de código abierto, en memoria, distribuida, rápida y escalable de aprendizaje automático y análisis predictivo que le permite construir modelos de aprendizaje automático en big data y proporciona una fácil producción de esos modelos en un entorno empresarial". La forma en que se describe en la página web principal es muy similar al lenguaje utilizado para describir SAS Viya. Si su cliente quiere esto, ¿tal vez han superado a JMP?
Re: Challenging Bootstrap Forest en JMPLa capacidad de cambiar la métrica de detención es algo que ha sido solicitado por un par de clientes en mi parche. Las clases de balance pueden lograrse con una ponderación proporcional inversa, pero sería bueno si fuera automatizado. Gracias por la atención en esto.Re: Challenging Bootstrap Forest en JMPpóngalo en la dirección de correo electrónico jmpbeta@jmp.com para que el equipo de desarrollo pueda verlo. También señalaría que este podría ser un subconjunto especializado de Random Forest. Simplemente podrían estar abordando ese bit "Distribuido" para evitar el problema de los derechos de autor, pero también podría ser indicativo de algo diferente. Me he encontrado con otro llamado "Árbol condicional" que es un sabor especializado de Gradient Boosted Tree ...
FWIW, la mayoría de los tipos de ciencia de datos con los que hablo están contentos con lo que tenemos. Algunas de las opciones que mencionan anteriormente suenan como que podrían manejarse con ponderación y diferentes estrategias de validación.
METRORe: Challenging Bootstrap Forest en JMPUn comentario más sobre esto: he escuchado que hay más opciones de ajuste más a menudo para redes neuronales, como más capas, más entrenamiento y algoritmos de activación que deben configurarse, ...
Pero era nuevo para mí sobre Random Forest. Así que también tenía curiosidad si otros habían escuchado historias similares.
