Estoy trabajando en un script para verificar algunos datos paramétricos generados por un programa de prueba. La tabla que tengo corresponde a algunos espectros láser que tienen un único pico espectral y picos en el lado izquierdo y/o derecho. Me gustaría visualizar los datos en JMP, por lo que creé este gráfico:
Puedo resaltar el pico de los espectros con una columna que usa una fórmula simple para completar las filas solo en SpectralPeakPower (ROJO).
Si( :YValues == Col Max(:SpectralPeakPower, :LampWfr, :serial, :"CorrienteLáser[mA]"n), :SpectralPeakPower)
Sin embargo, cuando uso este mismo concepto para calcular la potencia del pico del lado izquierdo, la declaración de equivalencia falla y, por lo tanto, la potencia del pico del lado izquierdo no se completa en la fila y NO se resalta en el gráfico.
Al depurar este problema, no parece haber una razón lógica para que la declaración == no se convierta en 1...
(-46,81 == -46,81) = 1 ¿cierto? Me estoy volviendo un poco loco depurando esto...
¿Cuáles son las otras posibles razones por las que == no es 1?
También tengo otras instancias en mi script donde hay un error de redondeo y me gustaría usar una función ~== aproximadamente equivalente. ¿Existe ya una función de este tipo?
Puedo compartir el archivo JMP de forma privada con los miembros del personal para su revisión.
Gracias,
Podría deberse a matemáticas de punto flotante .
Show(0.1 + 0.2, 0.1 + 0.2 == 0.3);
//0.1 + 0.2 = 0.3;
//0.1 + 0.2 == 0.3 = 0;
Puede utilizar Round(), Floor() o Ceiling() para redondear sus valores.
