662815_zh-CN

liliconcom

处理 char 到 num 的问题

大家好
我正在操作数据，即存储为字符的长数字字符串。 我能够将它们分解为各自列中的单个数字，但发生了我无法修复的事情。
一些数字保持不变，其他数字正在变化。 一个变化的例子是 -8.7 变成 -8.6999999999999992894572642，这会搞乱计算和比较。 圆形不起作用。

事实是，当我将数据保存为 CSV 或 TXT 时，这些数字本来就应该是这样，但是当我导入文件时，表中的数字被破坏了，这意味着 JMP 默认情况下做了一些“错误”的事情。

知道如何解决这个问题吗？

谢谢

自动化和脚本编写回复：处理 char 到 num 的问题

@jthi多棒的网站名称啊！ 当我看到它时，我犹豫是否点击，但是......完美。

 

https://community.jmp.com/t5/Discussions/Condition-error/mp/474116/highlight/true#M71894

https://community.jmp.com/t5/JSL-Cookbook-Archived/Loops/ta-p/50949

https://en.wikipedia.org/wiki/Double- precision_floating-point_format

https://community.jmp.com/t5/Discussions/Using-quot-If-quot-formula-sometimes-returns-blank-cells/mp/46789/highlight/true#M26653

 

回复：处理 char 到 num 的问题

这是一个 csv，但它也发生在 txt 上。

回复：处理 char 到 num 的问题

最有可能出现的问题是浮点数学 (https://0.30000000000000004.com/) 。

 

您要将文件导入到何处（哪种文件类型）？

回复：处理 char 到 num 的问题

我想我明白了……要点。 ) 。

因此脚本需要以不同的方式构建。
泰