191763_zh-TW

liliconcom

如何在浮點計算中去掉多餘的小數點？

你好，

我正在製作一個腳本，它將矩陣作為輸入，獲取矩陣中元素之間的間隔，並輸出該間隔。 我的問題是 JMP 輸出有時會有額外的小數位（見下面的日誌輸出）。 如何確保如果我的輸入有 N 個小數位，輸出也應該有 N 個小數位？

 

腳本：

 

outmtx = [0, 0.2, 0.4, 0.6, 0.8, 1, 1.2, 1.4, 1.6, 1.8, 2,
    2.2, 2.4, 2.6, 2.8, 3, 3.2, 3.4, 3.6, 3.8, 4,
    4.2, 4.4, 4.6, 4.8, 5, 5.2, 5.4, 5.6, 5.8, 6,
    6.2, 6.4, 6.6, 6.8, 7, 7.2, 7.4, 7.6, 7.8, 8,
    8.2, 8.4, 8.6, 8.8, 9, 9.2, 9.4, 9.6, 9.8, 10];

mtxdiff = J(Nrows(outmtx)-1,1,0);    

For (i=1, i<=Nrows(outmtx)-1, i++,  mtxdiff[i] = outmtx[i+1]-outmtx[i]);

Show(mtxdiff);

 

日誌窗口輸出：

mtxdiff = [0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2,<BR /> 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, 0.2, <BR />0.199999999999999, 0.2, 0.2, 0.2, 0.2, 0.199999999999999, 0.2, <BR />0.2, 0.2, 0.2, 0.199999999999999, 0.2, 0.2, 0.2, 0.2, 0.199999999999999, <BR />0.2, 0.2, 0.199999999999999, 0.200000000000001, 0.199999999999999,<BR /> 0.200000000000001, 0.199999999999999, 0.199999999999999, 0.200000000000001,<BR /> 0.199999999999999, 0.200000000000001, 0.199999999999999];

謝謝，

沙伊拉

 

Re: 如何在浮點計算中去掉多餘的小數點？

請參閱 Round() 函數。 在這種情況下， Round( mtxdiff, 1 ) 應該做你想做的事。