実際の（MS Excel）とJMPの計算の違いやあ、
最近、数式を使用して簡単な計算を行っているときに、MS Excel や通常の電卓と比較すると、JMP に 0.0xx のデルタがあることに気付きました (添付の図を参照)。 これが JMP で想定されているかどうかを知ることはできますか。
ありがとう。
Re: 実際の(MS Excel)とJMPの計算の違いこれは Col Info > Format と関係があると思います。 私の JMP データでは、最初の 2 列は Fixed に設定されていましたが、結果の列は Best に設定されていました。 計算結果は、Fixed に設定された 2 つの列から実際に値 (小数点以下 9 桁を含む) を取得したと思います。
そのデータは実際にはテスト結果から得られたものなので、小数点が非常に多いことに気付いていなかったと思います:)
とにかく、ジムさん、ご回答ありがとうございます。
Re: 実際の(MS Excel)とJMPの計算の違い私が使用したデータテーブルを添付しました。以下、表の画像です
Re: 実際の(MS Excel)とJMPの計算の違いこんにちはジム、
これはある種の「バグ」かもしれないと思います:)私は通常の電卓を使用し、結果は Excel に従います。この計算ではすべて小数点以下 3 桁になると思われますが、JMP の結果は小数点以下 9 桁まで表示されます。Re: 実際の(MS Excel)とJMPの計算の違いJMP 13.2.1 と Office 365 で実行すると、JMP と Excel の計算で同じ値が得られました。
