Berechnungsunterschied zwischen Ist (MS Excel) und JMPHallo,
Kürzlich ist mir aufgefallen, dass bei einer einfachen Berechnung mit einer Formel in JMP im Vergleich zu MS Excel oder einem normalen Taschenrechner ein Delta von 0,0xx vorhanden ist (siehe beigefügte Grafik). Kann ich wissen, ob dies in JMP erwartet wird.
Danke.
Betreff: Berechnungsunterschied zwischen aktuell (MS Excel) und JMPIch denke, das hat mit Col Info > Format zu tun. In meinen JMP-Daten wurden die ersten beiden Spalten auf „Fixed“ gesetzt, aber die Ergebnisspalte wurde auf „Best“ gesetzt. Ich denke, das Berechnungsergebnis hat tatsächlich die Werte (enthalten 9 Dezimalkomma) aus den 2 Spalten genommen, die auf Fixed gesetzt waren.
Diese Daten stammen tatsächlich aus einem Testergebnis, also war mir wohl nicht bewusst, dass sie so viele Dezimalstellen haben 
Wie auch immer, vielen Dank Jim für deine Antwort.
Betreff: Berechnungsunterschied zwischen aktuell (MS Excel) und JMPIch habe die von mir verwendete Datentabelle beigefügt.Unten ist ein Bild der Tabelle
Betreff: Berechnungsunterschied zwischen aktuell (MS Excel) und JMPHallo Jim,
Ich denke, das könnte eine Art "Bug" sein Ich verwende einen normalen Taschenrechner und die Ergebnisse folgen dem Excel, nachdem diese Berechnung angeblich 3 Dezimalstellen ausgegeben hat, das Ergebnis in JMP jedoch bis zu 9 Dezimalstellen anzeigt.Betreff: Berechnungsunterschied zwischen aktuell (MS Excel) und JMPBeim Ausführen mit JMP 13.2.1 und Office 365 habe ich die identischen Werte zwischen den Berechnungen in JMP und Excel erhalten.
