发一个测试计算精确度的公式

jjww2999 · 发表于 2015-8-3 16:02:37

1/(Pi-355/113)

参考 win 计算器的答数为标准：-3748629.09266

对照一下各自手头的计算器看看，跟这个标准答数偏差有多大？

这样的计算场景，很多高级计算器都立马暴露了精度不良的缺陷，所以，以后的靠得住的计算器产品，应该是内部精度越多越好，会是以后计算器硬件生产的一个方向。

【PHYSICS】 · 发表于 2015-8-3 17:30:06

式子有问题吧

imasaka0 · 发表于 2015-8-3 21:24:32

fx-82es

-3748629.22

yzhang37 · 发表于 2015-8-10 22:10:46

这要看计算器编译的时候使用的 double 类型或者 long double 类型内部到底是怎么存储数据的。因为计算器如果是直接使用数值进行计算，底层的二进制计算 double 如果精度不够就会这样。

jjww2999 · 发表于 2015-8-11 18:30:05

yzhang37 发表于 2015-8-10 22:10
这要看计算器编译的时候使用的 double 类型或者 long double 类型内部到底是怎么存储数据的。因为计算器如 ...

硬件和软件相结合，得出的计算结果，能够在表面上看的过去没有错误就行。（表面指的是通常的屏显10位数字，HP和NS可能屏显12位数字）

xiaoganglu · 发表于 2015-8-17 13:47:42

CASIO FX-120 -3759398.496
SHAPR EL-506W -3748630.344

jjww2999 · 发表于 2015-8-19 15:50:15

完全撑不住了

1/(pi-103993/33102)

正确的答数是：
1730431227.79607
而es15位内部精度的答数是：
1730403184

哈哈，都出丑了。

ryb · 发表于 2015-9-6 19:45:36

本帖最后由 ryb 于 2015-9-6 19:58 编辑

1,730,431,258.182430 这是excel2013的计算结果
1,730,403,184 fx-5800p
1,724,137,931.03 HP39GS

ryb · 发表于 2015-9-6 20:03:17

1,724,137,931.03 HP 20B

ryb · 发表于 2015-9-6 20:04:19

惠普的结果一致啊，呵呵。hp12c没有pi，不过精度应该不怎么好。

fioedeeee · 发表于 2015-9-17 14:05:57

对比一下Mathematica的结果…………醉啦

tawangxunyuan · 发表于 2015-9-20 10:41:38

佳能的F-789sga精度竟然这么牛逼！我都惊了

tawangxunyuan · 发表于 2015-9-21 23:44:22

cx cas为3748628.9389656

dousha99 · 发表于 2015-9-26 22:48:03

大黄为 -3748628.93897

zdz88 · 发表于 2015-9-29 18:08:25

这个式子，应该缺少括号吧，所以才算出这么多毫不相干的答案出来。

blink1970 · 发表于 2015-10-27 08:38:20

TI-92plus为3748628.9389656

jjww2999 · 发表于 2015-10-28 08:33:00

blink1970 发表于 2015-10-27 08:38
TI-92plus为3748628.9389656

个位数上也是晚节不保

blink1970 · 发表于 2015-10-29 23:17:33

我的TI-92+计算结果是-3748628.9389656

账号		自动登录	找回密码
密码			注册

[泛手持计算设备] 发一个测试计算精确度的公式

本帖子中包含更多资源