有关计算精确度的测试

xzxzxz · 发表于 2010-3-8 20:17:17

根据sin-1cos-1tan-1tansincos9的测试，CASIO的图形计算器也有一定误差：

Casio FX-9860G SD / 9860G Slim	8.999999998	-2.40532 × 10-9	15
Casio FX-9860GII SD	8.999999998	-2.40532 × 10-9	15

拿CP330测试，得到的结果即为9，9860与CP330在计算精确度上也有差异？。。

hcz · 发表于 2010-3-8 20:22:56

CP330带CAS，直接处理的

luciferjasonzy · 发表于 2010-3-8 20:31:51

根据sin-1cos-1tan-1tansincos9的测试，CASIO的图形计算器也有一定误差：
Casio FX-9860G SD / 9860G Slim8.999999998-2.40532 × 10-915Casio FX-9860GII SD8.999999998-2.40532 × 10-915

拿CP330测试，得到的 ...
xzxzxz 发表于 2010-3-8 20:17

貌似这样是没有实根的吧……

[Boeing 617] · 发表于 2010-3-8 20:57:30

有的有的

Nero · 发表于 2010-3-8 21:28:15

我误以为第二列是价格……

urill · 发表于 2010-3-9 00:49:23

在实际应用上最后的精确值根本没有任何用处
可是作业要用 orz

hcz · 发表于 2010-3-11 17:39:32

我误以为第二列是价格……
991es82es 发表于 2010-3-8 21:28

白菜价的9860

Cichol · 发表于 2010-3-11 18:16:56

就是这个盗版的比正版精度高

账号		自动登录	找回密码
密码			注册

[fx-9860/9750] 有关计算精确度的测试