jjww2999 发表于 2015-10-12 09:01:52

再论佳能函数机789sga的精度,有新发现

图我就不上了,毕竟大家也是都有这种计算器的。文字描述就OK了。

通过佳能的键盘进行屏幕录入数值,发现可以一次性接受18位有效数字,超过了会放弃后面多余的部分。 (卡西欧82ms只能一次性接受10位有效数字),然后我用间接的方式来继续考察该款计算器真正的内部运算精度是多少,方法如下:

输入:(其中要用到两次10个1)

1111111111+0.123456789876-1111111111

结果会显示 0.1234567898

这个结果是惊人的,这表明,该款计算器的内部精度不是明面上流传的18位精度,而是20位精度!!!

大家不妨自己验证下。


页: [1]
查看完整版本: 再论佳能函数机789sga的精度,有新发现