发一个测试计算精确度的公式

cleansky · 发表于 2011-2-18 20:39:52

cp用cas预处理后忽略了前面一堆
对于cas机子，要分布计算出数值，再用ans代入
zhj 发表于 2011-2-18 20:01

cas直接回车是输出9,但是按约等于（CTRL+Enter）后，似乎结果比较差。

imath · 发表于 2011-2-19 12:39:42

Classpad没有约等于的符号

imath · 发表于 2011-2-19 12:40:01

round函数是没有CAS的计算器的产物

imath · 发表于 2011-2-19 12:41:40

我教教你该怎么测精度吧

Nspire里面输入round(sin-1(cos-1( tan-1 (tan (cos (sin( 9 )))))),2) ( 其中 9 使用 Degree 度数模式 )

cleansky · 发表于 2011-2-19 20:12:03

我教教你该怎么测精度吧

Nspire里面输入round(sin-1(cos-1( tan-1 (tan (cos (sin( 9 )))))),2) ( 其中 9 使用 Degree 度数模式 )
imath 发表于 2011-2-19 12:41

我想发这个测试公式的目的是让大家了解或者讨论一下计算精度问题，比较一下各类计算器在数值精度方面的优劣，并不是想来学习什么或者教别人什么。

刚刚了解这个论坛（虽然对数学的了解要久远得多），也才用手持计算器不久，以前一直在做有限元的计算工作，希望大家能通过一个论坛很好的沟通与学习，而不是其他的。。。。

cleansky · 发表于 2011-2-19 20:34:27

最后一行是约等于，倒数第二行是直接回车的结果。

imath · 发表于 2011-2-19 22:04:34

假如叫你计算（根号2+1）^2
试问在试卷上你保留到多少位？

cleansky · 发表于 2011-2-19 22:19:47

这个要根据试卷要求的有效小数位数来确定

kexuestudy · 发表于 2011-2-19 22:35:49

我的Ti-nspire CAS显示
sin-1(cos-1( tan-1 (tan (cos (sin( 9 )))))) 9（Enter）
sin-1(cos-1( tan-1 (tan (cos (sin( 9 )))))) 9.（Ctrl+Enter）

lch · 发表于 2011-2-19 23:09:25

nspire cas 无压力显示9，用约等于显示9.

cleansky · 发表于 2011-2-20 00:44:29

真是奇怪啊，莫非是RP问题？呵呵，各位有CAS的兄弟都来算算。

朔雪X忆 · 发表于 2011-2-20 09:12:07

不是人品问题，是Float设置问题。
选中输出9.的那一行按回车复制下来你会看到不是9, 9是NSpire根据Float的设置四舍五入后的结果。

zhj · 发表于 2011-2-20 09:39:21

测试结果：991es plus、82es、82es plus均为9.00000000733338

ttxzb · 发表于 2011-2-20 10:33:39

CASIO fx-991MS:
8.999998637
HP 39gs:
8.99999864267
CASIO fx-9750GII (Upgrade to 9860GII):
8.999999998

imath · 发表于 2011-2-20 12:43:50

那是浮点设置问题. 只需要不设置或者设置为1~9之间即可

imath · 发表于 2011-2-20 12:44:23

当然,我一般设置为12
我从来不怎么用约等于的..

imath · 发表于 2011-2-20 12:44:45

真是奇怪啊，莫非是RP问题？呵呵，各位有CAS的兄弟都来算算。
cleansky 发表于 2011-2-20 00:44

计算器不会出错,只有按错

mwplayer · 发表于 2011-3-2 00:58:00

CAS 等于9, 是由于浮点设置问题，把它设为12位，结果就是8.999...

philips530 · 发表于 2011-3-25 03:08:13

9.000000007

5800P

Ivan · 发表于 2011-5-14 18:17:04

盗版fx-82es
8.999999998

账号		自动登录	找回密码
密码			注册

[纯编程、古董] 发一个测试计算精确度的公式

本帖子中包含更多资源