cnCalc计算器论坛

 找回密码
 注册
搜索
查看: 10902|回复: 14

关于prime计算精确度的疑问

[复制链接]
回帖奖励 10 金钱 回复本帖可获得 5 金钱奖励! 每人限 1 次(中奖概率 50%)
发表于 2014-3-19 20:10:47 | 显示全部楼层 |阅读模式
prime的各种小bug我在此就不吐槽了,以前就知道它的精确度是我见过的最差的,今天突然发现一个十分奇葩的情况,我觉得这已经不是精确度的问题了,望各位大大们解答。第一个开了CAS,第二个没有开
200834udpfhnxmlhf7z0q8.jpg 200853fbbt99jc8aycuaja.jpg
发表于 2014-3-19 20:21:55 来自手机 | 显示全部楼层
开了CAS精度反而更差?   不太可能吧。。
我觉得会不会是CAS对那个表达式理解错误,    或者你用分数来算算看?
 楼主| 发表于 2014-3-19 20:34:02 | 显示全部楼层
panyaolin123 发表于 2014-3-19 20:21
开了CAS精度反而更差?   不太可能吧。。
我觉得会不会是CAS对那个表达式理解错误,    或者你用分数来算算 ...

用分数算答案是没有问题的
算那个asin(acos(atan(tan(coa(sin(9))))))的时候,开和不开CAS算出来也是两个答案
发表于 2014-3-19 21:03:16 | 显示全部楼层
第一个结果是怎么做到了。。。。好神奇!
发表于 2014-3-19 21:17:02 来自手机 | 显示全部楼层

回帖奖励 +5 金钱

tojohideki 发表于 2014-3-19 20:34
用分数算答案是没有问题的
算那个asin(acos(atan(tan(coa(sin(9))))))的时候,开和不开CAS算出来也是两个 ...

那可能真的是系统设计的问题了。。

话说其它计算器的CAS都没有这样子的。
发表于 2014-3-19 21:24:45 | 显示全部楼层

回帖奖励 +5 金钱

本身OS就不是很成熟...目前问题也很多
另:Prime本身浮点精度只有10位的样子,所以建议尽量使用分数
发表于 2014-3-19 21:33:11 来自手机 | 显示全部楼层

回帖奖励 +5 金钱

吉吉0531 发表于 2014-3-19 21:03
第一个结果是怎么做到了。。。。好神奇!

很小的一个数  可能是cas精度问题
发表于 2014-3-19 21:55:26 | 显示全部楼层

回帖奖励 +5 金钱

rourou_Jun 发表于 2014-3-19 21:33
很小的一个数  可能是cas精度问题

TI CX CAS却完全正确
发表于 2016-11-25 20:13:14 | 显示全部楼层

回帖奖励 +5 金钱

没开cas精度12位
发表于 2017-12-20 15:51:28 | 显示全部楼层
我不懂,但是我帮你顶起来
发表于 2018-1-25 21:27:48 | 显示全部楼层

回帖奖励 +5 金钱

浮点数误差。Giac 后端是有这样的问题的。事实上几乎所有的正经实现的浮点数运算都会出这种结果。
这...只能说惠普很遵守 IEEE 754 标准了。不过确实是个大坑。
这不是精度差,而是它真实地给你展现了计算结果的原因。在你用硅酸钙、德仪的时候,没出这种结果要么是因为进行了符号运算,要么是用近似方法抹去误差(的同时会降低精度)。Giac 在写的时候偷懒没用符号计算,直接当作浮点数求值出结果了,所以就是有一个非常小的尾巴留了下来成为结果。
不过让我好奇的是,在进行加法的时候没有出浮点数误差,这大概真的是因为 Giac 的作者偷懒没给减法写对应功能了吧。
发表于 2018-1-26 11:00:19 | 显示全部楼层
避免两个相近的数相减
加法是大数会吃掉小数 ,我这里只作一个预测。
发表于 2018-1-26 11:05:48 | 显示全部楼层

回帖奖励 +5 金钱

测试了一下,比如9876543210+0.000000001= 9876543210,加了那个小数已经被吃掉了😂
发表于 2018-4-12 22:20:25 | 显示全部楼层
回一下看看有没有金币
发表于 2020-2-23 23:39:56 | 显示全部楼层

回帖奖励 +5 金钱

惠普的精度看上去很低(相比其他韩书记)
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|cnCalc计算器论坛

GMT+8, 2024-12-22 11:20 , Processed in 0.090043 second(s), 22 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表