关于prime计算精确度的疑问

tojohideki · 发表于 2014-3-19 20:10:47

prime的各种小bug我在此就不吐槽了，以前就知道它的精确度是我见过的最差的，今天突然发现一个十分奇葩的情况，我觉得这已经不是精确度的问题了，望各位大大们解答。第一个开了CAS，第二个没有开

panyaolin123 · 发表于 2014-3-19 20:21:55

开了CAS精度反而更差？不太可能吧。。
我觉得会不会是CAS对那个表达式理解错误，或者你用分数来算算看？

tojohideki · 发表于 2014-3-19 20:34:02

panyaolin123 发表于 2014-3-19 20:21
开了CAS精度反而更差？不太可能吧。。
我觉得会不会是CAS对那个表达式理解错误，或者你用分数来算算 ...

用分数算答案是没有问题的
算那个asin(acos(atan(tan(coa(sin(9))))))的时候，开和不开CAS算出来也是两个答案

吉吉0531 · 发表于 2014-3-19 21:03:16

第一个结果是怎么做到了。。。。好神奇！

panyaolin123 · 发表于 2014-3-19 21:17:02

tojohideki 发表于 2014-3-19 20:34
用分数算答案是没有问题的
算那个asin(acos(atan(tan(coa(sin(9))))))的时候，开和不开CAS算出来也是两个 ...

那可能真的是系统设计的问题了。。

话说其它计算器的CAS都没有这样子的。

wtof1996 · 发表于 2014-3-19 21:24:45

本身OS就不是很成熟...目前问题也很多
另:Prime本身浮点精度只有10位的样子，所以建议尽量使用分数

rourou_Jun · 发表于 2014-3-19 21:33:11

吉吉0531 发表于 2014-3-19 21:03
第一个结果是怎么做到了。。。。好神奇！

很小的一个数可能是cas精度问题

吉吉0531 · 发表于 2014-3-19 21:55:26

rourou_Jun 发表于 2014-3-19 21:33
很小的一个数可能是cas精度问题

TI CX CAS却完全正确

DWS2HMIX · 发表于 2016-11-25 20:13:14

没开cas精度12位

twsg · 发表于 2017-12-20 15:51:28

我不懂，但是我帮你顶起来

dousha99 · 发表于 2018-1-25 21:27:48

浮点数误差。Giac 后端是有这样的问题的。事实上几乎所有的正经实现的浮点数运算都会出这种结果。
这...只能说惠普很遵守 IEEE 754 标准了。不过确实是个大坑。
这不是精度差，而是它真实地给你展现了计算结果的原因。在你用硅酸钙、德仪的时候，没出这种结果要么是因为进行了符号运算，要么是用近似方法抹去误差（的同时会降低精度）。Giac 在写的时候偷懒没用符号计算，直接当作浮点数求值出结果了，所以就是有一个非常小的尾巴留了下来成为结果。
不过让我好奇的是，在进行加法的时候没有出浮点数误差，这大概真的是因为 Giac 的作者偷懒没给减法写对应功能了吧。

imath · 发表于 2018-1-26 11:00:19

避免两个相近的数相减
加法是大数会吃掉小数，我这里只作一个预测。

imath · 发表于 2018-1-26 11:05:48

测试了一下，比如9876543210+0.000000001= 9876543210，加了那个小数已经被吃掉了😂

2536733858 · 发表于 2018-4-12 22:20:25

回一下看看有没有金币

8086 · 发表于 2020-2-23 23:39:56

惠普的精度看上去很低（相比其他韩书记）

账号		自动登录	找回密码
密码			注册

关于prime计算精确度的疑问

回帖奖励 +5 金钱

回帖奖励 +5 金钱

回帖奖励 +5 金钱

回帖奖励 +5 金钱

回帖奖励 +5 金钱

回帖奖励 +5 金钱

回帖奖励 +5 金钱

回帖奖励 +5 金钱


10 金钱	回复本帖可获得 5 金钱奖励! 每人限 1 次(中奖概率 50%)