yongdong7 发表于 2010-8-13 15:18:59

神奇的计算器内部精度_续1=0.999···问题

先发两张图暖暖场！




fx-82es & fx-991es_plus告诉我们
.7777777777777（13个7）=7/9

ti-30x2b 告诉我们
.7777777777(10个7）=7/9

ti-nspire 告诉我们
.777777777777777（15个7）=7/9

我用的方法是：将两个数相减，直至差为o（这不就是计算计算器内部精度的“基本”方法吗！）

FM98.7 发表于 2010-8-13 16:00:33

慢着，那台82ES······

yongdong7 发表于 2010-8-13 16:02:02

慢着，那台82ES······
FM98.7 发表于 2010-8-13 16:00 http://www.cncalc.org/images/common/back.gif怎么了？a版_rom21啊~

FM98.7 发表于 2010-8-13 16:02:47

上面的字，囧~

yongdong7 发表于 2010-8-13 16:43:49

上面的字，囧~
FM98.7 发表于 2010-8-13 16:02 http://www.cncalc.org/images/common/back.gif很正常啊！都这样的，只要是“a版_rom21”

Σ理论EQN 发表于 2010-8-13 18:47:18

上海中小学XXXXXXX。。。。。。。

疯不狂 发表于 2010-8-13 21:21:20

那是他们的规定，反正我这里没有

xzxzxz 发表于 2010-8-13 22:51:14

cp同样15个7

疯不狂 发表于 2010-8-13 23:06:47

cp同样15个7
xzxzxz 发表于 2010-8-13 22:51 http://www.cncalc.org/images/common/back.gif
CASIO系列怎么全部精度一样的……
设计偷懒？

不锈钢 发表于 2010-8-14 07:52:23

我的slim怎么都超过50个7了还没出来啊

chsi 发表于 2010-8-14 08:23:13

TI-84 Plus同样是10个7.

不锈钢 发表于 2010-8-14 08:30:03

丫的我的slim不管摁几个7都显示0.777777777777777778

yongdong7 发表于 2010-8-14 14:53:30

我的slim怎么都超过50个7了还没出来啊
不锈钢 发表于 2010-8-14 07:52 http://www.cncalc.org/images/common/back.gif问一下，你的slim软升过了吗？

不锈钢 发表于 2010-8-14 15:01:27

原来是G2的后来坏了我刷过原版的，现在刷的是2.0官方版的

yongdong7 发表于 2010-8-14 15:45:50

原来是G2的后来坏了我刷过原版的，现在刷的是2.0官方版的
不锈钢 发表于 2010-8-14 15:01 http://www.cncalc.org/images/common/back.gif哦！不知道gii是什么状况~

yongdong7 发表于 2010-8-14 15:47:21

丫的我的slim不管摁几个7都显示0.777777777777777778
不锈钢 发表于 2010-8-14 08:30 http://www.cncalc.org/images/common/back.gif您试试按15个7再“f=d”（或者“s=d”）一下

不锈钢 发表于 2010-8-14 16:05:54

试过了

不锈钢 发表于 2010-8-14 16:06:42

只有那样才会

yongdong7 发表于 2010-8-14 16:36:17

那，最少需要几个7，我认为是13个~
看来9860g系列的“数据输出”比较“奇特”= =

imath 发表于 2010-8-30 16:38:10

丫的我的slim不管摁几个7都显示0.777777777777777778
不锈钢 发表于 2010-8-14 08:30 http://www.cncalc.org/images/common/back.gif
你的键盘不是坏了吗?..
页: [1] 2
查看完整版本: 神奇的计算器内部精度_续1=0.999···问题