文档设置中浮点和浮点12有什么区别

负一的平方根

好像一样 有区别吗

rourou_Jun

我也觉得一样。。。
而且定点又是什么

负一的平方根

rourou_Jun 发表于 2014-1-23 20:51
我也觉得一样。。。
而且定点又是什么

定点是用0补全啊，1.5要显示成1.5000000

asdfghjklzzz

我的理解：
浮点4    0.1显示为0.1、0.12显示为0.12、0.12346显示为0.1235
定点则是负一兄说的
定点是用0补全啊，1.5要显示成1.5000000

吉吉0531

因为计算机只能存储整数，所以实数都是约莫，这样浮点运算是很慢的而且会有误差现在大多数机器都是32位的，也就是说32为都用来表示整数的话，那么对于无符号整数就是0 到 2^32-1，对于有符号的话就是-2^31 到 2^31-1。如果是实数的话，就不是这样了，机器有两种办法表示实数，一种是定点，就是小数点位置是固定的，一种是浮点，就是小数点位置不固定，计算方法也比较麻烦，通常会比整数运算代价大很多


我百度的。。。

rourou_Jun

吉吉0531 发表于 2014-3-8 15:11
因为计算机只能存储整数，所以实数都是约莫，这样浮点运算是很慢的而且会有误差现在大多数机器都是32位的， ...

So？具体区别是什么

吉吉0531

rourou_Jun 发表于 2014-3-8 15:52
So？具体区别是什么

定点数受字长的限制，超出范围会有溢出
其浮点数的精度由尾数决定，数的表示范围由阶码决定。
我一般浮点12

rourou_Jun

吉吉0531 发表于 2014-3-8 16:15
定点数受字长的限制，超出范围会有溢出
其浮点数的精度由尾数决定，数的表示范围由阶码决定。
我一般浮 ...

不是吧……计算器在内部计算的时候都是一样的  我们设置的只是他的输出

吉吉0531

rourou_Jun 发表于 2014-3-8 16:29
不是吧……计算器在内部计算的时候都是一样的  我们设置的只是他的输出

对啊，就是输出呀

艾哈迪利

为什么我的默认是浮点4？