查看单个帖子
旧 2011-12-14, 11:20   #6
六级阿森
初级会员
 
六级阿森 的头像
 
注册日期: 2011-12-13
年龄: 35
帖子: 5
声望力: 0
六级阿森 正向着好的方向发展
默认 回复: 0.3+0.15-0.45为什么不等于0!!

http://matlab.wikia.com/wiki/FAQ#Why...ual_to_zero.3F
谢谢你关注这个问题 我看到你在ilovematlab发的帖子了 其实我是在两个论坛同时提的问题 我后来又去mathworks.cn(matlab官网)提了这个问题 有人给我回复了以上那个网址。现在我明白了,这个问题是编程的常见问题,一般的编程语言都不例外,因为任何数据在电脑中都是以二进制的形式存储的,在一来一回的转换过程中就出现了误差。比如说计算1/3到任意精度,然后再用这个结果乘以3,不论什么样的精度都达不到1。你可以通过上面那个网址找到更详细的解答,及在判断两个浮点数相等时的解决方案(abs(a-b)<给定误差),还有相关浮点数运算的文献。希望能有所帮助,共勉。
六级阿森 当前离线   回复时引用此帖