查看单个帖子
旧 2011-12-20, 09:58   #9
六级阿森
初级会员
 
六级阿森 的头像
 
注册日期: 2011-12-13
年龄: 35
帖子: 5
声望力: 0
六级阿森 正向着好的方向发展
默认 回复: 0.3+0.15-0.45为什么不等于0!!

链接上所说1/3的例子是指用手算,matlab中将3*0.333近似为1,是否因为误差太小,这个问题还有待继续研究。 至于将1/3的例子和本帖的问题联系起来的原因是,分数-小数,十进制-二进制 在这两种转换过程中都会出现偏差。表面上这样理解即可。 但是如果在matlab中存储1/3,这个过程便更复杂,因为上述的两个过程会同时出现,至于先后顺序,我的理解是,先将1和3转换为2进制再进行除法计算。如果按此顺序理解,那么0.3/0.15会出现更大的偏差,因为0.3和0.15都无法再2进制中准确描述,但是matlab中运行结果为精确的2,这个结论便把我对于顺序的推测推翻了。 至于这个问题的最终解答,链接中提供的文献应该有所涉及。共勉。
六级阿森 当前离线   回复时引用此帖