主题
: [MATLAB基础]
很诡异的一段非常简单的代码,高手请进!
查看单个帖子
2010-11-02, 21:17
#
5
kenan2008
初级会员
注册日期: 2010-10-05
年龄: 37
帖子: 3
声望力:
0
回复: 很诡异的一段非常简单的代码,高手请进!
引用:
作者:
ahjxhly
这个应该是数值精度问题
format hex
0.36=3fd70a3d70a3d70a;
0.34+0.02=3fd70a3d70a3d70b;
最后一位不一样
t==xx 改为 |t-xx|<=eps
我就想知道为什么就对0.36,0.56,0.66这三个数出现这样的问题,而对其他的数没有问题?这应该不是随机的,因为每次运行都是一样的结果?
kenan2008
查看公开信息
发送悄悄话给 kenan2008
查找 kenan2008 发表的更多帖子