查看单个帖子
旧 2010-11-02, 21:17   #3
kenan2008
初级会员
 
注册日期: 2010-10-05
年龄: 37
帖子: 3
声望力: 0
kenan2008 正向着好的方向发展
默认 回复: 很诡异的一段非常简单的代码,高手请进!

引用:
作者: ahjxhly 查看帖子
这个应该是数值精度问题
format hex
0.36=3fd70a3d70a3d70a;

0.34+0.02=3fd70a3d70a3d70b;

最后一位不一样

t==xx 改为 |t-xx|<=eps
我就想知道为什么就对0.36,0.56,0.66这三个数出现这样的问题,而对其他的数没有问题?这应该不是随机的,因为每次运行都是一样的结果?
kenan2008 当前离线   回复时引用此帖