MATLAB爱好者论坛-LabFans.com - 查看单个帖子

ahjxhly · 2010-11-01, 20:19

这个应该是数值精度问题
format hex
0.36=3fd70a3d70a3d70a；

0.34+0.02=3fd70a3d70a3d70b；

最后一位不一样

t==xx 改为 |t-xx|<=eps

2010-11-01, 20:19	#1
ahjxhly 初级会员注册日期: 2010-11-01 年龄: 35 帖子: 1 声望力: 0	回复: 很诡异的一段非常简单的代码，高手请进！这个应该是数值精度问题 format hex 0.36=3fd70a3d70a3d70a； 0.34+0.02=3fd70a3d70a3d70b；最后一位不一样 t==xx 改为 \|t-xx\|<=eps 此帖于 2010-11-01 20:46 被 ahjxhly 编辑。