Labfans是一个针对大学生、工程师和科研工作者的技术社区。 | 论坛首页 | 联系我们(Contact Us) |
![]() |
![]() |
#3 |
初级会员
注册日期: 2010-11-01
年龄: 35
帖子: 1
声望力: 0 ![]() |
![]()
这个应该是数值精度问题
format hex 0.36=3fd70a3d70a3d70a; 0.34+0.02=3fd70a3d70a3d70b; 最后一位不一样 t==xx 改为 |t-xx|<=eps 此帖于 2010-11-01 20:46 被 ahjxhly 编辑。 |
![]() |
![]() |