MATLAB爱好者论坛-LabFans.com - 查看单个帖子

lao4lao4 · 2008-11-19, 16:11

t = 0:0.01:0.1； %t(7) = 0.06
fix(t(7)/0.06)*0.06 - t(7) % 应该是零可是结果却是 -6.9389e-018
t(7)= 0.06 % 给t(7)重新赋值
fix(t(7)/0.06)*0.06 - t(7) % 结果是零

:ft:

2008-11-19, 16:11	#1
lao4lao4 初级会员注册日期: 2008-11-19 年龄: 46 帖子: 2 声望力: 0	[讨论]一个关于 fix 奇怪的问题 t = 0:0.01:0.1； %t(7) = 0.06 fix(t(7)/0.06)0.06 - t(7) % 应该是零可是结果却是 -6.9389e-018 t(7)= 0.06 % 给t(7)重新赋值 fix(t(7)/0.06)0.06 - t(7) % 结果是零 :ft: