MATLAB爱好者论坛-LabFans.com

MATLAB爱好者论坛-LabFans.com (https://www.labfans.com/bbs/index.php)
-   MATLAB论坛 (https://www.labfans.com/bbs/forumdisplay.php?f=6)
-   -   [MATLAB基础] 一个小问题,一个数减去自身的整数和小数部分不等于0 (https://www.labfans.com/bbs/showthread.php?t=9592)

luminael 2009-09-05 13:35

一个小问题,一个数减去自身的整数和小数部分不等于0
 
我是在作else选择发现的
k = 16.8
if k-16==0.8
disp(''yes');
else
disp('no');
end

结果怎么都无法输出yes,后来试着用k-16-0.8结果输出的结果是ans = 6.6613e-16这是怎么一回事?要怎么解决?

pzq88 2009-09-05 16:12

回复: 一个小问题,一个数减去自身的整数和小数部分不等于0
 
在机器中无法取得0的值 ,只能以最接近0的数代替0,一般都会是以数量级为e^-16为数值0的。


所有时间均为北京时间。现在的时间是 12:30

Powered by vBulletin
版权所有 ©2000 - 2025,Jelsoft Enterprises Ltd.