MATLAB爱好者论坛-LabFans.com

MATLAB爱好者论坛-LabFans.com (https://www.labfans.com/bbs/index.php)
-   MATLAB论坛 (https://www.labfans.com/bbs/forumdisplay.php?f=6)
-   -   [MATLAB基础] 关于matlab定点计算的问题请教,谢谢~ (https://www.labfans.com/bbs/showthread.php?t=21379)

az1981cn 2019-09-09 19:09

关于matlab定点计算的问题请教,谢谢~
 
我使用matlab进行定点计算,计算过程如下:
[CODE]T.F = fimath('SumMode','SpecifyPrecision', 'SumWordLength', 10, 'SumFractionLength', 4);
a=fi(-32,1,10,4,T.F);
b=fi(-1.5,1,10,4,T.F);
c=fi(-25.9375,1,10,4,T.F);
d=fi(9,1,10,4,T.F);
e=a+b+c+d;[/CODE]

因为(-32)+(-1.5)+(-25.9375)+(9) = -50.4375,所以肯定要溢出,因为采用了6位整数位的定点数,所以预期结果是-32,但是此处实际计算结果是-23。
请教一下,为什么不是-32,而是-23呢?谢谢!


所有时间均为北京时间。现在的时间是 12:29

Powered by vBulletin
版权所有 ©2000 - 2025,Jelsoft Enterprises Ltd.