Labfans是一个针对大学生、工程师和科研工作者的技术社区。 论坛首页 | 联系我们(Contact Us)
MATLAB爱好者论坛-LabFans.com
返回   MATLAB爱好者论坛-LabFans.com > 工程数学软件 > MATLAB论坛
MATLAB论坛 一切MATLAB相关问题在此讨论。
 
 
主题工具 显示模式
旧 2019-09-09, 19:09   #1
az1981cn
初级会员
 
注册日期: 2019-09-09
帖子: 2
声望力: 0
az1981cn 正向着好的方向发展
帖子 关于matlab定点计算的问题请教,谢谢~

我使用matlab进行定点计算,计算过程如下:
代码:
T.F = fimath('SumMode','SpecifyPrecision', 'SumWordLength', 10, 'SumFractionLength', 4);
a=fi(-32,1,10,4,T.F);
b=fi(-1.5,1,10,4,T.F);
c=fi(-25.9375,1,10,4,T.F);
d=fi(9,1,10,4,T.F);
e=a+b+c+d;
因为(-32)+(-1.5)+(-25.9375)+(9) = -50.4375,所以肯定要溢出,因为采用了6位整数位的定点数,所以预期结果是-32,但是此处实际计算结果是-23。
请教一下,为什么不是-32,而是-23呢?谢谢!
az1981cn 当前离线   回复时引用此帖
 


发帖规则
不可以发表新主题
不可以发表回复
不可以上传附件
不可以编辑自己的帖子

启用 BB 代码
论坛启用 表情符号
论坛启用 [IMG] 代码
论坛禁用 HTML 代码



所有时间均为北京时间。现在的时间是 14:28


Powered by vBulletin
版权所有 ©2000 - 2025,Jelsoft Enterprises Ltd.