查看完整版本 : [求助]能否设置计数精度
请教大家,matlab中能否设置精度,因为我的矩阵的一个元素a=-b,b是该行其他元素的和,结果在对该行所有元素求和就会发现和不是0! 看了3天了也没办法!请教高人指教!万分感谢!
format long 只是讲将显示 格式改变,并不改变计数精度。
重复一下问题,行矩阵的第一个元素等与该行所有元素的和的相反数,用matlab计算求该行元素时,不为零!是很小的数,大概e-17。请高手帮忙啊
我也想问一下啊啊!!急急急急急急啊~~:biggrin:
digits
格式 digits(d) %设置当前的可变算术精度的位数为整数d位
d = digits %返回当前的可变算术精度位数给d
digits %显示当前可变算术精度的位数
说明 设置有意义的十进制数值的、在Maple软件中用于做可变算术精度(命令为:vpa)计算的数字位数。其缺省值为32位数字。
vBulletin® v3.8.3,版权所有 ©2000-2025,Jelsoft Enterprises Ltd.