登录论坛

查看完整版本 : [求助]能否设置计数精度


endless
2007-08-30, 18:38
请教大家,matlab中能否设置精度,因为我的矩阵的一个元素a=-b,b是该行其他元素的和,结果在对该行所有元素求和就会发现和不是0! 看了3天了也没办法!请教高人指教!万分感谢!

瓜咕噜
2007-08-31, 12:02
问题不是很清楚
format long
看下

endless
2007-08-31, 15:11
format long 只是讲将显示 格式改变,并不改变计数精度。
重复一下问题,行矩阵的第一个元素等与该行所有元素的和的相反数,用matlab计算求该行元素时,不为零!是很小的数,大概e-17。请高手帮忙啊

elunxu
2007-12-21, 09:49
对数字取对数,log10函数

doublef
2008-03-03, 23:25
我也想问一下啊啊!!急急急急急急啊~~:biggrin:

叉叉
2008-08-14, 23:45
digits
格式 digits(d) %设置当前的可变算术精度的位数为整数d位
d = digits %返回当前的可变算术精度位数给d
digits %显示当前可变算术精度的位数
说明 设置有意义的十进制数值的、在Maple软件中用于做可变算术精度(命令为:vpa)计算的数字位数。其缺省值为32位数字。