查看完整版本 : 求教:数与符号相乘的问题!
各位牛人:
我在编程时发现:一个小数和一个符号相乘的结果总是,小数会变成一个非常大的分数显示出来,不知道为什么?求教....
比如:0.3333*x,总显示成3333/10000*x
我自己已经把这个问题解决了,呵呵!用vpa()命令就可以了,呵呵!比如说:
digits(4)
vpa(N)
N是要显示的值...
southtown
2008-11-28, 16:58
???:ft:
>> z = 1.0e-16
x = 1.0e+2
>> digits(17)
>> vpa(x*z)
ans =
.10000000000000000e-13
>> digits(17)
>> vpa(x+z)
ans =
100.
额....弱弱的问下楼主,这个最后为什么相加的就不显示设定的小数位数呢??
???:ft:
>> z = 1.0e-16
x = 1.0e+2
>> digits(17)
>> vpa(x*z)
ans =
.10000000000000000e-13
>> digits(17)
>&...
vpa('1.0e-16+1.0e+2')
ans =
100.00000000000000010
:biggrin: 我居然会!
vBulletin® v3.8.3,版权所有 ©2000-2025,Jelsoft Enterprises Ltd.