![]() |
求教:数与符号相乘的问题!
各位牛人:
我在编程时发现:一个小数和一个符号相乘的结果总是,小数会变成一个非常大的分数显示出来,不知道为什么?求教.... 比如:0.3333*x,总显示成3333/10000*x |
回复: 求教:数与符号相乘的问题!
我自己已经把这个问题解决了,呵呵!用vpa()命令就可以了,呵呵!比如说:
digits(4) vpa(N) N是要显示的值... |
回复: 求教:数与符号相乘的问题!
???:ft:
>> z = 1.0e-16 x = 1.0e+2 >> digits(17) >> vpa(x*z) ans = .10000000000000000e-13 >> digits(17) >> vpa(x+z) ans = [COLOR="red"]100.[/COLOR] 额....弱弱的问下楼主,这个最后为什么相加的就不显示设定的小数位数呢?? |
回复: 求教:数与符号相乘的问题!
[QUOTE=southtown;20845]???:ft:
>> z = 1.0e-16 x = 1.0e+2 >> digits(17) >> vpa(x*z) ans = .10000000000000000e-13 >> digits(17) >&...[/QUOTE] vpa('1.0e-16+1.0e+2') ans = 100.00000000000000010 :biggrin: 我居然会! |
所有时间均为北京时间。现在的时间是 13:18。 |
Powered by vBulletin
版权所有 ©2000 - 2025,Jelsoft Enterprises Ltd.