![]() |
请教一个数据计算问题。
我在M文件计算过程中对一个大数和一个很小数求和,发现程序计算结果明显出错,例如
大数243 很小数 1.1*10^-7 其程序计算结果为-658.4 然后我在工作窗口内单独计算这两个数的和,结果又正确,请问这是什么原因,该如何解决? 谢谢!! |
回复: 请教一个数据计算问题。
少括号了应该,呵呵…………………………6
|
回复: 请教一个数据计算问题。
[QUOTE=tannengzhi0504;39053]少括号了应该,呵呵…………………………6[/QUOTE]
没太明白,能详细解释一下么?我在程序中是循环计算量a(i)+b(i)a,b单独输出的结果表明a是大数,而b是很小的一个数,加起来后就出现错误了。 |
回复: 请教一个数据计算问题。
先看看程序是什么样的
|
回复: 请教一个数据计算问题。
没有出现楼主所说的问题啊,难道是版本的问题?
|
所有时间均为北京时间。现在的时间是 12:44。 |
Powered by vBulletin
版权所有 ©2000 - 2025,Jelsoft Enterprises Ltd.