登录论坛

查看完整版本 : [求助]数字有效位数该如何改变?


pikky
2008-11-13, 17:11
比如a=1.2100001
而我希望b由a取小数点后两位得到,即b=1.21
我该如何做呢?

wrmaster
2008-11-13, 18:46
前几天也碰到这个问题,好像有个命令可以设置任意的小数位数
回去帮你看看

galieluo
2008-11-15, 23:58
用help查看一下format命令,可以设定特定的位数,但好像没有两位的。

laosam280
2008-11-17, 16:31
数据的显示有很多的方法:
1、使用数据格式 (以pi 的取值为例)
format 默认格式 3.1416
format short 只显示5位 3.1416
format long 双精度15位,单精度7位 3.14159265358979
format short e 科学记数方式的短格式 3.1416e+000
format long e 科学记数方式的长格式 3.141592653589793e+000
format short g 短格式g方式 3.1416
format long g 长格式g方式 3.14159265358979
format compact 压缩格式(紧凑格式)
format loose 自由格式(宽松格式)

2、在输出的时候调用输出命令
dip 和 fprintf
这个时候可以使用“ %m.nf ”,其中m和n是整数,m表示显示的位数,n表示精确到的小数点。 比如 %5.2f 表示显示5位数字,但是只精确到小数点后2位,计算机内存储5位,但是显示出来只有2位小数。

coast-wind
2008-12-28, 14:59
:lovely: 谢谢回答啊。

snower1895
2008-12-28, 16:44
用digits和vpa
设置有效数字的个数