查看完整版本 : [求助]数字有效位数该如何改变?
比如a=1.2100001
而我希望b由a取小数点后两位得到,即b=1.21
我该如何做呢?
wrmaster
2008-11-13, 18:46
前几天也碰到这个问题,好像有个命令可以设置任意的小数位数
回去帮你看看
galieluo
2008-11-15, 23:58
用help查看一下format命令,可以设定特定的位数,但好像没有两位的。
laosam280
2008-11-17, 16:31
数据的显示有很多的方法:
1、使用数据格式 (以pi 的取值为例)
format 默认格式 3.1416
format short 只显示5位 3.1416
format long 双精度15位,单精度7位 3.14159265358979
format short e 科学记数方式的短格式 3.1416e+000
format long e 科学记数方式的长格式 3.141592653589793e+000
format short g 短格式g方式 3.1416
format long g 长格式g方式 3.14159265358979
format compact 压缩格式(紧凑格式)
format loose 自由格式(宽松格式)
2、在输出的时候调用输出命令
dip 和 fprintf
这个时候可以使用“ %m.nf ”,其中m和n是整数,m表示显示的位数,n表示精确到的小数点。 比如 %5.2f 表示显示5位数字,但是只精确到小数点后2位,计算机内存储5位,但是显示出来只有2位小数。
coast-wind
2008-12-28, 14:59
:lovely: 谢谢回答啊。
snower1895
2008-12-28, 16:44
用digits和vpa
设置有效数字的个数
vBulletin® v3.8.3,版权所有 ©2000-2025,Jelsoft Enterprises Ltd.