t_Z_qiong 发表于 2006-9-21 17:08

求助：输出结果精度不满足要求怎么办？

我遇到这样的问题：
由于我编的程序对精度要求蛮高的，所以输出的结果小数点后的有效数字不满足要求怎么办？
例如：a=sqrt(sum((y-x).^2)/(m*(m-1))) 类似标准偏差， 可是输出的结果总是0.0000小数点后4位有效数字，其他的都不知道啊 怎么办
请高手指点，谢谢！！

[ 本帖最后由 lxq 于 2006-9-21 23:35 编辑 ]

jimin 发表于 2006-9-21 17:12

Example:
       format short, pi, single(pi)
    displays both double and single pi with 5 digits as 3.1416 while
       format long, pi, single(pi)
    displays pi as 3.14159265358979 and single(pi) as 3.1415927.

ericlin 发表于 2006-9-21 20:18

呵呵，其实就像楼上说的，
format long
就行了

AaronSpark 发表于 2006-9-22 07:06

如果上述方法还是不能满足精度，还可以猜用vpa

t_Z_qiong 发表于 2006-9-22 08:36

谢谢各位了！！！！！
我的问题解决了。
可是，还有一个问题
就是我想在图像上输出s的值 可是怎么都得不到。
我用的是text(0.1,5.5,['Q='sqrt(sum((y-z).^2)/(m*(m-1)))])
或者s=sqrt(sum((y-z).^2)/(m*(m-1)))
      text(0.1,5.5,['Q='s])
在图像上都看不到s的值 只能得到Q=
怎么回事？
谢谢大侠们！！
页: [1]
查看完整版本: 求助：输出结果精度不满足要求怎么办？