求助：输出结果精度不满足要求怎么办？

t_Z_qiong · 发表于 2006-9-21 17:08

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？我要加入

x

我遇到这样的问题：
由于我编的程序对精度要求蛮高的，所以输出的结果小数点后的有效数字不满足要求怎么办？
例如：a=sqrt(sum((y-x).^2)/(m*(m-1))) 类似标准偏差，可是输出的结果总是0.0000小数点后4位有效数字，其他的都不知道啊怎么办
请高手指点，谢谢！！

[ 本帖最后由 lxq 于 2006-9-21 23:35 编辑 ]

jimin · 发表于 2006-9-21 17:12

Example:
format short, pi, single(pi)
displays both double and single pi with 5 digits as 3.1416 while
format long, pi, single(pi)
displays pi as 3.14159265358979 and single(pi) as 3.1415927.

ericlin · 发表于 2006-9-21 20:18

呵呵，其实就像楼上说的，
format long
就行了

AaronSpark · 发表于 2006-9-22 07:06

如果上述方法还是不能满足精度，还可以猜用vpa

t_Z_qiong · 发表于 2006-9-22 08:36

谢谢各位了！！！！！
我的问题解决了。
可是，还有一个问题
就是我想在图像上输出s的值可是怎么都得不到。
我用的是text(0.1,5.5,['Q='sqrt(sum((y-z).^2)/(m*(m-1)))])
或者s=sqrt(sum((y-z).^2)/(m*(m-1)))
text(0.1,5.5,['Q='s])
在图像上都看不到s的值只能得到Q=
怎么回事？
谢谢大侠们！！

账号		自动登录	找回密码
密码			我要加入

[编程技巧] 求助：输出结果精度不满足要求怎么办？

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。