声振论坛

 找回密码
 我要加入

QQ登录

只需一步,快速开始

查看: 1976|回复: 5

[编程技巧] 计算结果精度问题

[复制链接]
发表于 2007-6-22 09:40 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?我要加入

x
使用哪个命令可以使计算结果精度更高,我用的是format long,还有什么命令吗?

[ 本帖最后由 eight 于 2007-6-22 09:52 编辑 ]
回复
分享到:

使用道具 举报

发表于 2007-6-22 09:50 | 显示全部楼层
长整形还不够高?
发表于 2007-6-22 09:53 | 显示全部楼层


只能提高显示精度,不能提高计算精度。format long 是对的,更多的自己 help format 一下
发表于 2007-6-22 10:45 | 显示全部楼层
正确:format long 是显示精度
似乎 MATLAB没有其它的数据格式
发表于 2007-6-22 11:34 | 显示全部楼层
:@) 楼主搞哪个方向的?要求这么高
发表于 2007-6-22 12:47 | 显示全部楼层
32位好像已经很长了吧:lol :@o
您需要登录后才可以回帖 登录 | 我要加入

本版积分规则

QQ|小黑屋|Archiver|手机版|联系我们|声振论坛

GMT+8, 2024-11-18 22:35 , Processed in 0.059038 second(s), 17 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表