声振论坛

 找回密码
 我要加入

QQ登录

只需一步,快速开始

查看: 1319|回复: 2

[编程技巧] 关于matlab编程计算精度的问题

[复制链接]
发表于 2014-6-16 10:44 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?我要加入

x
编了一个程序,里面可能涉及到大数减去小数,或者二者相互乘除的问题,但是我不知道哪些是大数字,哪些是小数字,最后所得结果可能就不是很准确了,怎么设置才能控制这种大小数导致的误差,请大虾指导一下,谢谢!
回复
分享到:

使用道具 举报

发表于 2014-6-16 14:55 | 显示全部楼层
参考下这篇帖子http://www.ilovematlab.cn/thread-242321-1-1.html,另外建议你看看数值计算与优化方面的资料,如何避免”大数吃小数“的问题

评分

2

查看全部评分

 楼主| 发表于 2014-6-16 15:19 | 显示全部楼层
chybeyond 发表于 2014-6-16 14:55
参考下这篇帖子http://www.ilovematlab.cn/thread-242321-1-1.html,另外建议你看看数值计算与优化方面的资 ...

谢谢大虾的指导
您需要登录后才可以回帖 登录 | 我要加入

本版积分规则

QQ|小黑屋|Archiver|手机版|联系我们|声振论坛

GMT+8, 2024-11-15 17:05 , Processed in 0.066014 second(s), 18 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表