gina-yanke 发表于 2005-11-4 18:20

计算中出现的问题

如果在计算过程中，出现了INF（无穷大）或者NaN（不定值）该怎么办啊？而实际上这个值只是很大，比如gamma(1032)，在程序中需要这个中间值，但是计算结果确是INF。

linqus 发表于 2005-11-5 13:16

<P>上限好像是1.0e308，<BR>不能自己简化一下么？<BR>比如是物理量的话，从单位或量纲分析一下。<BR><BR>btw：<BR>fortran在win32平台下的real（kind＝8）值的上限也是1.0e308。</P>

frogfish 发表于 2005-11-5 14:20

回复：（gina-yanke）计算中出现的问题

<DIV class=quote><B>以下是引用<I>gina-yanke</I>在2005-11-4 18:20:39的发言：</B><BR>如果在计算过程中，出现了INF（无穷大）或者NaN（不定值）该怎么办啊？而实际上这个值只是很大，比如gamma(1032)，在程序中需要这个中间值，但是计算结果确是INF。</DIV>
<br>什么数啊，这么大？<BR>如果真这么大误差一定也很大<BR>还是先做物理上的变换吧，比如2楼说的量纲问题。

gina-yanke 发表于 2005-11-6 09:53

<P>谢谢，我再仔细找找问题</P>
页: [1]
查看完整版本: 计算中出现的问题