penghust 发表于 2008-10-27 11:05

关于fix 的一点疑惑

数组 x= ;y=0.014;
运行fix (x(2,1)/y) = 0 ?????????????????
用别的方法验证，用数据取代 x(2,1) 和 y
1、   x(2,1)/y ＝ 1.0000 ；
2、fix(1.0000) = 1；
3 、fix( 0.0140/0.014 ) = 1 ;

为什么 fix ( x(2,1)/y) ) = 0 ??

ChaChing 发表于 2008-10-27 11:34

回复 楼主 penghust 的帖子

我分别用v5.3/v6.5/v7.0试了下
v5.3的确有这个问题, 但v6.5後就没有了
我想这个牵涉到除法的问题, 连2/2都不会刚好等於1 (试试fix(2/2))
记得很久以前好像也遇过类似问题, 所以需格外小心

[ 本帖最后由 ChaChing 于 2008-10-27 14:40 编辑 ]

penghust 发表于 2008-10-27 13:21

回复 沙发 ChaChing 的帖子

我用的 V7.0
用 round 替换 fix就没有这个问题
但具体原因，还没有搞清楚

ChaChing 发表于 2008-10-27 14:45

回复 板凳 penghust 的帖子

我用的v7.0没有这个问题
why ?
页: [1]
查看完整版本: 关于fix 的一点疑惑