等函数

Bryco · 发表于 2006-3-11 10:38:29

Paul在cadvault中用vba编写/转换了一个比较singles的函数(该地址不再有效，但与他编写的内容很接近)。因为c语言比vba有更大的整数，所以我从来没有让它在双精度上工作过，我也不确定它在单精度上是否一直工作，所以我不使用它。这篇阅读是一篇很棒的文章，我怀疑懂一点数学的人能想出一个有用的函数。'阅读http://www . cygnus-software . com/papers/comparing floats/comparing floats . htm代码0]
我现在使用的很好，但我只是在寻找更好的。函数Rd(Num1为变量，Num2为变量)为布尔型Dim dRet为双精度型；dRet = num 1-num 2；如果Abs(dRet)如果不同类型之间的数字比较是可能的，比如双打和整数，如果其中一个是整数，则可以运行整数检查0位。

Bryco · 发表于 2006-3-13 13:26:32

谢谢Bob，我已经编写了一个折线连接函数，如果没有某种形式的舍入，您将永远无法获得可靠的读数0 0或90度或0或0.5* pi。
单步执行该例程涉及到对我的子Rd的1000次调用，这让我抓狂。
Troy，谢谢你的帖子。你的耐受性测试实际上和我的一样，虽然它不接受单个或整数，所以我选择了饥饿的变量。
这篇文章的精彩之处在于，使用Rd或Round对于非常大的数字或非常小的数字来说并不那么有效，但它提出了一个非常好的方法来适应大多数情况。

等函数

发表回复

精选推荐