|
发表于 2008-6-27 17:29:12
|
显示全部楼层
>>一旦数据被转换到以一英尺的小数为单位的最终静止位置,坐标为1044943.91129001,173435.132338795,0,以工程单位表示。然后我必须将工程数据放大12,更改单位并将数据移动到1044943'-10.935480132",17345'-1.58806554",0.0000。在我将数据移动到这些坐标并列出结果后,我得到X=1.2539E+07 Y=17345'-1 9/16"Z=0'-0"x以英寸为单位,y以FTIN为单位。
>>有人能解释一下这里发生了什么吗?
你需要解释什么?你似乎很清楚你的“挑战”是什么。如果您熟悉浮点,那么您了解“1.2539E+07”是什么吗?如果不是,那是正确X位置的四舍五入版本-(1044943.91129001*12=12539326.93548012),即1.2539,您的小数点向左移动了“E+”7位。
您可能已经看到舍入错误。由于您需要固定数量的数字字符来表示您的位置,因此我会限制转换单位之间的来回。每次除以12时,您都在考虑在小数点右侧至少添加另一个数字的可能性;每次乘以12时,您都在小数点的左侧添加一个字符,这意味着从右侧删除另一个字符......
为了达到最大的精度,我首先将所有内容转换为一种类型的单位。我可能会将较小的单位相乘,而不是将较大的单位除以;这样您只会在左侧添加一个字符,但除以可以在右侧添加多个小数......
我会最后完成所有的转换。
|
|