Taffu 发表于 2022-7-6 11:10:16

帮助解决精度问题

在开发lisp例程时,我遇到了十进制精度问题。我试图使用(getpoint)获得精确的十进制精度,但是它似乎总是四舍五入到0.0精度。
 
使用(rtos)我可以在模式2中获得工程精度以获得全精度,但是一旦我使用它,我就不能再在算术中使用数字,因为它变成了一个字符串。转换回结果是将其舍入回0.0精度。
 
我对编写lisp例程还不熟悉,所以如果答案显而易见,我很抱歉。但任何帮助都将不胜感激。

lpseifert 发表于 2022-7-6 12:09:04

getpoint的精度仍然存在(我认为是16个小数点),只是没有显示出来。

Taffu 发表于 2022-7-6 12:29:05

我懂了!我一直在使用(princ)调试我的开发,但它并没有显示完整的值,所以我假设它是四舍五入的。谢谢你提供的信息!
页: [1]
查看完整版本: 帮助解决精度问题