帮助解决精度问题

Taffu · 发表于 2022-7-6 11:10:16

在开发lisp例程时，我遇到了十进制精度问题。我试图使用（getpoint）获得精确的十进制精度，但是它似乎总是四舍五入到0.0精度。

使用（rtos）我可以在模式2中获得工程精度以获得全精度，但是一旦我使用它，我就不能再在算术中使用数字，因为它变成了一个字符串。转换回结果是将其舍入回0.0精度。

我对编写lisp例程还不熟悉，所以如果答案显而易见，我很抱歉。但任何帮助都将不胜感激。

lpseifert · 发表于 2022-7-6 12:09:04

getpoint的精度仍然存在（我认为是16个小数点），只是没有显示出来。

Taffu · 发表于 2022-7-6 12:29:05

我懂了！我一直在使用（princ）调试我的开发，但它并没有显示完整的值，所以我假设它是四舍五入的。谢谢你提供的信息！

[编程交流] 帮助解决精度问题

发表回复

精选推荐