结果的精度

kalai · 发表于 2022-7-6 08:55:40


(setq L1 1000
       L2 1000
       L3 1000
       L4 1000
       L5 1000
)
(setq scount 10)
(setq L6 120
        H 6)
(setq sdist (/ (- (+ L1 L2 L3 L4 L5) (+ L6 (* 2 H))) (- scount 2)))

实际上，scount的值=608.5
但四舍五入到608
我如何获得实际价值？

pBe · 发表于 2022-7-6 09:19:26

（setq sdist（/（浮点（-L1 L2 L3 L4 L5）（+L6（*2 H）））（-scount 2）））

如果你把一个整数除以一个整数，你会得到一个整数

Tharwat · 发表于 2022-7-6 09:25:58

将系统变量dimzin设置为0，然后重试。

kalai · 发表于 2022-7-6 09:35:13

谢谢，很有效

David Bethel · 发表于 2022-7-6 09:49:10

DIMZIN只影响（rtos）&（angtos）调用。不是实际计算。（浮点）是解决整数除法问题的正确方法-大卫

Tharwat · 发表于 2022-7-6 09:56:52

感谢David的澄清。

非常感谢。

塔瓦特

[编程交流] 结果的精度

发表回复

精选推荐