乐筑天下

搜索
欢迎各位开发者和用户入驻本平台 尊重版权,从我做起,拒绝盗版,拒绝倒卖 签到、发布资源、邀请好友注册,可以获得银币 请注意保管好自己的密码,避免账户资金被盗
查看: 35|回复: 2

[编程交流] 命令行返回错误的值

[复制链接]

55

主题

293

帖子

239

银币

后起之秀

Rank: 20Rank: 20Rank: 20Rank: 20

铜币
275
发表于 2022-7-6 10:41:00 | 显示全部楼层 |阅读模式
在Autocad命令行中查看此信息:
 
 
结果如下:
 
为什么。。。它不会返回相同的数字,即12.123456
我试着插入一段文字,结果是这样的:
 
当做
 
迈克尔
回复

使用道具 举报

26

主题

1495

帖子

20

银币

初露锋芒

Rank: 3Rank: 3Rank: 3

铜币
118
发表于 2022-7-6 11:33:27 | 显示全部楼层
sysvar LUPREC控制屏幕上显示的十进制精度。它不改变变量的值,只改变显示模式。
 
你需要记住,ACAD REALs仅限于15个重要位置。我认为LUPREC仍然限制在8个位置。因此,在比较实数时,请查看(equal)函数来代替(=)-大卫
回复

使用道具 举报

24

主题

1265

帖子

1028

银币

后起之秀

Rank: 20Rank: 20Rank: 20Rank: 20

铜币
362
发表于 2022-7-6 11:45:00 | 显示全部楼层
 
如果您对以字符串形式检索值感兴趣,请执行以下操作:
 
(rtos num 2 16),在您的示例中应返回“12.12345600000”
回复

使用道具 举报

发表回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

  • 微信公众平台

  • 扫描访问手机版

  • 点击图片下载手机App

QQ|关于我们|小黑屋|乐筑天下 繁体中文

GMT+8, 2025-3-6 17:24 , Processed in 0.330965 second(s), 58 queries .

© 2020-2025 乐筑天下

联系客服 关注微信 帮助中心 下载APP 返回顶部 返回列表