大佬们问个关于精度的问题【golang吧】

05月02日漏签0天

golang吧关注：6,366贴子：14,603

6回复贴，共1页

<返回golang吧

大佬们问个关于精度的问题

只看楼主收藏回复

如图第二页的属性是float类型这些属性需要自加这样就出现了浮点类型精度原因导致每次自加后有略微差距
在map里因为hash这点差距直接被无限放大本来的千万数据直接来到百亿级
现在采用的方法是给每个属性一个允许误差（图二）但是数据量仍然对不上不知道问题何在
在线求教

送TA礼物

IP属地:河南

1楼2025-03-25 21:03回复

数据量？我不是很懂你这具体的问题是啥？

IP属地:广东

来自Android客户端2楼2025-03-25 22:13

收起回复

为什么不把浮点*100 当成整数计算呢

IP属地:四川

3楼2025-03-25 22:19

收起回复

看起来类似于角色属性面板？无非有几种方式。简单说几个:1，用int来提高精度，比如用1e2作为精度来控制（例子就是金额，1.99可以用199来表示，计算时也是如此，只是显示时会进行转换） 2，记录成长路线，比如装备属性，装备和卸载不会在现属性上计算，而且重新计算整体。3，每次计算的结果进行取精度（避免计算结果太多小数，但这样结果比较粗糙）

IP属地:广东

来自Android客户端4楼2025-03-25 22:21

收起回复

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！

贴吧热议榜

6回复贴，共1页

<返回golang吧

发表回复

发贴请遵守贴吧协议及“七条底线”贴吧投诉

内容:

使用签名档查看全部

发表

保存至快速回贴

日	一	二	三	四	五	六

大佬们问个关于精度的问题

登录百度账号

扫二维码下载贴吧客户端