golang吧 关注:6,366贴子:14,578
  • 0回复贴,共1

大佬们问个关于精度的问题

取消只看楼主收藏回复



如图 第二页的属性是float类型 这些属性需要自加这样就出现了浮点类型精度原因导致每次自加后有略微差距
在map里因为hash这点差距直接被无限放大 本来的千万数据直接来到百亿级
现在采用的方法是给每个属性一个允许误差(图二) 但是数据量仍然对不上 不知道问题何在
在线求教


IP属地:河南1楼2025-03-25 21:03回复