温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

浮点型转字符型有效位数问题

发布时间:2020-07-05 12:45:45 来源:网络 阅读:361 作者:38734603 栏目:开发技术

float是单精度型占4个字节(32位),只能提供7位有效数字,小数点后最多保留6位。
double是双精度型占4个字节(64位),只能提供16位有效数字,小数点后最多保留6位。



遇到的问题: 83427.746 在float类型下转成NSstring 类型 变成83427.742188产生巨大偏差,导致四舍五入,在Double类型下正常,经测试发现大于65536之后,三位小数都会失真


向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI