广告位联系
返回顶部
分享到

iOS浮点类型精度问题的原因与解决办法

IOS 来源:互联网 作者:秩名 发布时间:2022-01-27 20:43:18 人浏览
摘要

前言 相信不少人(其实我觉得应该是每个人)都遇到过一个问题,那就是当服务端返回的JSON数据中出现了小数时,客户端用CGFloat去解析时总是会出现精度丢失的问题,尤其当遇到敏感

前言

相信不少人(其实我觉得应该是每个人)都遇到过一个问题,那就是当服务端返回的JSON数据中出现了小数时,客户端用CGFloat去解析时总是会出现精度丢失的问题,尤其当遇到敏感数据时,这种精度丢失是完全不能被容忍的,本文会从简单的解决方案和原理出发,一起带大家回顾一下这个其实大家以前都学过但是都忘的差不多了的小问题。

如何解决浮点型精度问题

四舍五入处理

1

2

3

4

5

6

7

8

9

//例如服务端返回了这么一个json

{

    "price":1.9

}

 

// 客户端解析price后并且打印1.9

CGFloat price = model.price

NSLog(@"%f",price)

得到的结果是 1.8999999999999999

这个时候呢,作为一个咸鱼开发者,可以写下如下代码:

1

2

3

4

5

NSLog(@"%.2f",price)

输出:1.89

//不够准确,没关系,还有办法

NSLog(@"f%@",round(price*10)/10);

输出1.9

当然了,还有apple专门为精度问题提供的 NSDecimalNumber类型也可以解决这个问题。NSDecimalNumber的用法非常简单。(至于怎么个简单,请自行百度,别问我,我不百度也写不出来)

更优的解决方案

  • 那么问题来了,作为一个懒到一整年都不愿意写文章的咸鱼中的咸鱼,我应该选择哪种方式去解决这个问题呢?

好的,重头戏来了,接下来,我们上代码!

1

2

//服务端必须返回字符串类型,如果服务端没有照做: **请带着锤子和煤气罐去找后端开发人员解决**

@property (nonatomic,copy) NSString *price;

是的,我会选择不解决这个问题,把皮球踢出去,这才是一个合格的开发者该做的事情嘛!

精度丢失的原因

解决浮点精度问题是一个方面,但是如此简单的内容不足以我水完一整篇文章,那么接下来,我们来讲讲为什么好好的数字解析出来,他咋就不准确了呢?

可能很多人都能大概讲出来精度丢失是因为浮点数存储方式的问题,毕竟这玩意儿其实专业对口的筒子们在校的时候都学过,但是大家摸摸自己的小脑袋,嘿,是不是和我一样?全忘光了?

而且鉴于总有些基础很牛逼的面试官和刚好复习过这部分内容的装逼面试官就是喜欢挑这些小问题来刁难咱们这些老年摸鱼程序员,下面我们就来复习一下这部分的知识吧。

浮点类型的存储方式

浮点类型在计算机中的存储方式是以科学计数法的方式来存储的:

1

2

3

例如: 科学计数法表示小数

90.9 => 9.09 x 10^1

8.3  => 8.3 x 10^0

我们以8.3为例子,要存储8.3 (8.3 x 10^0), 首先肯定要将8.3转化为2进制,8转为二进制时1000,那么0.3呢?

年迈的程序员哟,你是不是猛然发现居然忘了小数是如何转化为2进制的呀,放下你准备百度的颤抖的双手,你想要的,我这里都有!

以0.9为例子,将0.9乘以2,得到的数字整数部分为二进制的小数第一位,将结果部分的小数部分取出并再乘以2,取整数部分为第2位,不断重复以上操作,直到结果等于0或者出现循环为止。

1

2

3

4

5

6

7

8

0.9 *2 = 1.8  11

0.8 *2 = 1.6  21

0.6 *2 = 1.2  31

0.2 *2 = 0.4  40

0.4 *2 = 0.8  50

0.8 *2 = 1.6  61 出现循环了

 

那么0.9的二进制就是 0.1 1100 1100 1100 1100... 其中1100无限循环

经过上面一番复习我们知道8.3的二进制可表示为 1000.0 1001 1001 1001... (1001无限循环) 用科学计数法表示则为, 1.000 0 1001 1001 1001 x 2^3

整数部分 指数部分 小数部分
1 3 .000 0 1001 1001 1001

而我们知道float是4(32位)个字节,在存储时他的每个bit是如下分配的

第31位符号位 23-30位(指数位) 0-22位(小数位)
1 3 .000 0 1001 1001 1001

有效位数

可以看到尾数部分有23位,但是由于是科学技术法之后任何一个数字都可以用  1.aaa x 2^b 这种形式来表示,所以1可以省略,(这个时候就有人要抬杠了,为啥,那遇到0.aaa x 2^b这种咋办呀! 答曰:b可以是负数啊),那么总共23位的数据实际可以表达的位数其实就是24位。

  • 24位可以表达的最大数字是 16777215 ,如果大于这个数就无法精确表示了。

当然大于16777215一不定是完全不能精确表示的,比如16777216,他的二进制表达形式是1后面带1堆0. 因为他是2的整数次幂,那么后面全是0 所以23位能把该数字存储下来,如果在23位0后面还出现了1就不行了,以此类推,16777215 后面还会有数字刚好可以满足这种2的整数次幂的条件,也可以正确表达。

虽然大于16777215的数字也有部分可以精确表达,但是我们谈精度的话肯定就要精确了,那么能精确表达的数字就只有0-16777215之间的了,16777215之间我们数一下,一共是8位,但是由于最高位1开头并不能全部包含,所以说精度应该是7位有效数子。

另外提一下浮点数的表达范围,这个范围肯定是由指数来确定了,具体是多少我就不算了,大家有兴趣的可以去算一算。

指数的存储方式:移位存储

可以看到指数部分一共是给了8个bit位,由于指数有正负,那么假设我们第一位表示符号位,那么我们可以表示的数字范围为 -127 ~ +127

那么能表示的范围被分为两部分:

  • 1 000000 0~ 1 111111 1 => -0 到 -127

  • 0 000000 0~ 0 111111 1 => +0 到 127

很明显,如果这样会出现一个 -0 和一个 +0,为了避免这个问题所以出现了移位存储:即如果最高位不用来表示符号位,8个bit 可以存储的范围是 0-255,我们重新来规划下两个区间:

  • 00000000 - 01111111 => 0-127 减去127则表示-127-0之前的数字
  • 10000000 - 11111111 => 128-256 减去127则表示1-127之前的数字

这样一来规避了+-0的问题, 上文中所说的8.3 转化为小数后的指数位是3,那么3实际存储的时130,也就是 10000010,我们更新一下实际存储的表格

第31位符号位 23-30位(指数位) 0-22位(小数位)
1 10000010 .000 0 1001 1001 1001

double类型

double类型是8字节64位,其表示的位数和float所不同只有位数差别,其他都一样,双精度表示的位数如下:

第63位符号位 52-62位(指数位) 0-51位(小数位)

总结:输出结果丢失精度原因

回到最初的1.9这个数字打印为1.8999999999999999,现在我们应该知道为什么了,因为1.9转2进制时是个无限循环,由于存储的原因后面的循环部分被只被截取了23位,还原回来的十进制数字和原先肯定就不一样了。 同理,如果小数点后面是.5这种5的倍数的小数,打印出来的小数一般都会是正常的,因为.5转2进制时并不是无限循环的。


版权声明 : 本文内容来源于互联网或用户自行发布贡献,该文观点仅代表原作者本人。本站仅提供信息存储空间服务和不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权, 违法违规的内容, 请发送邮件至2530232025#qq.cn(#换@)举报,一经查实,本站将立刻删除。
原文链接 : https://juejin.cn/post/7047767024931438605
相关文章
  • Flutter Widgets之标签类控件Chip介绍

    Flutter Widgets之标签类控件Chip介绍
    Flutter 标签类控件大全ChipFlutter内置了多个标签类控件,但本质上它们都是同一个控件,只不过是属性参数不同而已,在学习的过程中可以将
  • iOS Lotusoot模块化工具应用的动态思路
    下文,写的是 Swift 依赖 OC 库,没有命名空间 组件化的要点-约定 个人觉得 例如,URL 路由的注册,就是把约定的信息,传过去。作为服务。
  • iOS浮点类型精度问题的原因与解决办法
    前言 相信不少人(其实我觉得应该是每个人)都遇到过一个问题,那就是当服务端返回的JSON数据中出现了小数时,客户端用CGFloat去解析时
  • iOS开发实现计算器功能的代码

    iOS开发实现计算器功能的代码
    效果图 Masonry 使用数组来自动约束 NSArray *buttonArrayOne = @[_buttonAC, _buttonLeftBracket, _buttonRightBracket, _buttonDivide]; //withFixedSpacing: 每个view中间的间
  • iOS自定义雷达扫描扩散动画的代码

    iOS自定义雷达扫描扩散动画的代码
    自己自定义了 一个雷达扫描/扩散效果的View。 扫描View 效果如下: 扩散View 效果如下: 自定义的代码如下: 1. RadarView.h #import UIKit/UIKit.h t
  • iOS实现雷达扫描效果

    iOS实现雷达扫描效果
    具体内容如下 #import UIKit/UIKit.h @interface LTIndicatiorView : UIView@property(nonatomic,strong)UIColor *color;@property(nonatomic,assign)float repeatCount;@property(nonatom
  • IOS NSTimeInterval使用案例介绍
    一 ios 获取时间间隔 想在程序开始或者进入某个界面 ,到结束程序或退出某个界面,获取到这个持续时间. 获取到这个时间还需要转化一个
  • IOS WebRTC的实现原理

    IOS WebRTC的实现原理
    它在2011年5月开放了工程的源代码,在行业内得到了广泛的支持和应用,成为下一代视频通话的标准。 WebRTC的音视频通信是基于P2P,那么什
  • 关于ios配置微信config出现验签失败的问题解决
    在开发中,出现了一个关于微信配置的问题。 使用的开发工具以及开发框架为 uniapp , JSSDK为 jweixin 使用uniapp进行公众号开发,需要在进入
  • iOS实现轮盘动态效果的代码
    一个常用的绘图,主要用来打分之类的动画,效果如下。 主要是iOS的绘图和动画,本来想用系统自带动画实现呢,发现实现不了,用了其他
  • 本站所有内容来源于互联网或用户自行发布,本站仅提供信息存储空间服务,不拥有版权,不承担法律责任。如有侵犯您的权益,请您联系站长处理!
  • Copyright © 2017-2022 F11.CN All Rights Reserved. F11站长开发者网 版权所有 | 苏ICP备2022031554号-1 | 51LA统计