浮点数表示法及其精度探讨

原创 已于 2024-08-01 14:36:47 修改 · 2.1k 阅读 · 1
标签
#c语言
于 2021-11-15 19:40:31 首次发布
  • UBX中类似浮点数的8位和16位整形表示法：

                  

        8位是将高3位做指数，低5位做基数，范围是（0~31）乘以2的（0~7）次方。

16位是将高5位做指数，低11位做基数，范围是（0~2047）乘以2的（0~31）次方。

查阅IEEE754并没有上面的8位和16位的表示法，但是这种方法可以借鉴。

  • IEEE754标准

                                                 图 4 浮点数计算公式

S是符号位。

E是指数位，如果是4字节的浮点数，则占8个比特位，其值E = 原始值+127。

最低0.47元/天 解锁文章
单精度浮点数的数学计算
a792544191的博客
08-09 8301
一.将十进制数变为二进制数 十进制的小数转换为二进制，主要是小数部分乘以2，取整数部分依次从左往右放在小数点后，直至小数点后为0。例如十进制的0.125，要转换为二进制的小数。 举例： 0.125（十进制变为二进制） 将小数部分0.125乘以2，得0.25，然后取整数部分0 再将小数部分0.25乘以2，得0.5，然后取整数部分0 再将小数部分0.5乘以2，得1，然后取整数部分1 则得到的二进制的结果就是0.001 二.把二进制数变为浮点数源 先将十进制转换后的二进制数调整尾数，比如：11.1001应该变成1
聊聊 8 位浮点数
程序猿视角
04-30 1万+
越来越多的神经网络模型在部署的时候采用 8 位浮点数，感到有些好奇，所以粗略了解一下，聊聊这个话题。 ## 1.浮点数的格式 先说说浮点数的表示方法。任意二进制数N可以写成 N = 2^e * M 的形式，其中 M 称为浮点数的尾数，是一个纯小数。e 是比例因子的指数，称为浮点数的指数，是一个整数。比例因子的基数 2 对二进记数制的机器是一个常数。 我们参照 IEEE R32.24 标准，看看 float32 的格式：
8位浮点数的表示法
申龙斌的程序人生
09-23 5674
32位浮点数的计算机内部表示是由IEEE754标准定义的，参考文献相当多。 简单来说，是由符号位、指数位（阶码）和小数部分共同定义的。 https://www.h-schmidt.net/FloatConverter/IEEE754.html IEEE754规范中只定义了32位(float)和64位(double)浮点的表示法，好像还有扩展的16位、128位的浮点数表示法，但用的场景不多。 8位浮点数表示法，并没有相关规范，详细内容搜索IEEE754规范，并仔细阅读。 /// +----+--------
16位浮点数表示范围
Dezeming的博客
09-26 5743
尾数位最小值：0000000001（$2^{-10}$），最大值：1111111111（$(1-2^{-10}) \times 2^{1}$）尾数值范围：$1\leq M \leq (1-2^{-10}) \times 2^{1}$，其中 $M$ 表示尾数的值。最大负数：$-(1-2^{-10}) \times 2^{15}=-65504$最大正数：$(1-2^{-10}) \times 2^{15}=65504$最小负数：$-2^{-14}=-0.00006103515625$
【C/C++】C++ 浮点数
此地无银
08-08 2161
C++ 浮点数 计算机将(2.5、3.64564)这样的值分成两部分存储。一部分表示值，另一部分用于对值进行放大或缩小。 浮点数的两种表示方法 1. 使用常用的标准小数点表示法（如3.1415926） 2. E表示法（如2.52e+8==252 000 000） ​ 需要注意的是: 1. 既可以使用E，也可以使用e 2. 指数可以是正数，也可以是负数 3. 数字中间不能有空格（7.2 E6是错误的） void main() { float f1 = 3834e-10; float
float精度分析
krocwang的专栏
08-13 1万+
最近一段时间看到版上关于C++里浮点变量精度的讨论比较多，那么我就给对这个问题有疑惑的人详细的讲解一下intel的处理器上是如何处理浮点数的。为了能更方便的讲解，我在这里只以float型为例，从存储结构和算法上来讲，double和float是一样的，不一样的地方仅仅是float是32位的，double是
float 精度探究
行人事，知天命
02-04 1425
最近一段时间看到版上关于 C++ 里浮点变量精度的讨论比较多，那么我就给对这个问题有疑惑的人详细的讲解一下 intel 的处理器上是如何处理浮点数的。为了能更方便的讲解，我在这里只以 float 型为例，从存储结构和算法上来讲， double 和 float 是一样的，不一样的地方仅仅是 float 是 32 位的， double 是 64 位的，所以 dou
揭秘浮点数存储：从123456.0f到十六进制的奇妙转换
hanchaoman的专栏
01-18 6208
月初还在上班的时候，就天天盼望着过年放长假，然而终于熬到了过年，却发现自己的12天的长假将在碌碌无为中度过，朋友们又一个接一个的远去，心里真是拔凉拔凉的啊！最近版上的人气有点低落，连违规率（不敢说犯罪率哈，怕被人砍）都下降了不少，我想在春节这档子这是免不了的，论坛上应该有不上工作的朋友可能都回家团聚了。那像我这种无家可归的人除了眼馋别人的幸福，那就只有向仍然全力支持着我们C++/面向对象这个大家庭
软件设计师之浮点数所能表示的数值范围
GodSure0914的博客
08-27 5670
设16位浮点数，其中阶符1位、阶码值6位、数符1位、尾数8位。若阶码用移码表示，尾数用补码表示，则该浮点数所能表示的数值范围是（ ）。(2016年下半年) 如果浮点数的阶码(包括1位阶符)用R位的移码表示，尾数(包括1位数符)用M位的补码表示，则浮点数表示的数值范围如下。 其实这样理解起来比较好：16位浮点数=阶符1位+阶码值6位+数符1位+尾数8位 上面公式里的R=6+1=7 ； M=8+1=9 ...
8位浮点数能表示的所有小数
全栈空间
07-07 944
0 0-000-0000 +0.0000×2-2 +0.0 +0.0 ,+Zero1 0-000-0001 +0.0001×2-2 +0.000001 +0.015625 2 0-000-0010 +0.0010×2-2 +0.00001 +0.03125 3...
浮点数的范围和精度
风清扬zld的博客
07-25 2万+
IEEE标准提供了两种主要的浮点数格式: 单精度(32位)和双精度(64位)。分为三个部分：符号、指数和小数。指数部分决定了浮点数的范围。而小数部分的位数决定了精度。(见下图) 单精度中，指数长度为8位，小数部分占23位。由于是有符号型，所以对应的指数范围是-128~128。所以单精度的范围是-2128到2128,约等于-3.40 * 10^38 至 3.40 * 10^38(或者写成 -3.40E38 ~ +3.40E38)。由于小数部分占23位，而2^23=8388608。对应的10进制是7位。所以
float类型表示方式及范围深度解析
jinking01的专栏
11-01 1万+
的尾数部分中小数点前还隐藏着一个固定的整数值整数1，尾数部分的23位只用来表示小数点后的值，这种方式可保证浮点数有唯一的表示形式。采用渐进式下溢出的原因是，如果不采用，0与绝对值最小的浮点数之间距离将大于两个相邻浮点数之间的距离，且前者是后者的。，转换成十进制原码为 -126 ~ 127，也就是整个指数部分（注意：只算指数部分）所能表示的最小的正数值为。最大绝对值就比较简单了，当尾数全为1，指数为127时为最大，也就是。，其中s为符号位-1或1，t为尾数，i为指数。尾数部分部分共23位，表示范围为。
8位的能表示的范围是±2^7(最高位做符号位)，也就是±128，为什么单精度浮点数的指数范围却是-126~127呢？
浪丶荡
12-31 2342
8个字节的能表示的范围是±2^7(最高位做符号位)，也就是±128，为什么单精度浮点数的指数范围却是-126~127呢？ 我是在《计算机组成原理》一书中解开迷惑的 按照IEEE754标准规定，浮点数的表示方式如下 中间的8位数阶码是无符号数，原本它的范围是0~2^8，即0~256 IEEE754规定只取1~254最为阶码的取值范围，255和0用于表示特殊值。 阶码与实际指数之间满足如下关系：阶码=127+实际指数值 所以实际指数的范围就是1-127~254-127，即-1..
为什么4个字节的浮点数float比8个字节的整数范围要广
qq_60814347的博客
09-12 1199
二进制的最大数表示为：所有的位数上的值都是1，那么尾数位的最大值就是23位全为1；那浮点数的最大值就是尾数位乘以2的次方（指数位的值），那么最大值就是1*2^127；也可以表示为：111.000011*2^2，所以尾数位指的就是小数点后的值，指数位是2的多少次方，这个次方值在指数位。最左边一位表示符号位，0代表正值，1代表负值，其他63位表示数值大小，由于只有一个正0，-0所以long整型整数的取值范围是 ：（-2^63--2^63-1）即4个字节的浮点数的范围为：（-2^127--2^127）
float问题详解
kedou19910921的博客
06-30 3978
前言 Java里的浮点类型，相信每个程序猿都非常熟悉，也知道浮点型数据在计算中会丧失准确度，但是浮点类型到底为啥不准确呢，这个问题笔者作为一个工作了几年的程序猿，之前居然从没有深入探究过。网上有很多关于浮点型数据的底层原理的文章，写这篇博客只是为了让自己能够记忆深刻一些，同时督促自己多学习。 问题 关于浮点型，一般我们会问一下几个问题，解答了这几个问题，基本上对浮点型数据就有了个比较深入的了解了。 问题1：浮点类型是怎么存储的？ 问题2：浮点类型的精度是多少？ 问题3：浮点类型为什么会损失精度？
double和float的区别
热门推荐
weixin_44167611的博客
01-08 4万+
1.double是双精度浮点数，内存占8个字节，有效数字16位，表示范围是-1.79E+ 308~-1.79E+308。 float是单精度浮点数，内存占4个字节，有效数字8位，表示范围是 -3.40E+38~3.40E+38。 2.两者处理速度不同，CPU处理float的速度比处理double快。double的精度高，double消耗内存是float的两倍。 3.如果不声明，小数默认是double类型，用float时需要进行强转，或者在小数后加上f。 /** * @author dou_chengzi
十三、浮点数在计算机中的存储
白色呆毛的博客
11-09 397
浮点数分类 单精度浮点数float： 占用32bit 符号位（1）+指数位（8）+位数部分（23） 遵从IEEE R32.24 双精度浮点数double 占用64bit 符号位（1）+指数位（11）+位数部分（52） 遵从IEEE R64.53 不同位标识的意义 符号位(Sign) : 0代表正，1代表为负 指数位（Exponent）:用于存储科学计数法中的指数数据，并且采用移位存储 尾数部分： ...
浮点表示（计算机系统）
qq_44044341的博客
10-25 493
定点表示法： 数字权的定义与十进制小数点符号（’‘）
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

laocui1

你的鼓励是我创作的最大动了

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值