n位原码定点整数的表示范围是-(2 n-1 -1)≤X≤2 n-1 -1 数据按比例因子缩小成定点小数或扩大成定点整数再参加运算 需要设定一个比例因子 对于既有整数又有小数的原始数据
计算机采用定点数表示时 当机器数小于定点数的最小值时 结果输出时再按比例折算成实际值 定点数表示方法简单直观 此时机器将停止运算 称作“溢出” 机器无法表达 超出定点数的最大值时 被当作0处理 n位原码定点小数的表示范围是-(1-2 -(n-1) )≤X≤1-2 -(n-1)
不易选择合适的比例因子 不过定点数表示数的范围小 屏幕显示溢出警告 运算过程容易产生溢出
二进制定点数中的比例因子是什么意思
最新推荐文章于 2023-04-15 08:22:21 发布
本文探讨了n位原码定点整数及定点小数的表示范围,并讨论了比例因子的选择及其对运算的影响。此外,还介绍了定点数表示方法在计算机中的应用,包括其优势与局限性。
2万+

被折叠的 条评论
为什么被折叠?



