浮点数
- 基于浮点数的Cholesky 分解FPGA 实现*
。本设计采用了浮点数来实现Cholesky 分解，相比定点数浮点数在运算过程中无需考虑截位效应带来的精度损失，大大提高了结果的精度。在计算浮点数开方运算上，设计了基于平方根倒数方法的硬件电路，相比传统的牛顿迭代法，大大减少了迭代次数。2 Cholesky分解Cholesky 分解矩阵方法是利用协方差矩阵R厄米特（Hermitian）正定的特性，将协方差矩阵R分解为上/下三角矩阵G及其共轭矩阵的乘积。通过求取上/下三角矩阵的逆矩阵的共轭矩阵GH及矩阵G的乘积
计算机与数字工程 2023年4期2023-08-02
- 基于DPI-C的脉动阵列模块验证平台
主要原因出现在浮点数乘加运算。为了解决这一问题并鉴于C／C＋＋等高级语言可以更加方便的实现激励读取、参考模型构建等功能，本文采用C语言来辅助完成参考模型的编写。本文的验证环境使用UVM（universal verification methodology）［4-5］来搭建，利用SystemVerilog的DPI［6-8］技术将C 代码与验证环境连接起来，有效地提高验证效率，实现验证平台的重用。1 所验脉动阵列结构脉动阵列（systolic array）的架
计算机测量与控制 2023年6期2023-07-06
- 基于FPGA的高速模拟量采集系统设计
数据直接转换为浮点数，处理器直接读取数据即可。图1 总体结构图2 详细设计■2.1 信号调理电路针对不同类型的模拟量信号，且机载系统中通常有大量的杂波信号，为了实现高精度采集，通过相应的调理电路将采集信号归一化处理，常用的调理电有分压、滤波及限幅电路。机载系统输入的电压信号有-100mV~100mV，0~32V，0~115V，0~270V 等，本文设计的模拟量采集电路采集范围为-10V~10V，因此电路调理电路前端针对不同的输入信号，采取通过调理电路将输入
电子制作 2023年8期2023-06-09
- 嵌入式系统中激活函数的快速计算
嵌入式系统中，浮点数采用IEEE754格式存储[5-7]，以单精度浮点数格式为例，IEEE单精度浮点数格式共32位，包含3个构成字段，1位符号s，8位偏置指数e，偏置值为127，23位尾数f，如图3所示。浮点数真值F见式（5）。图3 单精度浮点数存储格式以103.5为例，首先将十进制转化为二进制数，见式（6）：将式（6）进行规格化则有：根据单精度浮点数的存储格式则有：因此，浮点数103.5在嵌入式系统中存储的十六进制代码为：42CF0000h。2.2 计算
物联网技术 2023年2期2023-03-06
- 混合分数与FDR码的测试数据压缩方法
计游程并转化为浮点数。将预处理后的测试数据按照0类型游程划分，当游程长度超过了十进制能表达的最大值9时，即将长游程切分为多个短游程。依此可将测试数据表示为一段整数序列，默认在第一个整数后添加小数点，其余整数依次连接作为小数部分，则游程长度序列转化为浮点数。（3）转化为分数。利用Stern-Brocot Tree生成所有分母小于100的真分数，建立分数字典。在字典中输入浮点数，查找与浮点数相等的分数并输出分子和分母，最后将测试数据存储为分子、分母和原始测试数
安庆师范大学学报(自然科学版) 2022年3期2022-09-20
- 基于申威1621数学库中的非精确结果异常处理①
返回值,从而为浮点数值软件的异常分析奠定了基石.文献[12]提出了一种新的异常处理表示法,该方法能够以合理的效率同样很好地满足故障、结果分类和监控异常的需求. 文献[13]成功实现应用后,其原理的变化是微乎其微的. 文献[14,15]对这类与异常领域相关的学术性研究和工程性探索也进行了详细的对比分析. 文献[16]对基于IEEE 754 规范下的浮点异常问题进行了深入研究,分析并总结出面向C 语言环境中的不同运算操作的异常产生的条件. 以上的很多研究有一个
计算机系统应用 2022年7期2022-08-04
- 基于有效精度的Logistic混沌方程计算轨道偏离研究
示的基本形式和浮点数的标准，给出Logistic混沌方程真实轨道的基本定义以及轨道点的精度变化规律，对Logistic混沌方程的计算轨道进行详细分析，给出对比实验和一些推论.1 计算机中数值的标准化形式数值可以采用科学记数法来进行标准化：±(d0.d1 d2 d3)…×Be.(1)其中，“±”代表该数值的符号，即正数或者负数；“d0”代表该数值的小数点前整数部分的第一位数字位；“.d1 d2 d3”代表该数值的小数点后的第一位、第二位、第三位数字位等；“e
牡丹江师范学院学报（自然科学版） 2022年3期2022-07-20
- 基于编译时插桩的浮点异常检测方法*
]标准，决定了浮点数是实数的有限精度编码[2]，不能精确表示出实数，在进行浮点计算时，可能会导致不精确或者异常的结果。由于浮点数转整数出现的整数溢出异常，欧洲Ariane 5火箭在1996年发射时出现了严重的升空自爆现象[3]，造成了巨额的经济损失。因此，提前发现和规避，是目前解决浮点计算异常问题的关键。能够对异常处理起到指导作用的异常检测方面的研究也在蓬勃发展。当前的测试研究可以分为2类：(1)对浮点异常的研究。文献[2]提出了利用值-范围分析来加速浮点
计算机工程与科学 2022年6期2022-06-23
- 低延时的浮点正弦余弦函数硬件实现算法
的思想将单精度浮点数输入按照指数范围的不同划分为3个不同区域,在这3个不同区域内分别采用不同的算法来保证计算的精度。同时,保证整体硬件模块在4个周期内完成计算。本文结构主要分为算法、电路设计和实验结果3个部分。算法部分采用了3个算法,分别是泰勒0阶近似法、泰勒1阶近似法[18]和直接计算。由于泰勒0阶近似和直接计算比较简单,本文重点分析泰勒1阶近似算法。相应的,电路设计部分也将重点放在泰勒1阶近似算法的实现上。在实验结果部分,本文使用verilog硬件描述
西安交通大学学报 2021年11期2021-11-16
- 数据存储
节;小数存储;浮点数有很多人都不了解在计算机中到底是如何存储数据的，而我也是很好奇其存储机制，才阅读了很多篇文章，才了解数据是如何存储在计算机中的，而我将用一篇文章简单易懂的总结出数据的存储方式。首先你要知道数据存储分为两个部分，一个是整数的存储，一个是小数的存储，整数存储，只需要考虑正数和负数的存储。而小数的存储在计算机中其实是无法精确表示的，因此小数存储就涉及到了精确度的表示。下面就分别叙述整数存储和小数存储。一、整数存储1.1字节： 因为计算机只能
客联 2021年9期2021-11-07
- 一种油液分析仪器数据文件内容解析方法*
。本文作者基于浮点数与英文字母在仪器数据文件中的存储特征，提出了利用搜索二进制数据并转换为浮点数，再将转换后的浮点数与搜索值进而确定浮点数在文件中的位置的方法，并基于API函数设计了全自动搜索的辅助工具，为进行文件格式解析和信息提取提供了一种新的思路。1 解决方案1.1 背景分析油液分析仪器的数据基本上由字符类型的标识及浮点数形式的数值2种类型组成，且大部分以文件的形式进行存储。在以文件进行浮点数的存储方面，国际标准组织制订了一系列的浮点数存储相关标准。自
润滑与密封 2021年8期2021-08-27
- 基于申威1621函数库的断流水指令替换方法①
浮点小数来说,浮点数的尾数包含浮点数的整数部分和小数部分,且整数部分所占的位数与指数大小有关.对于双精度浮点数,若浮点数指数的十进制数值是n,则小数部分占尾数的[0,51–n]位,整数部分占尾数的[(51–n)+1,51]位.在十进制数中,若将小数点后面的数全部变为0,则小数就变成了一个整数.同样对于二进制数而言,将小数点后面的位全部置为0,也就是将双精度浮点数的[0,51–n]位置0,则该二进制浮点数就变成了一个浮点整数,也即实现浮点小数取整化.其具体的
计算机系统应用 2021年7期2021-08-02
- 四种Python均匀浮点数生成方法
生成类似的均匀浮点数呢？比如0.00、0.01、0.02……0.98、0.99共100个浮点数。如果直接构造“for i in range（0，1，0.01）：”，Python就会给出“TypeError： ‘float object cannot be interpreted as an integer”的错误提示，意思是“类型错误：浮点型对象不能解释为整数型”，因为range（）函数接收的参数必须是整数（可以是负数），而不能直接处理float浮点数。那
电脑报 2021年11期2021-07-01
- 二进制浮点数转十进制的快速方法
况下，对内存中浮点数二进制的转换支持并不完善。基于SIMD 的向量浮点单元，可以极大提高运算能力，但同时也增大了验证的难度。特别是在CPU 硅后验证阶段，硬件不可靠的情况下，调试时就需要把内存中浮点数取出然后转换为十进制数去分析是否符合预期。例如在龙芯2K1000[4]平台上进行向量优化时就遇到大量的浮点异常，这与传递到浮点寄存器中的数据大小有关。关于浮点数二进制转换为十进制，目前的多数研究还停留在根据IEEE754 标准去解析计算的阶段，这个计算过程是比
辽宁工业大学学报(自然科学版) 2021年3期2021-06-24
- 基于Karatsuba和Vedic算法的快速单精度浮点乘法器
663)单精度浮点数乘法运算的耗时主要集中在24 bit的尾数相乘部分。为了提高单精度浮点数乘法运算的速度，研究者提出了各种单精度浮点乘法器的改进方法[1-8]。文献[1]提出了基于Karatsuba算法[9-10]的改进设计，通过数学运算的公式变换，用加法器代替乘法器，相比于24 bit尾数直接相乘的单精度浮点乘法器的设计，该设计减少了3个乘法器，只使用了6个乘法器。但是乘法器的使用限制了单精度浮点乘法器运算速度的进一步提高。文献[2]提出了一种基于Ve
电子科技大学学报 2021年3期2021-06-19
- 基于SIMD的Square Root函数高性能实现与优化*
令，可以直接对浮点数进行开平方计算。本文将与sqrt指令在性能方面进行对比。2.4 向量化SIMDSIMD用一个控制器来操作多个处理单元，时间上的并行性是通过对数据中的每个元素进行相同的计算来实现的。目前该技术已经在多个平台使用，而且每个平台都拥有不同的指令集。编译器把代码翻译成SIMD指令的操作叫做SIMD并行化或者SIMD向量化。在执行SIMD指令时，通过一条指令可以同时对多个元素进行计算。例如，在一个128 bit的向量寄存器下，每次编译时，可以对4
计算机工程与科学 2021年4期2021-05-11
- 基于字节流数据包的舰船控制系统数据交互技术
拟量输出AO、浮点数输入FI和浮点数输出FO，其中数字量占用1个二进制位，模拟量一般占用16个二进制位，浮点数一般占用32个二进制位。TCP协议以字节流数据包的方式发送和接收数据。鉴于此，PLC发送数据包为一维数组Bytea[x]，x为发送数据包的长度。PLC接收的数据包为一维数组y为接收数据包的长度。其中：k为数字量输入数；l为数字量输出数；i为模拟量输入数；j为模拟量输出数；m为浮点数输入数；n为浮点数输出数；[]为向上取整，k,l,i,j,m,n为非
舰船科学技术 2021年3期2021-04-12
- 基于FPGA的数字加速度计设计与实现
计算量很大而且浮点数乘法较多会导致精度损失。对以上公式进行化简可得(4)将前三个等式化简后,复杂的运算最终变成矩阵的一次加法和一次乘法运算。其中矩阵K和矩阵B为固定参数,可以提前算好并固化到程序中以减少不必要的运算,提高运算速度以及减少资源的使用。化简后利用整数和浮点数的运算将浮点数扩大,减少浮点数之间的乘法,有效地提高运算的精度。2.2 浮点数精度的选择在设计FPGA程序之前,需要确定程序中数据计算的精度。FPGA内为硬件电路,浮点数精度越低,所消耗的资
传感器与微系统 2021年2期2021-03-05
- 一种高效的浮点数除法指令设计实现方法
754 格式的浮点数除法指令以及实现32 bit 浮点数除法运算的算法。用TEC-XP16 教学机的汇编指令设计了实现浮点数除法算法的汇编语言程序。为解决人工方式设计微程序和修改微程序控制器源程序效率低且容易出错等问题，提出了一种能够由汇编语言程序自动生成微程序以及能够由微程序自动修改控制器ABEL 语言源程序的方法。实验结果表明，所设计的32 bit浮点除法指令的功能是正确的，平均只需要2.16 s就能根据汇编语言程序表自动生成微程序表，平均只需1.3
实验室研究与探索 2020年12期2021-01-15
- 基于SCILAB的多精度算法研究与实现 *
可编程性问题。浮点数运算对于计算机性能影响显著，在浮点运算过程中存在舍入误差，计算规模较小时，这些误差不会造成明显影响。现代科学工程计算一般涉及到大规模计算，在这种大规模、长时程的数值计算中，由于舍入误差的累积效应存在，可能导致数值计算结果不准确、不可靠，甚至得到完全错误的结果。高精度算法库的设计和实现，是解决大规模数值计算的可靠性和稳定性，以及提升国产处理器性能的有效途径之一。设计和实现高精度的处理器，可以从硬件和软件2个方面进行。在20世纪60年代到8
计算机工程与科学 2020年11期2020-11-30
- 探讨Visual C++2010环境下浮点型数据的存储形式
序设计》中有关浮点数数据类型的认识和使用中出现的问题，学生存在对浮点数的认知不够清晰，对Visual C++2010环境下有关浮点数的相关计算结果存在各种困惑。根据多年的教学经验，查阅相关书籍和IEEE754标准，论文分析Visual C++2010环境下浮点型数据的存储形式，阐述了有关浮点数相关几个重要知识点的理解。文中引入计算思维的指导思想，采用从现象到本质，从理论到实践来逐步解决问题。实践证明，该方法取得的了较好的学习效果，夯实了学生对基础知识的掌握
电脑知识与技术 2020年23期2020-09-27
- 源于MATLAB中cast和typecast函数数据格式的探讨
型，以及整数及浮点数在计算机中的存储格式。由此，可以使学生学会使用MATLAB函数，并了解数据在计算机中存储格式。[关键词] MATLAB;IEEE 754;字节序;数据格式[基金项目] 上海市教委重点课程建设项目“数字信号处理”（B1-0200-19-309411）;上海健康医学院教学建设项目“基于穿戴式医疗技术与器械工程研究中心的生物医学工程本科创新能力个性化培养‘四个一工程”（B1-0200-19-309302）[作者简介] 王 选，博士，上海健康医
教育教学论坛 2020年29期2020-08-13
- 流水的浮点倒数近似值运算部件的设计与实现*
持浮点非规格化浮点数[10-11]，经过进一步改进，增加源操作数预规格化和结果后规格化功能，可以实现对浮点非规格化浮点数的硬件处理，有利于进一步提高浮点倒数近似值运算的性能[12]。1 设计与实现1.1 SRT-4算法基本的SRT算法迭代过程采用数学公式描述如下(其中，X为被除数，D为除数，R为算法的基数)：RP0=XPi+1=RPi-qi+1D(1)这里Pi是第i次迭代后的部分余数，在每次迭代中，商值qi+1由商值选择函数δ决定：qi+1=δ(RPi，D
国防科技大学学报 2020年2期2020-05-06
- DSP中的浮点与定点比较
使用场景。1 浮点数据格式与定点数据格式1.1 浮点数据格式在计算机系统的发展过程中提出过多种方法表示实数，但是目前为止使用最广泛的是浮点表示法。IEEE（Institute of Electrical and Electronics Engineers，电子电气工程师协会）在I985年制定的IEEE 754（IEEE Standard for Binary Floating-Point Arithmetic，ANSI/IEEE Std 754-1985）
通信电源技术 2020年1期2020-02-20
- 基于信息冗余压缩的动作捕捉骨骼数据编码优化方法
通过3个单精度浮点数记录，分别表示以米为单位的空间坐标X、Y、Z。旋转信息同样通过3个单精度浮点数记录，分别表示以X、Y、Z为旋转轴的欧拉角度值。1.2 节点信息冗余节点信息冗余是指身体关键节点信息中存在的信息冗余。由于节点之间并非互相独立，而是存在树形拓扑关系，子节点的位置及旋转信息与父节点存在相关性，在已知父节点位置及旋转后息的情况下，子节点位置及旋转信息可通过正向运动学公式计算得出。1.3 采样频率冗余采样频率冗余是指体感数据的硬件采样须率过高产生的
网络安全技术与应用 2019年11期2019-11-12
- 基于FPGA的浮点数线性排序器设计
PGA的可重构浮点数线性排序器。该排序器基于经典的插入排序算法，将插入排序算法并行化，在比较操作的实现上，采用浮点数比较核，使排序器总体性能较现有实现有明显提升。关键词：浮点数;并行排序;可重构;插入排序中图分类号：TP312 文献标识码：A 文章编号：1007-9416（2019）11-0143-020 引言排序是计算机应用领域中非常重要、研究和应用都非常广泛的一类问题。例如，在数据处理、数据库、数据压缩、分布式计算、图像处理和计算机图形学中排序算法都有
数字技术与应用 2019年11期2019-02-02
- sigmoid函数的高效率硬件实现研究
loat单精度浮点数在机器中表示用1位表示数字的符号，用8位来表示指数，用23位来表示尾数，即小数部分。IEEE754标准中，一个规格化32位的浮点数x的真值表示为：其中尾数域表示的值是1.M。因为规格化的浮点数的尾数域最左位总是1，故这一位不予存储，而认为隐藏在小数点的左边。在计算指数e时，对阶码E的计算采用源码的计算方式，因此32位浮点数的8bits的阶码E的取值范围是0到255。其中当E为全0或者全1时，是IEEE754规定的特殊情况。图2 分段最佳
电子测试 2018年16期2018-09-25
- 单精度浮点数累积量异常分析及解决方案
系统中，单精度浮点数被广泛应用于生产工艺过程量监测和回路调节，以及复杂计算和累积量等模拟值处理。这些系统包括：可编程逻辑控制器(programmable logic controller,PLC)系统[1-3]、分布式控制系统 (distributed control system,DCS)[4-5]。自动控制系统选用带累积功能的仪表，可实现较高准确度过程量的累积，但实际应用过程中存在很多未配置累积功能的仪表仍需监视累积值的情况。常用的方法是采用基于浮点数
自动化仪表 2018年9期2018-09-15
- 基于Verilog HDL语言的FPGA浮点数加减法运算的实现
特的优势。1 浮点数加减法运算的实现过程本文浮点数的运算介绍基于二进制单精度类型，由符号位、阶码位、尾码位组成（以上由IEEE 754[1]标准定义）。在符合IEEE 754标准的浮点数加减运算过程中，减法运算也可以转变成加法运算，只要处理好两数的符号即可。规格化浮点数加法可以分为符号判断、阶码比较、尾码对阶、求和或求差和规格化处理等步骤。其加减法运算步骤[2]如下：（1）符号判断：判断是加法运算还是减法运算。（2）阶码比较：求解两个浮点数阶码的差。（3）
机电信息 2018年24期2018-08-27
- 用VB编程实现IEEE 754浮点数与十六进制格式转换
要： IEEE浮点数算术标准（IEEE 754）是最广泛使用的浮点数运算标准，为许多CPU与浮点运算器DSP所采用。而在实际工程应用上，比如计算机串口通讯中数据都是以十六进制数据打包、解析和传输的，所以研究如何根据该标准把所要传输的浮点型数据编程转换成十六进制数据具有重要的实用意义。这里在分析和研究了IEEE 754标准中浮点型数据表示方式和存储方式的基础上，结合Visual Basic 6.0 可视化编程工具，阐述了如何把单/双精度浮点型数据转换成十六进
科学与财富 2017年33期2017-12-19
- 在Ｃ语言中双精度浮点数线性化相等比较的研究
Ｃ语言中双精度浮点数线性化相等比较的研究章国华（武汉船舶职业技术学院，武汉430050 ）以LCC软件为设计基础，提出了双精度浮点数比较大小算法的设计方法，通过程序验证了算法的精确度，分别分析了绝对误差和相对误差方法设计算法，最后从双精度浮点数在计算机中的表示方法角度提出了浮点数线性化后相等比较改进的方法。比较 算法 双精度 有效数字0 引言Ｃ程序设计的教科书中一般都不涉及浮点数的运算，浮点数的运算涉及到计算机的复杂的硬件结构和理解起来有一定难度的表示方法
船电技术 2017年1期2017-10-13
- 深度卷积神经网络的数据表示方法分析与实践
，针对定点数和浮点数建立误差分析模型，从理论角度分析如何选择表示精度及选择结果对网络准确率的影响，并通过实验探究不同数据表示方法对硬件实现代价的影响.通过理论分析和实验验证可知，在一般情况下，满足同等精度要求时浮点表示方法在硬件实现开销上占有一定优势.除此之外，还根据浮点表示特征对神经网络中卷积操作进行了硬件实现，与定点数相比在功耗和面积上分别降低92.9%和77.2%.深度卷积神经网络；数据表示方式；浮点数据表示；定点数据表示；卷积操作优化卷积神经网络(
计算机研究与发展 2017年6期2017-06-23
- 基于FPGA时域有限差分算法的设计与实现
用32位单精度浮点数进行加减法和乘法运算,以保证计算的精度.通过modelsim软件仿真,以Altera FPGA的硬件实现来确保设计的正确性.实验结果显示,基于FPGA的时域有限差分法硬件实现方法对提高速度效果明显,是提高算法性能的有效途径.时域有限差分法; 可编程逻辑器件; Verilog 硬件描述语言; 二维TM波矩量法、有限元法和时域有限差分法(Finite Difference Time Domain,FDTD)是电磁计算方法中3个重要的数值方法
上海电力大学学报 2017年1期2017-04-26
- 基于FPGA的流水线单精度浮点数乘法器设计*
的流水线单精度浮点数乘法器设计*彭章国1，张征宇1,2，王学渊1，赖瀚轩1，茆 骥1(1. 西南科技大学 信息工程学院，四川 绵阳 621010；2. 中国空气动力研究与发展中心，四川 绵阳 621000)针对现有的采用Booth算法与华莱士(Wallace)树结构设计的浮点乘法器运算速度慢、布局布线复杂等问题，设计了基于FPGA的流水线精度浮点数乘法器。该乘法器采用规则的Vedic算法结构，解决了布局布线复杂的问题；使用超前进位加法器(Carry Loo
网络安全与数据管理 2017年4期2017-03-10
- 单双精度浮点运算加法器的实现
加法器结构。该浮点数加法器可通过信号控制端，在高电平时执行双精度浮点加法，低电平时执行单精度浮点加法，且运算结果符合IEEE-754标准格式，通过实验验证，该加法器结构合理，功能正确。关键词：浮点运算；加法器；IEEE-754标准中图分类号：TP391 文献标识码：A 文章编号：1009-3044（2016）31-0231-02浮点数的引用随着网络时代的迅速发展而变得广泛，我们对信息精度、细致度的要求越来越高，比如使用手机时对语音识别需要更清晰；电脑处理图
电脑知识与技术 2016年31期2017-02-27
- 非精确浮点数乘法器设计
016）非精确浮点数乘法器设计尹培培（南京航空航天大学 计算中心，江苏 南京 210016）随着电路系统数值运算范围以及数据运算精度的不断扩大，浮点数运算的研究变得越来越重要。但传统浮点数运算单元硬件复杂、功耗大、延时长，这些因素很大程度上制约着浮点数运算的性能。非精确计算可以减少容错设备的动态及静态能量损耗，作为解决以上问题的有效方法。提出了一种非精确浮点数乘法器的算法设计，同时将该算法应用于高动态范围图片的图像处理中，并将结果与精确浮点数乘法器的应用结
电子技术应用 2016年3期2016-12-03
- Z3：第一台计算机
算机，能够完成浮点数运算。与同时代其他机型相比，Z3的优势在于它对数字的描述。首先，Z3是纯数字式，这点与当代计算机一样，数字以2进制方式编码，即0和1。其次，Z3能够处理浮点数。浮点数包含尾数和指数，例如，当现代科学家提到地球与太阳之间的平均距离时，标准表达方式是：约为1.496×108km，意味着十进制小数点被左移了8位。Z3可以通过打孔纸编程。Z3具备图灵完整性，但是这个特性直到Zuse去世后才得到证实。图灵完整性一词，来源于计算机学术界，用于纪念英
CHIP新电脑 2016年11期2016-12-03
- 基于数据类型转换的点云快速有损压缩算法
FtoI规则将浮点数类型点云转换成整数类型点云，然后将整数类型点云切分成许多小单元面块，每一单元点云生成最小生成树，按广度优先的顺序对树形结构进行编码。同时，按照树形结构对父子节点的差值进行编码，把整型差值分成两部分编码，符号一部分，其绝对值一部分，其中绝对值部分采用算术编码进行压缩。实验表明该文算法在保证整个三维点云模型的质量情况下，具有不错的压缩速度和压缩率。三维点云；有损压缩；浮点数；最小生成树；算术编码点云数据是物体三维扫描后其三维坐标的数据信息，
图学学报 2016年2期2016-11-30
- 准确使用C/C++中等于运算符的研究
和用来判别两个浮点数是否相等。从程序员的角度给出了减少与赋值运算符混淆，以及不同情况下正确判别两个浮点数是否相等的方法。并利用VC 6.0设计了一个Add-in程序，能够自动发现有可能出现这两种错误的语句，提醒程序员注意，以便从集成开发环境的角度减少错误。C/C++程序设计；等于运算符；Add-in《C语言程序设计》是大多数高校开设的第一门计算机语言课程，《C++语言程序设计》则是许多高校开设的计算机语言进阶课程，同时C/C++也是广大工程技术人员最常用的
中州大学学报 2016年2期2016-11-28
- C语言中浮点数的表示范围浅析
樊景博摘 要：浮点数是C语言中的一种数据类型，但在标准C中并没有给出其具体的描述，即数的存储格式及表示范围。部分经典的C语言程序设计教程中给出了浮点数的表示范围，但存在不严谨和值得商榷的地方。结合IEEE754标准，就C语言中浮点数内在存储格式进行分析并给出结论。关键词：C语言；浮点数；表示范围中图分类号：TP313 文献标识码：AAbstract：The float is a data type in C language，but its in stan
软件工程 2016年4期2016-05-30
- 基于格子Boltzmann方法的多孔介质流动模拟GPU加速
撞模型在单、双浮点数精度下计算速度相同.而在较上一代的GPU上，计算精度对MRT碰撞模型计算速度影响较大.多孔介质；GPU；格子Boltzmann方法；并行计算0 引言多孔介质内的流动现象广泛存在于自然界及油气藏开采、化工过程、环境保护等诸多工业领域.多孔介质流动是一类典型的跨尺度现象，在孔隙尺度上利用计算流体力学方法对这类现象进行直接模拟是研究其微观流动机理的重要手段.由于多孔介质的孔隙结构十分复杂，使用常规的基于直接离散求解Navier⁃Stoke方程
计算物理 2015年1期2015-11-30
- 基于CUDA的直方图问题并行优化
条，其中数据为浮点数，取值范围为a≤x直方图问题是一个经典的问题，要解决这个问题需要遍历所有的数据集中的数据，判断所在的区间分布。随着数据规模的增加，问题的规模也随着增大。而数据间并没有关联性，适合使用并行计算的方法来实现。因此本文以该问题为切入点，来研究基于CUDA （Compute Unified Device Architecture）即英伟达公司推出的通用并行计算架构的并行计算的特点和优劣。2 直方图问题的串行化方法串行化方法即使用单线程的方法，数
现代计算机 2015年19期2015-09-26
- C语言中浮点数精度问题分析
00）C语言中浮点数精度问题分析周冠方（郧阳师范高等专科学校组织人事部，湖北十堰420000）通过实例直观地描述了C语言中由于计算机存储数据方式的不同而造成的数据误差，并对误差产生的原因进行了分析，解读出C语言中浮点型数据的不同存储方式，最后给出几点建议。C语言；数据精度；浮点型数据；相对误差1 引言C语言程序设计的基本数据类型包含整型和浮点型两类。在计算机中，实数特别是小数形式表示的数都是以浮点型数据来进行存储的。但是对于浮点型的数据，在进行各种运算时，
湖北工业职业技术学院学报 2015年3期2015-02-13
- 高速公路宏观动态交通流模型的FPGA仿真实现
。因此本文采用浮点数在FPGA上实现Papageorgiou模型的仿真。1 高速公路交通流宏观动态模型宏观动态交通流模型又称为交通流连续介质模型，它通过对单向运动的交通流在某时刻t在某一位置x的有关变量来把握交通的本质。各研究组织所提出多种形式交通流模型，其间主要差别在于交通流量、车辆平均速度和车流密度的关系的表征，以及上下游交通相互作用的描述形式。为了简化模型使其便于应用在实际中，通常根据高速公路几何形状和交通状态将其划分成若干路段，路段可不等距划分，但
电子设计工程 2015年2期2015-01-17
- 计算机浮点运算的尾数处理
运算计算机中的浮点数是小数点的位置不固定，可以浮动的数据。浮点数的引入，不仅扩大了数据的表示范围，同时也提高数据的分辨精度。浮点数的表示方法类似于十进制科学标识法，就是用符号、一串有效数字（通常称作尾数）以及对应于比例因子中隐含基数的指数来表示一个数[1]。浮点数可表示为：N=2E·M。其中E是阶码，常用移码表示，它决定了浮点数的表示范围。M是尾数，是定点纯小数，它给出了有效数字的位数，决定了浮点数的分辨精度。计算机中浮点数的加减运算步骤主要有：对阶、尾数
湖南广播电视大学学报 2014年3期2014-12-19
- Keil C51环境下64位浮点库的设计
-754双精度浮点数的标准.针对目前C51编译器的不足,采用数组分部处理数据[5]，在Keil C51环境下设计了符合IEEE-754双精度标准的浮点库,实现基本的四则运算,满足了在控制领域中需要进行高精度计算的特殊要求.1 IEEE-754 标准IEEE-754二进制浮点数算术标准定义了浮点数的表示格式，是目前广泛使用的浮点数格式标准,被多数CPU和浮点运算器采用.在IEEE-754标准中规定了单精度(32位)、扩展单精度(43位以上,不常用)、双精度(
河北大学学报（自然科学版） 2014年1期2014-08-15
- 采用Karatsuba 算法在FPGA 上实现双精度浮点乘法
中定义的双精度浮点数的尾数有53 bit，采用FGAP实现53 bit×53 bit的硬件乘法器需要占用大量的硬件资源［1-2］。本文详细说明了采用Karatsuba算法在FPGA上实现了双精度浮点乘法器的过程。1 双精度浮点数格式IEEE754是使用最广泛的浮点数运算标准，常用的浮点数有单精确度(32 bit)和双精确度(64 bit)2 种［3］。单精度浮点数的格式:双精度浮点数的格式:浮点运算器的运算包含加、减、乘、除、平方和开方等。通常情况下，在运
西安石油大学学报（自然科学版） 2014年1期2014-04-01
- 基于PLC的流量累积误差及解决方法
复杂。2 补偿浮点数的舍入误差2.1 舍入误差的产生及实验有限位数的二进制数不能精确表示所有十进制数值，当PLC系统不能精确表示一个数时，浮点运算和输入结果会被舍入到最邻近的表示值，产生舍入误差。浮点加法运算在对阶时,尾数要向右移位,被右移的尾数的低位部分会被丢掉,这种处理过程就会产生误差,这也是一种舍入误差，最终使运算结果不准确。在PLC做流量累积时，需要不断地做累加运算，由于浮点数运算的舍入误差累计的结果，随着累加次数的增加最终结果的误差会相当大，我们
计量技术 2014年9期2014-03-22
- 浅析施奈德-昆腾®系列中浮点数的解析与上送
-昆腾®系列中浮点数的解析与上送刘吉强（黑龙江省电力有限公司牡丹江水力发电总厂，黑龙江 牡丹江 157006）数据的采集和上送，是自动控制的基础。自动化领域百家争鸣的局面导致数据格式的定义有很大分歧，数制转换就成为自动控制编程的亮点。本文以发电厂母线的频率采集上送为例，简述浮点数到word 变量的转换与上送方法。浮点数；word变量 ；数制转换一、设备环境：表计DM6200 .网络环境：485菊花链路、MODBUS PLUSH网络、以太网络.PLC：Sch
中国新技术新产品 2014年13期2014-03-02
- 基于FPGA 的浮点与整型数据混合运算实现*
度［3］。对于浮点数和整型数据，如果能在不同的地方运用不同的格式，可以用最少的资源和最快的速度实现相同的功能［4］。目前有很多基于FPGA 的浮点数转换成整型数据的研究和设计，但浮点和整型数据的混合运算却未见报道。本文在研究浮点数和整型数据存储结构的基础上提出了一种浮点数和整型数据相互转换的方法，改进了一般浮点数运算中消耗资源较多和运算速度较慢的问题。1 IEEE 754 浮点数标准目前大多数高级语言(包括C)都是按照IEEE 754 的标准来规定浮点数的
组合机床与自动化加工技术 2013年12期2013-12-23
- 模拟量在连铸机火焰切割机的应用
速度信号转换成浮点数存储在D32中，应用浮点数除法运算，将拉速浮点数除以60秒，结果存储在D90中；应用浮点数累加功能，把每秒的浮点数累加并将结果存储在D94存储器中。将D94中的浮点数转换成整数存储到D112中并不断与行程设置K592比较。（3）数据比较过程：当切割小车行走的距离等于或大于预先设置的K592时，软元件M15、M16动作； PLC输出点Y017动作，抱夹装置松开，切割小车返回原位，等待下一次切割。4 改造效果本次改造实现了预期目标，此方案不
河南科技 2013年17期2013-10-17
- 特殊变换多小波构造的浮点数编码遗传算法
换多小波构造的浮点数编码遗传算法崔明义河南财经政法大学 计算机与信息工程学院，郑州 4500021 引言在遗传算法理论和应用研究中，浮点数编码遗传算法（Floating Point Representation Genetic Algorithm，FPRGA）始终占据重要的地位。近几年，FPRGA的研究引起了人们的极大重视。研究表明，浮点数编码具有精度高、便于高维大空间搜索的优点，在函数优化和约束优化领域明显有效于其他编码，这已被得到了广泛的验证[1-4]
计算机工程与应用 2013年15期2013-07-19
- 一种基于FPGA的直扩信号检测器设计
统整体框图由于浮点数可以在更大的动态范围内提供更高的分辨率，为了防止数据处理过程中出现溢出问题，本检测系统内部处理的数据格式全部采用IEEE 754标准的32位单精度浮点数。3 关键模块设计3.1 数据格式转换模块包括定点数转浮点模块和浮点数转定点模块。在本系统中，定点数转浮点模块的输入是16位有符号定点数，其中7位整数位，8位小数位。输出信号是标准的32位单精度浮点数，其中8位指数，23位尾数。电路实现例化了两个floating point IP核，分别
杭州电子科技大学学报(自然科学版) 2012年6期2012-10-08
- 嵌入式系统中数据与字符串的转换及应用
法也类似；对于浮点数，编制这种程序比较繁琐。其实，除此之外，KEIL C和ICC还提供了更为有效的方法，实现数据到字符串的转换。1.1 KEIL C环境下数据到字符串的转换在KEIL C的stdio.h中提供了sprintf语句可以进行数据到字符串的格式转换。以下是在KEIL C环境下编写的LCD1602显示整型数和浮点数的程序：运行的结果是在LCD1602第1行显示“a＝－1235”，第2行显示“b＝1.235”。程序中，“sprintf（Buf1，"a
单片机与嵌入式系统应用 2012年4期2012-09-25
- 基于FPGA的整数开方运算
EE754标准浮点数，altfp_sqrt模块的输出结果也是IEEE754标准浮点数。例如对整数9进行开方运算，用户必须先将整数9转化为IEEE754标准浮点数(41100000)H，将该十六进制数41100000作为模块altfp_sqrt的输入数据，得到模块altfp_sqrt的输出数据(40400000)H，用户必须自己将此IEEE754标准浮点数(40400000)H转化为3，才能最终得知对9进行开方的结果是3。这对于用户来说就有诸多不便。本文就是
微处理机 2012年3期2012-07-25
- 小卫星PD姿态控制器IP核的FPGA实现
P直接采用32浮点数数据形式进行计算，精度高，同时外部计算机系统的单精度或双精度转换为浮点数较为容易.1 姿态控制器的设计目前，卫星上实际应用的姿态控制技术主要为PID或改进PID控制，此外最优控制方法、变结构控制方法、鲁棒控制方法、自适应控制方法、智能控制等先进控制方法等也逐渐被应用［8－9］.PID控制中微分信号的引入可提高系统的通频带，加速系统的响应速度，加速消除误差，积分信号可以提高稳定精度，但会出现积分饱和现象，影响控制效果;变结构控制适合非线性
哈尔滨工业大学学报 2012年9期2012-07-19
- FPGA中浮点运算功能的实现技术
，实现了32位浮点数的加减乘除功能运算单元设计，通过QuartusII自带的仿真软件获得仿真波形，验证了正确性。浮点运算；现场可编程门阵列；模块化随着半导体技术的快速发展和生产工艺水平的不断提高，FPGA芯片在性能和密度方面得到了提高，已具有性能高、密度高、电压低、功耗低、可靠性高等特点,可满足纯硬件实现浮点运算的需要。本文介绍了FPGA中浮点运算功能的实现算法和实现技术。1.浮点数的描述E为阶码位，共8位，E∈[1,254],当E=0或E=255时Y为非
中国科技信息 2011年23期2011-10-27
- 基于色度学的浮点数算法设计
）基于色度学的浮点数算法设计鲍 曼1，赵红东1，董志勇2（1.河北工业大学 信息工程学院，天津 300401；2.河北省广播电影电视局 机关服务中心，石家庄 050031）以浮点数为基础，首先对色度学基本公式进行化简，使程序更为简洁，并节省硬件资源.随后按照自顶向下的系统设计流程，采用模块化设计方法，利用Verilog HDL语言设计硬件电路，对64位双精度浮点数运算模块进行设计.利用仿真软件对3个模块分别进行功能仿真，给出功能仿真图和仿真实数显示图.在通
天津师范大学学报（自然科学版） 2011年2期2011-01-04
- 仪表设计中的浮点数问题及解决办法
泛。尤其在处理浮点数的运算过程中,C语言与汇编语言相比其优势更加明显。因此,C语言深得项目开发人员的青睐。但是在浮点数处理过程中,若处理不当,则会在系统调试过程中出现异常,致使系统无法工作。本文以笔者开发的某型号流量计为背景,讨论了在仪表设计过程中应用C语言处理浮点数时出现的问题及相应的解决办法,以供读者在遇到类似的问题时参考。流量计的MCU为Microchip公司的PIC16F876A,集成开发环境是Microchip公司的MPLAB8.3,C编译器选用
单片机与嵌入式系统应用 2010年12期2010-03-20
- Visual Basic处理浮点DSP芯片数据的方法
各DSP芯片中浮点数的特点,对计算机软件处理浮点DSP的数据的方法进行了分析并设计出相应的处理算法,最后在Visual Basic环境下对各自的算法描述进行了算法实现。实践表明,该算法处理结果误差小,稳定可靠,具有可移植性且能满足系统的实时性要求。浮点数;DSP芯片;Visual Basic;数据处理0 引 言浮点DSP芯片数据的表示范围大,运算精度高,能够满足宽量程、高精度计算的要求[1],但一般情况下DSP芯片中数据是用16进制存储的,不能直观地得到具
石油管材与仪器 2010年4期2010-02-06