在异常情况下,浮点运算的结果为零、无穷或NaN,如下所述
互联网摘选
整个系统设计充分利用FPGA并行流水线操作的优点和DSP高精度浮点操作的优势,具备了高实时性、高稳定性、低功耗及易扩展等特点。
互联网摘选
精配准时,借鉴联合直方图区域记数法的思路,在灰度信息的统计特性空间上巧妙定义一种全局准则函数,既能保证精度又摆脱了大量的浮点运算。
互联网摘选
if a floating-point operation is invalid, the result of the operation is nan.
如果浮点运算无效,则运算的结果为NaN。
互联网摘选
如果浮点运算结果的数值对于目标格式来说太大,则运算的结果为
互联网摘选
四舍五入到负无限意思是调整浮点运算的结果成最接近结果并且不大于结果的最接近值。
互联网摘选
并对此交叉编译环境进行了浮点运算能力和软件依赖性两方面的测试。
互联网摘选
Any floating-point operation like addition or multiplication is achieved in a few discrete steps
任何浮点操作,例如加法和乘法,都可以通过几个步骤来实现
互联网摘选
我们增加了一些新的API调用,允许计算程序进行自己的CPU测试,或者直接报告它们的浮点操作数目。
互联网摘选
提出了一种特定算法用于程序中的计算,有效地解决了定点运算精度低和浮点运算计算量大、计算时间长的问题。
互联网摘选
Logical Design of Hypersurface Neuron for Single-Cycle Floating-Point Arithmetic Operation
单节拍浮点运算神经元的组合逻辑设计
互联网摘选
介绍了通用神经计算机CASSANDRA-中单节拍浮点运算神经元的硬件设计方法。
互联网摘选
Rounding error study of calculator floating-point numbers arithmetic operation
计算机浮点数算术运算的舍入误差研究
互联网摘选
对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础。
互联网摘选
乘加操作是许多科学与工程应用中的基本操作,特别是在图形加速器和DSP等应用领域,浮点乘加器有着广泛的应用。
互联网摘选