舍入误差相关论文
在计算机技术高速发展的今天,多项式的函数值及其导数值评估在越来越多的领域发挥着重要作用,几乎所有的函数在计算机运算过程中都......
随着超级计算机的迅猛发展,高性能计算技术面临着巨大的挑战。由于绝大部分计算机均使用浮点运算标准,在大规模问题中,减弱舍入误......
1 本文首先从一般并行计算理论出发，结合大气科学模式的特点，总结出一套对数值模式适用的并行化编程方案，并且提出了并行计算过程中应......
网络传输技术的快速发展,不仅为电子科技和人民生活带来革新,信息传输速度也发生了质的飞跃。但随之而来的信息传输安全问题也备受......
研究了8位数控衰减器的控制码规律和校准方法,分析了校准控制码步长与校准误差的关系,得到校准误差随控制码步长螺旋上升的结论,该......
波动率的建模和预测为管理风险、构建投资组合和定价衍生产品等问题提供了关键信息,波动率是描述金融价格不确定性、度量风险的重......
数值计算程序在科研及应用中都有着广泛的使用,它的计算准确和高效都是软件正确运行的重要保证,尤其是在安全要求条件高和计算资源......
二次特征值问题(QEP)特征值的导数在模型修正及破损诊断等方面有重要的应用价值.文献[1]中给出了QEP半单重特征值导数的计算公式,......
最小二乘问题不仅是许多数学分支的基本工具，而且在经济学、统计学、测量学、最优化、信息处理、自动控制、工程技术和运筹学等......
本文主要研究了舍入误差对若干参数模型的影响,所研究的模型包括秩集抽样(RSS)模型、多重秩集抽样(MRSS)模型和自回归(AR)模型。同......
浮点数求和与点积计算在科学计算,信号处理,图像处理等领域中广泛应用.对浮点和与点积计算的硬件结构进行了研究.在只有一次舍入误......
研究了常微分方程一般数值解法的误差传播规律, 提出理论收敛性、数值收敛性和真实收敛性3种收敛性概念, 详细讨论了浮点机上一般......
在大多数解初值问题的长时间数值积分计算中很少考虑由于机器的有限精度所导致的舍入误差.利用29种标准的数值方法,通过大量的数值......
基于离散余弦变换的水印嵌入技术存在变换过程中浮点数-整数转换而引入的舍入误差问题.文章采用微分演化算法修正了这类舍入误差,......
