数值精度相关论文
机载雷达自适应数字波束形成(ADBF)处理过程中有高阶复矩阵求逆运算,由于有限字长效应会产生严重的误差积累,尤其是当回波信号的动态......
中文:翼型的气动性能数值模拟是翼型气动性能分析和气动优化设计的重要基础。研究表明翼型气动力系数和流场的计算精度受计算网格的......
摘 要:以苹果幼木为例,描述其树干周长随时间变化的Logistic 模型,并运用传统的非线性最小二乘法进行参数估计,在此基础上,构建非线性混......
梁、板、壳是结构工程常见的构件,其控制方程为微分方程的初边值问题。具有初、边值条件的常、偏微分方程的解析解一般无法通过理论......
本文讨论了Mathematica软件中的浮点计算精度问题,阐明了常量$MachineEpsilon的来历,有助于正确使用Mathematica进行科学计算.......
期刊

