主办单位: 共青团中央   中国科协   教育部   中国社会科学院   全国学联  

承办单位: 贵州大学     

基本信息

项目名称:
浮点机有限机器精度对数值四则运算的影响
小类:
数理
简介:
本文从二进制浮点数入手,从浮点结构,浮点数的范围,浮点计算,浮点数使用IEEE754浮点标准保存等方面阐述浮点数的基本概念,结合国内外研究现状,提出研究目标,通过MATLAB,Fortran,C语言三种计算机语言进行试验研究避免出现“大数吃小数”的严格界限。
详细介绍:
本文主要结论 结论1:以机器双精度进行运算,“大数吃小数”的严格界限不依赖所选取的机器语言,对于任意选取的数A,被其“吃掉的”的大数E可统一的表示成一个公式 结论2:以机器单精度进行运算,“大数吃小数”的严格界限不依赖于所选取的机器语言,对于任意选取的数 ,被其“吃掉的”的最大数 可统一的表示成一个公式 注:其中floor表向负方向取整

作品专业信息

撰写目的和基本思路

在运用计算机进行四则运算的过程中,由于计算机精度有限,大部分实数无法精确表示,而由机器自行选择距离其最近的机器数表示。浮点机实数表示的这种不精确性会导致机器四则运算的不精确,使得数值方法运算过程中出现错误或者停滞。 本文从二进制浮点数入手,通过MATLAB,Fortran,C语言三种计算机语言进行试验研究避免出现“大数吃小数”的严格界限。

科学性、先进性及独特之处

目前国际上对数值运算中“大数吃小数”问题的研究只停留在如何在算法中避免其发生上,而对“大数吃小数”的界限没有详细的研究,即没有指出何时需避免其发生。本文对六组数值试验的数据图像进行分析,并对数据进行拟合,寻找能被任意大数A“吃掉”的最大小数C的近似函数关系,并将由函数关系计算出的近似值与真实值比较,相对误差足够小,因此得出的近似式是有效的。

应用价值和现实意义

本作品提出的界限可应用于工程运算中数值参数及大部分软件参数范围的设定

学术论文摘要

本文从浮点数入手,从浮点结构,浮点数的范围,浮点计算,浮点数使用IEEE754浮点标准保存等方面阐述浮点数的基本概念,结合国内外研究现状,提出研究目标,并通过实验研究避免出现“大数吃小数”的严格界限

获奖情况

鉴定结果

参考文献

[1] 姚传义.数值分析.中国轻工业出版社,2009,(1)56-57 [2] 朱亚超.基于IEEE754 的浮点数存储格式分析研究_计算机与信息技术.2006 (9):50- 52 [3] 王俊,文延华,齐锋滨.计算机浮点功能测试方法.江南计算机技术研究所.第23卷第6期.(1)68-70 [4] 薛定宇,陈阳泉.高等应用数学问题的MATLAB求解.电子工业出版社 [5] Shoichiro Nakamura.科学计算引论-基于MATLAB的数值分析.电子工业出版社 [6] 欧阳洁.数值分析.西北工业大学,(1)5-25 [7] Prof. W. Kahan .IEEE754 原则 . [8] 何渝. 计算机常用数值算法与程序(C++版). 人民邮电出版社. 2003 [9] 熊歆斌. Visual C++程序设计培训教程. 清华大学出版社.2002 [10] 徐翠薇.计算方法引论.高等教育出版社,1999

同类课题研究水平概述

“大数吃小数”数值计算人员经常遇到的现象。目前,对于此现象的研究只是停留在如何在算法上进行避免,比如交换相加次序等等,但并没有建立“大数吃小数”的界限。
建议反馈 返回顶部