- 1、本文档共4页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
【专题讨论】Floating point error问题
Floating point error在很多群里面已经提过很多次了并且也已经对它讨论了许多。我在很多QQ群里面对这个问题也给出了自己解释。
【希望】大家跟帖讨论,把这个问题搞清楚。
【原理】? ???
从数值计算方面看,计算机所执行的运算在计算机内是以浮点数(floating point number)来表示的。那些由于用户的非法数值计算或者所用计算机的限制所引起的错误称为floating point error。1)非法运算:最简单的例子是使用Newton Raphson方法来求解f(x)=0的根时,如果执行第N次迭代时有,x=x(N),f’(x(N))=0,那么根据公式x(N+1)=x(N)-f(x(N))/ f’(x(N))进行下一次迭代时就会出现被0除的错误。2)上溢或下溢:这种错误是数据太大或太小造成的,数据太大称为上溢,太小称为下溢。这样的数据在计算机中不能被处理器的算术运算单元进行计算。3)舍入错误:当对数据进行舍入时,一些重的数字会被丢失并且不可再恢复。例如,如果对0.1进行舍入取整,得到的值为0,如果再对它又进行计算就会导致错误。
【避免方法】计算和迭代:设一个比较小的时间步长会比较好的。或者改成小的欠松驰因子也会比较好。经验来看,把欠松驰因子设为默认值的1/3;降低欠松驰因子或使用耦合隐式求解;改变欠松驰因子,如果是非稳态问题可能是时间步长太大;改善solver-control-limits比例或许会有帮助;你需要降低Courant数;如果仍然有错误,不选择compute from初始化求解域,然后单击init。再选择你想从哪个面初始化并迭代,这样应该会起作用。另外一个原因可能是courant数太大,就样就是说两次迭代之间的时间步太大并且计算结果变化也较大(残差高)。网格问题:缩放网格时就会发生这个错误。在Gambit中,所有的尺寸都是以mm为单位,在fluent按scale按钮把它转换成m,然后迭代几百次时就会发生这种错误。但是当不把网格缩放到m时,让它和在Gambit中一样,迭代就会成功;我认为你应当检查网格,网格数太多了,使用较少的网格问题就会解决;网格太多,计算机资源不够用,使使比较粗的网格。边界条件:一个wall边界条件来代迭axis边界条件,结果fluent拒绝计算并告诉floating point error。你的边界条件不能代表真实的物理现象;错误的边界条件定义可能会导致floating point error。例如把内边界设成interior;使用对称边界条件模拟2D区间时也遇到这种问题,把symmetry设为axe symmetric,就发生了floating point error;检查你设的湍流参数,减小湍流强度,先进行50次迭代。多处理器问题,进行多处理器模拟时也遇到相似的问题。问题的解决方法是在单个处理器上运行,这样就运算得很好。错误迭代:以错误的条件来初始化,在开始迭代时就会发生floating point error。
Error: Floating point error: invalid number原因: 数据矩阵求解过程中出现的问题。方法:1、检查网格质量。2、检查边界条件和初始条件。43、对问题进行深入分析,对比模拟情况与真实情况之间的差距。License for fluent expires 1-jan-0Error: sopenoutputfile: unable to open file for outputError Object: c:\temp\kill-fluent696原因: license 过期方法: 更新license。absoulte pressure limitted to 5.000e+06 in 541 cells on zone 2temper limiteed to??5.000e+03 in 1008 cells on zone 2divergence detected temporarily reduceing courant number to 0.05 ang try againtime step reduced in 57 cellerror (large-than)invalid arguement{2}wrong type [not a number]error object: 1#inf ]# `0 M9 i: G原因及方法:1.? ? ? ? 超出受限的警告一般来说湍流粘性比比较多,这个尚不知道很好的解决办法2. 其他的变量受限,注意检查模型有没有错误,这个主要是力学模型要准确,受限制后解
您可能关注的文档
- C语言程序设计复习含答案1.doc
- C语言程序设计复习模拟试题11.doc
- C语言程序设计复习纲要B.doc
- C语言程序设计复习题.doc
- C语言程序设计教程答案杨路明郭浩志[1].doc
- C语言程序设计月考试题(函数部份).doc
- C语言程序设计期末考试考试大纲.doc
- C语言程序设计模拟试题.doc
- C语言程序设计模拟题(含答案).doc
- C语言程序设计答案 曹计昌.doc
- 2024年机械点检员职业资格知识考试题库与答案 .pdf
- 【《浅析安华洁具企业的财务风险》开题报告3000字】 .docx
- 体外生命支持组织指南解读:体外膜氧合支持下的新生儿和儿童患者的常规神经监测 .pdf
- 冀人版-第二单元 科技革命的影响过关测评卷(单元测试)六年级科学下册.docx
- 缺血性卒中急性期血压管理流程2024课件 .pdf
- GBT 44104-2024新国标下的武术教育:学生运动能力测评全解析 .pdf
- 邵东市事业单位统考真题 .pdf
- GBT 44106-2024蹦床新国标解读:学生运动能力测评全攻略 .pdf
- 《考研英语智慧教程》heep课件第三章 真题解析第三章第三节社会文化主题 .pdf
- 工业厂房智慧消防管理现状及其创新对策研究 .pdf
文档评论(0)