大家好,又见面了,我是你们的朋友全栈君。
最近写的东西用到了数学库中的acos函数,但是代码在运行的时候有时候会出莫名其妙的错误,比如返回值是个特别大的数。
最后在debug 的时候发现acos返回的数据很奇怪,但是传入的参数明明没有问题,可以保证是(-1,1)。
回想起,double类型的末尾数据是不确定的,比如当double类型数据alpha = 1.0时其真实值可能是1.00001;这明明是很早就知道的,但是在写代码的时候有时候却很容易忘记。所以在acos部分加入界限判别部分
acos((alpha > 0.99) ? 0.99 : (alpha < -0.99) ? -0.99 : alpha):
借此以作提醒,熟记熟用基本知识!
转载于:https://www.cnblogs.com/jerry323/p/8640678.html
发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/128916.html原文链接:https://javaforall.cn
【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛
【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...