C#双精度数比较

2023-07-24  本文已影响0人  价值投机168

记个小笔记:在数学计算中10 次 0.1 相加应该等于1,但是在计算机中计算并不为1,而是0.99999999999999989。
那么一般的比较方法如“==”、Equals就不适用了。还好双精度计算有个误差值为1E-6;

static bool DoubleEquals(double va1, double va2)
{
var D_DELTA = 1e-6;
return va1 == va2 || Math.Abs(va1 - va2) < D_DELTA;
}

上一篇 下一篇

猜你喜欢

热点阅读