标签：四舍五入 nDecimal string double FormatDecimal dRetval 精度

常见问题：string转double后，因为精度问题，导致对double进行四舍五入的时候不精确的问题，找到一个比较好的方法。方法见FormatDecimal。调用示例见最底部。
错误方法：string （“442477.876106195”）=> double（442477.87610619498）=> 保留8位小数结果为 （442477.87610619），实际结果应该为（442477.87610620） 正确方法：string （“442477.876106195”）=> double（442477.87610619498）=> FormatDecimal方法处理后结果为（442477.87610619998）=> 保留8位小数结果为（442477.87610620）       /* * 函数名称: FormatDecimal * 函数功能: 提高double四舍五入前数据的精度 * 参    数: * dblValue   原始double数据 * nDecimal  四舍五入的位数 * 返 回 值: 四舍五入前的double数据 * 示    例: FormatDecimal(442477.87610619498, 8)=442477.87610619998 */ double FormatDecimal(double dblValue, int nDecimal) { double dRetval; double dMod = 0.0000001; if (dblValue < 0.0) dMod = -0.0000001; dRetval = dblValue; dRetval += (5.0 / pow(10.0, nDecimal + 1.0)); dRetval *= pow(10.0, nDecimal); dRetval = floor(dRetval + dMod); dRetval /= pow(10.0, nDecimal); return(dRetval); }
    调用示例： fReturn = _tstof(strReturn.c_str()); fReturn = FormatDecimal(fReturn, iDotnum); std::stringstream buffer; buffer << std::fixed << std::setprecision(iDotnum) << fReturn; strReturn.assign(buffer.str());

标签：四舍五入,nDecimal,string,double,FormatDecimal,dRetval,精度
来源： https://www.cnblogs.com/youyaoqi/p/16173727.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。