ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

Unity之修复个别手机小数精度问题

2021-10-27 11:36:37  阅读:146  来源: 互联网

标签:return int clipCount strFloat Unity result str 精度 小数


部分手机字符串转小数时,可能会出现精度问题,用如下接口代替 float.Parse()和float.TryParse()可解决问题,代码如下:

 1     static StringBuilder s_sb = new StringBuilder();
 2     
 3     
 4     public static bool TryParseFloat(this string strFloat, out float result)
 5     {
 6         result = 0;
 7         if (string.IsNullOrEmpty(strFloat))
 8             return false;
 9 
10         int indexOfDot = strFloat.IndexOf('.');
11         if (indexOfDot < 0)
12             return float.TryParse(strFloat, out result);
13 
14         int curDecimalCount = strFloat.Length - indexOfDot - 1;
15         int clipCount = curDecimalCount - 4;
16         string str;
17         if (clipCount > 0)
18         {
19             int newLen = strFloat.Length - clipCount;
20             str = strFloat.Substring(0, newLen);
21         }
22         else if (clipCount == 0)
23         {
24             str = strFloat;
25         }
26         else
27         {
28             s_sb.Length = 0;
29             s_sb.Append(strFloat);
30             clipCount = -clipCount;
31             for (int i = 0; i < clipCount; i++)
32                 s_sb.Append("0");
33             str = s_sb.ToString();
34         }
35         str = str.Replace(".", "");
36 
37         if (int.TryParse(str, out int result2))
38         {
39             result = result2 / 10000f;
40             return true;
41         }
42 
43         return false;
44     }
45 
46     public static float ParseFloat(this string strFloat)
47     {
48         if (string.IsNullOrEmpty(strFloat))
49             return 0;
50 
51         strFloat.TryParseFloat(out float result);
52         return result;
53     }

 

转载请注明出处:https://www.cnblogs.com/jietian331/p/15469774.html

标签:return,int,clipCount,strFloat,Unity,result,str,精度,小数
来源: https://www.cnblogs.com/jietian331/p/15469774.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有