标签:mooc 进制 回事儿 1.1 程序设计 C语言 小数
入门学习1.1.1——K进制小数在金融工作中的影响——(程序设计与算法(一)C语言程序设计(mooc郭炜)课程学习) 本系列用于记录学习感悟,以及用思维导图的形式对学编程路上的知识进行总结。 博主为新手,如文中有错漏,欢迎大家指出! 课程链接: https://www.icourse163.org/course/PKU-1001553023?from=searchPage&outVendor=zw_mooc_pcssjg_ 或 https://www.bilibili.com/video/BV1G4411474n?spm_id_from=333.337.search-card.all.click&vd_source=3947f55bc3ba05467bb13fdf2ecc4299 1.1思维导图
2.1思考点
2.1.1 K进制小数对金融工作中的影响
本课中提到,虽然整数格式都可以通过2进制来表示,但是小数是通过2的负幂相加的形式来形成的。
这就造成,在内存有限的情况下,一些十进制有限位小数,不能够用二进制的有限位数表示出来。例如4.9,只能精确的表示为4.89999之类的一个很接近的数。
这让我想起了一件事,一位大学金融系的同学,他毕业后在基金公司工作。
某一次突然看到他在朋友圈上紧急求助,说excle表(好像是)的计算出了问题,某一个数据的计算结果就是对不上。
有人问,是不是取两位小数造成的影响,他回答说,不是小数点后几位数的约数问题,就是excle计算,不知道怎么回事儿。
我挺好奇,过了会儿,也好奇是怎么回事儿。按说,毕竟跟这哥们还是比较熟悉的,一般的低级错误不会犯。
过了大概1、2个小时,他在朋友圈里表示感谢,并说明了excle计算出错的原因。
记得大体意思是,计算机进行小数计算时,由于本身的表示问题,并不能够真的那么精确。
当时我也是挺惊讶的,毕竟之前觉得计算机的计算能力是最核心的,怎么会出问题呢?
但当时的知识并不足以让我明白是怎么回事儿。
今天在mooc上看到对二进制结构和小数表示的讲解,才反应过来是怎么回事儿,终于解开了之前的困惑。
趁着这股兴奋劲儿,把这个经历记录下来,希望能对大家有帮助!
标签:mooc,进制,回事儿,1.1,程序设计,C语言,小数 来源: https://www.cnblogs.com/zhiguangwang/p/16560379.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。