标签：python integer long-integer
我有一个返回n！的函数fac(n),我将它与gamma(n 1)进行比较
>>> from math import gamma
>>> gamma(101)-fac(100)
0.0
>>> math.floor(gamma(101))-fac(100)
0.0
>>> long(gamma(101))-fac(100)
-1716052534060312817912314997891197522637580074354635372754659484313875350886868191008427848256820699487696649234627144617147818134104040275968L
gamma(101)= 100！并且是一个整数.
为什么结果不同？
解决方法:
结果是不同的,因为浮点类型的精度有限,并且由于减法运算符强制其操作数为相同类型的方式. gamma函数返回一个浮点数,因此无法为这么大的数字返回准确的答案. This page对问题进行了很好的描述.
在gamma(101)-fac(100)中,fac(100)项在减法运算之前被转换为浮点数.
>>> gamma(101)
9.332621544394415e+157
>>> float(fac(100))
9.332621544394415e+157
适合浮动的fac(100)的(最重要的)部分与gamma(101)的部分相匹配,因此减法结果为0.0.
对于第二次测试,gamma(101)没有小数部分,因此math.floor没有效果：
>>> math.floor(gamma(101)) == gamma(101)
True
当您将gamma(101)转换为long时,您可以清楚地看到它不准确：
>>> long(gamma(101))
933262154439441509656467047959538825784009703731840988
310128895405822272385704312950661130892883272778258496
64006524270554535976289719382852181865895959724032L
>>> fac(100)
933262154439441526816992388562667004907159682643816214
685929638952175999932299156089414639761565182862536979
20827223758251185210916864000000000000000000000000L
标签：python,integer,long-integer 来源： https://codeday.me/bug/20190610/1209778.html
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。