这个问题在这里已有答案:
我是python
的新手。我试图使用Sellmeier
方程来计算折射率。这个方程的系数是小数字,在售价公式中有大量的sig figs ( i.e B1 = 1.03961212, B2 = 0.231792344, C1 = 6.00069867×10−3 ... and so on)
,这些数字有很多分数,乘法和平方。我原来把它们称为花车。然而,这样的过程显然不能像这样的floats
完成。
我该怎么办?
请帮忙!
您可以使用float64双精度浮点数:符号位,11位指数,52位尾数。但为此你必须安装64位numpy和
import numpy as np
你可以使用:np.float64