是否可以使用cuda在设备上计算tgammaf(50)?]

问题描述 投票:-1回答:1

我正在使用斯特林逼近法对此进行计算,但是我无法存储从斯特林逼近法得到的巨大答案。有什么好方法可以在设备上存储这么大的数字吗?

我正在使用斯特林逼近法对此进行计算,但是我无法存储从斯特林逼近法得到的巨大答案。有没有什么好办法可以在...

c++ c++11 cuda wolfram-mathematica random-seed
1个回答
0
投票

CUDA标准数学库支持双精度函数tgamma和单精度函数tgammaf。由于Γ(50)约为10 [62],因此结果溢出了float类型的可表示范围,因此tgammaf (50.0f)返回无穷大。但是,通过使用双精度函数tgamma并将结果存储到double变量,例如

© www.soinside.com 2019 - 2024. All rights reserved.