floating-point 相关问题

对于skylakex（agner fog的指令表）：+ ----------------------- + ------------- + - ----------------- + --------------------- + ---------- ------ + --------- + ----------------------- + |说明......

performance x86 floating-point simd

回答 1 投票 1

浮点数的精度是否从Python变为C？

我正在尝试扩展和标准化一些数据（原始数据的子集）：4576,3687,3786,4149 4497,3707,3782,4126 4449,3712,3787,4097 4499,3679,3800,4093 4497,3660， 3857,4139 4463，......

python c floating-point

回答 1 投票 2

分区// vs int（）四舍五入

我是Python 3.6.0的新用户。我试图划分2个产生大量输出的数字。但是，使用return ans1 // ans2在使用return int（ans1 / ans2）时产生55347740058143507128 ...

python floating-point int rounding floor-division

回答 2 投票 2

如何以最大精度将5个浮点数均匀编码为4个浮点数

我最初会问这个，但我发现我自己的解决方案效果很好，所以我会在这里发布这个以供参考。简而言之，我的情况是，我有4个频道，其中......

floating-point shader precision

回答 1 投票 0

使用LUA解码UDP消息

我对lua和一般编程（自学成才）相对较新，所以请保持温和！无论如何，我写了一个lua脚本来读取游戏中的UDP消息。消息的结构是：...

lua floating-point corona floating-point-conversion lua-5.1

回答 2 投票 2

十进制到浮点 - 舍入逻辑

我知道有很多关于浮点数的问题，但我仍然无法找到我想要的东西。将1 000 000 032转换为浮点数为0 10011100 11011100110101100101000并且...

floating-point rounding precision

回答 2 投票 0

如何控制C数学是否使用SSE2？

我在fp：strict模式下使用MSVC进入了C库的超越数学函数的汇编。他们似乎都遵循相同的模式，这就是罪的发生。首先是......

c++ visual-c++ floating-point sse deterministic

回答 3 投票 21

浮点加法和乘法是否相关？

当我添加三个浮点值并将它们比较为1时，我遇到了问题.cout <<（（0.7 + 0.2 + 0.1）== 1）<

c++ floating-point

回答 3 投票 9

使用C＃将big endian的float值转换为little endian

是否有可能将浮动从大端转换为小端？我有一个来自大端平台的值，我通过UDP发送到Windows进程（小端）。这个值是浮点数，但是当我......

c# arrays floating-point endianness

回答 1 投票 2

Math.pow使用小数指数

这是我写过的第一个代码。这是我的代码的一部分，用于在用户给出卷的值之后计算立方体和四面体的边长，但是......

java floating-point exponentiation

回答 2 投票 0

Python中float的二进制表示（位不是十六进制）

如何将字符串作为32位浮点的二进制IEEE 754表示？例1.00 - >'00111111100000000000000000000000'

python binary floating-point

回答 9 投票 45

如何找到具有指数和尾数的最大可表示整数？

我有一个问题需要使用（6指数和9尾数）找到最大的可表示整数我知道指数有5位的分割，尾数的10位有1个符号...

floating-point integer bit exponent mantissa

回答 1 投票 0

当系数可能为0时，求解二次方程

我遇到了编写C程序的问题，该程序将解决方程ax2 + bx + c = 0，其中a，b和c是具有双重类型的系数。任何系数可以为零。在这个问题上它是 ......

c floating-point double

回答 3 投票 1

Python decimal.Decimal - getcontext（）。prec设置和输出中的小数位数

我想使用decimal.Decimal对转换后的数字字符串进行算术运算。我希望返回有两位小数，无论转换后的数字字符串有多少小数。在这......

python floating-point decimal rounding precision

回答 1 投票 0

如何在fortran中控制rand函数中的小数位数？

在下面的代码中，我想生成一个小数点后有两位数的随机数。例如，我想要一个随机变量给出（0.26）而不是（0.26463）。这是我的代码：...

floating-point fortran precision

回答 2 投票 -1

floating-point 相关问题

最新问题