floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

在浮子上施加（某些情况下）周期性边界条件的有效方法？

通过简单地执行以下操作，可以非常有效地对整数施加一些周期性边界条件（PBC）：myWrappedWithinPeriodicBoundary = myUIntValue＆mask当边界是...

math graphics floating-point ieee-754

回答 2 投票 2

MySQL JSON存储不同的浮点值

如何在MySQL（5.7）中舍入JSON数据列中的浮点值？我无法找到一个好的资源来知道如何解决我的问题。这是发生了什么：CREATE TABLE someTable（...

mysql json floating-point

回答 1 投票 0

返回值初始化

在C ++中使用随机性，我有这段代码：#include //不要初始化return int rand_int（）{} float rand_float（）{} int main（int argc，const char * argv []）...

c++ floating-point initialization

回答 3 投票 1

从2D列表中删除重复项（浮点）

在我的荣誉项目上使用3D扫描仪，我知道会有重叠的数据可能会弄乱网格曲面细分。我已经得到了[[x1 y1 z1] [x2 y2 z2]形式的二维数组中的所有点...

python list multidimensional-array floating-point duplicates

回答 3 投票 1

如何在Python 3中迭代浮点数？

所以现在我有一个变量x = 1001.0010101从这个x，我想分成两部分：x = 1001.0010101 val_int = int（x）#get val_int = 1001 val_fract = {0：.5f}“....

python python-3.x for-loop floating-point

回答 3 投票 -1

大浮点和的精度

我试图总结一个正向递减浮点的排序数组。我已经看到，总结它们的最佳方法是开始将数字从最低到最高加起来。我写这个代码有...

c floating-point precision numerical-methods

回答 2 投票 6

Lua math.floor返回错误的值

。有我的代码：for k，v in pairs（result）do result [k] = math.floor（v * 1000）/ 1000 if k == 215 then print（v，math.floor（v * 1000）） k的结束，v成对（额外）do extra [k] = math.floor（...

lua floating-point precision

回答 1 投票 0

在Java中向float中添加值会减慢到512

这一行在循环中执行：shape.setPosX（shape.getPosX（）+（。005f *（float）getDelta（）））; getDelta是自上一个循环以来经过的双精度数，通常平均值为~0.001。 ...

java floating-point floating-accuracy

回答 1 投票 1

python float'（）'的位置

请问有什么区别：return float（（Y2-Y1））/（X2-X1）和：return float（（Y2-Y1）/（X2-X1））我的整个代码是：class Line（object ）：def __init __（self，coor1，coor2）：self ....

python python-2.7 floating-point

回答 3 投票 -2

Python中epsilon的值

在Python中是否有（或获取方法）epsilon的标准值？我需要比较浮点值，并希望与最小的可能差异进行比较。在C ++中有一个......

python comparison floating-point epsilon

回答 3 投票 46

使用JSON.parse解析数量

Dos它存在一个最大浮点数，小数点后有两位数，可以用JSON.parse解析而不会丢失精度？例如：JSON.parse（'{“amount”：9999999999999.99}'）{...

javascript json floating-point precision

回答 1 投票 1

向下舍入浮动

首先让我给出32位浮点和十进制表示的十六进制和二进制。 0x5060000f = 01010000011000000000000000001111 = 15032400896 0x43800005 = 01000011100000000000000000000101 = 256 ....

floating-point numbers floating-accuracy

回答 1 投票 0

NAN传播和IEEE 754标准

我正在设计一个新的微处理器指令集（www.forwardcom.info），我想使用NAN传播来跟踪错误。但是，IEEE 754浮点存在许多奇怪的问题......

c++ floating-point nan ieee-754

回答 4 投票 8

Rcpp：将SEXP转换为float / double

SEXP callFunction1（List network，List words，Function testWordContinuity）{SEXP res = testWordContinuity（network，words）;返回资源; for（int i = 0; i

r floating-point type-conversion double rcpp

回答 1 投票 1

如何在bash脚本中回显浮点数，包括点前面的前导0

我正在回应一个浮点变量。结果如下：.4983385178我正在使用echo -e“$ var”。如何告诉echo还要在点之前打印0：0.4983385178在此先感谢！ ...

bash floating-point echo

回答 1 投票 2

x86和x64之间的浮点算术的差异

我偶然发现了在x86和x64的MS VS 2010版本之间完成浮点算术的方式不同（两者都在同一台64位机器上执行）。这是一个简化的代码示例：float ...

c++ c visual-studio-2010 floating-point 64bit

回答 2 投票 10

PYTHON，Midpoint方法，TypeError：'float'对象不能解释为整数

我正在尝试开发一种近似一阶ODE的迭代方法。我继续遇到浮动的错误不能被解释为一个整数我尝试了很多解决方案，如更改...

python arrays floating-point ode

回答 1 投票 -1

Mysql插入/更新不同的十进制值

我有一个非常奇怪的情况，其中mariaDB（mysql）插入（或更新）不同的十进制值。在下面的例子中，我想插入值'387507.65'但在mysql中它被注册为'387507.66'...

mysql sql floating-point mariadb

回答 2 投票 0

如何在不使用不安全代码的情况下将float转换为二进制？

有没有办法将浮点数（f32或f64）转换为可以按位访问的数据类型，如u32 / u64？也就是说，对应于：fn as_bits（i：f64） - > u64 {unsafe {...

floating-point rust ieee-754

回答 1 投票 2

如何在Windows和Linux上确保相同的浮点行为？

我有一个软件可以对双打进行大量计算，它必须在linux和windows上运行。我不关心使用什么行为（更快更好），但我必须得到......

c++ gcc floating-point mingw

回答 1 投票 1

floating-point 相关问题

最新问题