rounding 相关问题

舍入数值意味着将其替换为大致相等但具有更短，更简单或更明确的表示的另一个值。

Excel中= FLOOR（）方程的精度不一致

我正在进行审核，审核我工作场所的结算方式;我们已经获得了提供服务的开始时间和结束时间的数据表，以及关于......的规则集。

excel time rounding floor

回答 1 投票 0

是否可以为AVR编写constexpr舍入函数？

我正在编写一个类来设置AVR微控制器上的串行端口。我有一个模板函数，它将cpu时钟值和所需的波特率作为参数，快速计算，验证...

c++ rounding avr constexpr

回答 2 投票 0

如何在javascript中舍入十进制数

我有这个十进制数：1.12346我现在只想保留4位小数但我想向下舍入所以它将返回：1.1234。现在它返回：1.1235这是错误的。有效。我想要最后2 ...

javascript rounding floor

回答 4 投票 1

计算在C＃和javascript之间没有显示相同的结果

我正在尝试将代码从C＃转换为javascript。我做了那两个测试功能，我在循环中进行计算。原始代码是C＃代码。但似乎计算不...

javascript c# double rounding calculation

回答 2 投票 0

用r舍入约会

我有这个日期格式“2019年3月12日，15：08：27.174”，我想把它整理一下，以便保持这个小时和分钟。谢谢

r rounding

回答 1 投票 -3

如何在systemverilog中控制实数的舍入模式

我想为FPU模块编写测试，但无法找到在SystemVerilog中更改实数舍入模式的方法。是否存在系统功能或任何简单方法？谢谢 ...

rounding system-verilog ieee-754

回答 1 投票 0

如何在Javascript中单元测试不安全的整数？

这是打字稿。我有一个函数（实际上是Angular管道），它根据输入将天数转换为字符串，如“1天”或“2天”。 transform（day：number）：string {const result = / * ...

javascript integer rounding integer-overflow

回答 1 投票 0

格式化R中的小数位数

我有一个数字，例如1.128347132904321674821，我想在输出到屏幕（或写入文件）时只显示两位小数。怎么做到这一点？ X

r formatting rounding

回答 12 投票 221

优化向上/向下舍入功能

因此，我们的一个客户（拍卖师）有一组奇怪的增量（也称为伦敦增量），其中基本上它们不符合任何可分的数字，所以使用类似：Math.round（...

javascript performance for-loop rounding

回答 3 投票 0

数学四舍五入

var number = 0.08; var newNumber = Math.round（number * 4）/ 4 // round to nearest .25使用上面的代码，我可以舍入到最近的.25。但是我只想把它整理一下。其中：0.08 = 0.25 0.22 = 0 ....

javascript rounding

回答 5 投票 5

Python - 舍入到最接近的9（最近单位，十，百）

你能想到Python中的一个函数来将任何数字四舍五入到最接近的9吗？唯一的例外是四舍五入到最近的单位，十，百，千年等.76 - > 69 242 - > 239 ...

python rounding

回答 1 投票 -1

你如何在Python中舍入一个数字？

这个问题让我很难过。如何在Python中对数字进行综合？我尝试了一些（数字），但它将数字向下舍入。示例：round（2.3）= 2.0而不是3，我想要的是我试过int（...

python floating-point integer rounding python-2.x

回答 24 投票 386

TSQL舍入VS C＃舍入

这个问题让我发疯了。我正在使用Microsoft SQLExpress 2016来编写存储过程。其中一个要求是进行舍入。但是时不时地四舍五入是错误的。我发现 ...

c# sql-server tsql rounding sql-server-2016-express

回答 3 投票 6

如何在Swift中向上舍入到两位小数？ [重复]

我正在使用下面的代码，我试图让我的'outputvalue'在按下按钮时向上舍入到小数点后两位。我在网上发现了各种不同的方法并尝试将它们合并但是......

swift math decimal rounding

回答 1 投票 0

如何检查float是否具有整数值

如何检查输入值是整数还是浮点数？假设312/100 = 3.12，这里我需要检查3.12是浮点数还是整数。

java floating-point int rounding

回答 8 投票 51

Scala Doubles和Precision

是否有可以截断或舍入Double的函数？在我的代码中的某一点，我想要一个如下数字：1.23456789四舍五入到1.23

scala double truncate rounding

回答 11 投票 101

电源查询舍入不正确，不能正确向上或向下舍入

我在查询末尾有两个自定义列，名为“Total”和“GST”，“Total”列汇总了列“Storage”，“PltHire”，“Admin”，“InActivity”，“OutActivity”，“Add Activity” “，”运费“，”......

decimal powerbi rounding powerquery m

回答 2 投票 1

用一个限制在R中舍入

我有这个数据集：B

r rounding

回答 2 投票 1

R：舍入每行内的内容，使行总数等于我指定的数字

我有170行带小数的数字需要舍入到整数。但是，行总数必须等于我指定的数字。作为一个非常基本的例子，假设我有一个矩阵（...

r function rounding

回答 3 投票 5

带有负数的数组的numpy.power

我有一个numpy数组arr = np.array（[ - 5，-4，-3，-2，-1,0,1,2,3,4,5]）。然后，我怎样才能将每个元素提升到（例如）3/5'幂？当我尝试这样的事情：>>> np.float_power（...

python numpy rounding

回答 1 投票 1

rounding 相关问题

最新问题