decimal 相关问题

十进制是我们共同的十进制数字系统的名称。它也可以指用小数点表示的非整数值。

Perl怪异的行为,带小数点的数字

因此,我正在编写一个perl程序来进行一些计算,并且我将一个浮点数设置为$ x = 00.05;如果我打印print $ x * 100.0;它返回500.0但是如果我做$ x = 0.05;打印$ x * 100.0; ...

回答 1 投票 0

如何让Python将逗号识别为用户输入中的小数点?

这里是超级初学者。我遵循《用Python自动完成无聊的东西》一书,并决定制作一个小脚本来帮助我进行一些基本的百分比检查。我不想打开...

回答 1 投票 0

SQL Server Float数据类型计算与十进制

在以下查询中,声明@a float(23)声明@b float(23)声明@c float(53)设置@a = 123456789012.1234设置@b = 1234567.12345678设置@c = @a * @b选择@c选择LTRIM(STR((@ c),32,12))...

回答 4 投票 2

如何将flask-python的小数点后两位传递给html?

[能帮我吗????我怎样才能从flask-python传递一个小数点后两位到html?我在application.py中输入了以下代码:average = db.execute(“ SELECT AVG(score)FROM ...

回答 1 投票 0

删除Elixir中不使用科学形式的十进制尾随零

我想从小数部分删除尾随零,并使整数部分保持中性形式(因此,请勿将其从100更改为1e2。使用小数会正确删除尾随零,但... ...

回答 1 投票 0

带有e的Matlab编号

[我与matlab一起工作。我的答案是这个1.0e-13 * -0.4710 0.0133我尝试了格式化long g,但是这次的答案是-4.70969527418052e-14我不想用e编号。如何解决这个问题?

回答 2 投票 0

将小数点后的数字存储到MySQL中的变量中

让我现在将要在点(76)之后的数字存储到变量中。我应该怎么做?我将在下面给出一个方案。声明x(3,2);设置x = 323.76;声明y int; ...

回答 3 投票 0

Java代码无法将二进制转换为十六进制(也可以包含十进制值)

public class Question2 {//将此处的插入号转换为十六进制公共静态字符串binarytoHex(字符串号,int bin,int hex){//解析带源基数和...的数字]]

回答 1 投票 -2

十进制数的二进制补码

我想使用shell查找十进制数的二进制补码。谁能帮我吗?

回答 2 投票 0

将十六进制转换为DEC

我正在尝试使用C ++程序将十六进制值转换为十进制值。只是无法提出有效的代码。这是我想出的最好的东西:int main(){string link; ...

回答 2 投票 0

python浮点加法结果中有意外的小数位

我有以下代码通过对订单进行计数来检测股票交易:import json order ='[{“ side”:“ SELL”,“ executedQty”:“ 0.046”},{“ side”:“ SELL”,“ executedQty “:” 0.041“},{” side“:”卖出“,” ...

回答 1 投票 0

从C中的十进制创建十六进制数组

因此,我试图将十进制格式转换为大小为8的uint8_t十六进制数组,但是我不确定如何这样做。我的意思是几个示例:Dec:16 => {0x00、0x00、0x00、0x00、0x00、0x00、0x00、0x10} ...

回答 1 投票 0

C#检查小数位数是否超过3个小数位?

我有一种无法更改的情况:一个数据库表(表A)接受6个小数位,而另一个表(表B)中的相关列仅具有3个小数位。我需要从...

回答 13 投票 17

从BigDecimal获取减少的分数

我正在执行一些非常精确的十进制计算,最后我将其转换为减少的分数。小数位数需要精确到96位小数。由于精度非常重要,因此我使用的是BigDecimal ...

回答 1 投票 0

[在python3中使用十进制量化时的怪异结果

如果使用__name__ =='__main__'的错误代码导入十进制,则结果很奇怪:a =十进制.Decimal('2.135')。quantize(decimal.Decimal('0.00'))b =十进制.Decimal(' 2.145')。quantize(...

回答 1 投票 -1

在C中将十六进制转换为十进制数时,48和87分别代表什么?

我试图理解将十六进制数转换为其十进制等效项的过程,尤其是在将每个十六进制数字转换为其十进制值时。说... ... >>

回答 1 投票 0

试图将除法方程的结果输出到小数点后两位?

所以我只是为Covid在加拿大的死亡做了一个简单的文件,而我似乎不能;在除法后的输出结果中,小数点后两位都减少了吗?导入日期时间为dt start_date = dt.date(2020,3,...

回答 2 投票 0

具有十六进制整数常数和十进制整数的负整数异或会产生不同的结果吗?

我试图创建一个表'MyTable'并添加一个具有小int类型的字段“ field1”。然后,我向field1添加一个负数-12289。然后,我执行以下SQL查询:select field1 ^ 0xcfff ...

回答 2 投票 0


Swift中数字的小数位数

在下面的代码中,我根据一些Toggles是true还是false,通过累加不同的值来声明变量。当我尝试打印此变量时,它返回一个数字和一个小数点...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.