decimal 相关问题

十进制是我们共同的十进制数字系统的名称。它也可以指用小数点表示的非整数值。

IEEE 754 浮点格式的指数偏差或减法“指数 - 偏差”

目前正在查看一些材料,我发现 IEEE 754 浮点格式中显示: x = (-1)^S × (1 + 分数) × 2^(指数 - 偏差) 我不清楚 2^(Exponent - Bias) indica 的天气...

回答 1 投票 0

用于 CSS 目的的 Django 模板中带有小数部分的十进制数

我有一个 django 模板,我想在其中计算值,然后在 css 中使用它们。看起来像: 顶部填充:{{ VAL1|除:VAL2|乘:VAL3 }}px 它计算出我需要的值,尽管在某些情况下

回答 1 投票 0

小数何时被视为“规范”?

互联网上的每个地方总是说如果小数是规范的,那么decimal.Decimal.is_canonical()方法将返回True。 但这到底意味着什么呢?这只是我不知道的一些术语吗?

回答 1 投票 0

不支持的操作数类型:字符串 * 字符串

致命错误:未捕获类型错误:不支持的操作数类型:/Users/khushbuoswal/Desktop/Grocery_Store/cart.php:212中的字符串*字符串堆栈跟踪:#0 {main}抛出/Users/khushbuoswal/Desktop/

回答 1 投票 0

Excel 小数位动态格式

我有一个 Excel 电子表格,我想应用如下动态格式。一般来说,我只希望相关列中的数字只有一位小数。然而,对于较小的数字,我不...

回答 1 投票 0

如何避免 NSNumberFormatter 中的四舍五入

我试图拥有一个最大精度为 2 位小数的数字字符串,而其余小数只是被修剪掉而不是四舍五入。例如: 我有:123456.9964 我想要:123456.99 -> J...

回答 5 投票 0

Python Decimal.Decimal 以科学记数法产生结果

我将一个很长的数字分成更小的数字。两者都是decimal.Decimal() 类型。 结果以科学计数法显示。我该如何阻止这个?我需要打印完整的号码。 >&...

回答 3 投票 0

为什么在 ValidationRule 的 Validate 函数中,decimal.TryParse(valueString, out valueParsed) 返回 true,给出 1.0.1?

这是我的代码: 使用 System.Windows.Controls; 命名空间 MyTest.validations { 公共类 DecimalValidationRule : ValidationRule { 公共覆盖 ValidationResult 验证(对象...

回答 1 投票 0

为什么无法在文本框中插入小数?

这是我的视图模型: 公共类 ViewModelData :INotifyPropertyChanged { 私有小数?我的价值; 公共十进制?我的价值 { 获取 { 返回 myValue; } 放 { ...

回答 1 投票 0

Dart 代码中的十进制格式不正确

问题描述 我在 Dart 中格式化十进制值时遇到问题。 我有以下代码片段: 导入'包:decimal/Decimal.dart'; 小数格式Decimal(小数值) {

回答 2 投票 0

如何解释数据库中数字的精度和小数位数?

我在数据库中指定了以下列:decimal(5,2) 人们如何解释这一点? 根据 SQL Server Management studio 中查看的列属性,我可以看到它

回答 5 投票 0

Abinitio 显式不动点

我的 abinitio ETL 代码中有一个 DDL,如下所示, 十进制 (“\x01”.6) AMOUNT = NULL (“”) 这是什么意思?是四舍五入到小数点后 6 位还是截断到小数点后 6 位? 例如,123.4567889 = 123.456788...

回答 1 投票 0

如何将math/big.Rat转换为十进制?

我正在读取avro文件并将读取的数据写入mysql。但我遇到了一个问题。当我使用这个存储库读取avro文件时,我读取的十进制类型是map[string]interface{}。什...

回答 1 投票 0

在Python中将字符串转换为带小数的整数

我有一个Python格式的字符串:'nn.nnnnn',我想将其转换为整数。 直接转换失败: >>> s = '23.45678' >>> i = 整数 追溯(最近的...

回答 9 投票 0

将十进制小数(如 12.125)转换为十六进制? (用手)

我知道将十进制数转换为十六进制的手动方法。 方法:将十进制数除以16。将余数存储在一边(并转换为十六进制) 接下来,继续将商除以 16,然后...

回答 1 投票 0

0.1 + 0.2 的不同答案

我知道计算机中有一个数学问题会导致意外的输出: var a = .1; var b = .2; Console.WriteLine(a + b); // 输出:0.30000000000000004 但是当我在一些

回答 2 投票 0

0.1 + 0.2 的不同答案

我知道计算机中有一个数学问题会导致意外的输出: 使用静态 System.Console; var a = .1; var b = .2; WriteLine(a + b); // 输出:0.30000000000000004 但当我...

回答 1 投票 0

Python Pandas 十进制标记欧盟到美国

我红色了有关欧盟到美国十进制标记转换的邮件,这些帮助很大,但我仍然觉得需要专家的帮助..我的数据来自ERP系统,数字格式为l.. .

回答 4 投票 0

确保数字显示始终保留 2 位小数

美好的一天, 我有价格和点差值。 价格是数字,而点差可以是 +1、+0.5、-0.5、-1 或“平”,即 0 我的任务是将这两个值放在一起。 例如。 价格=600 我需要 Fi...

回答 1 投票 0

OleDbCommand 的十进制标准表达式中的数据类型不匹配

我有使用 OleDbCommand 创建 dbf 表的 C# 代码: service.SetCommand($@"创建表 {RequestTableName} ( 货币汇率小数(19,9) null, /*更多字段*/)"); 创建后...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.