decimal 相关问题

十进制是我们共同的十进制数字系统的名称。它也可以指用小数点表示的非整数值。

对Python十进制库感到困惑

我正在对Python进行定量分析,与另一位同事比较结果,我们发现由于操作顺序不同,这些典型的浮点数差异在小数点后第17位左右。 洛...

回答 1 投票 0

像Python中的Excel一样截断小数位

在我的Excel文件中,我有一些计算。计算返回 0,345,Excel 将其转换为 0,35。我用Python做的。 Python 返回 0,345,但我想像 Excel 一样获取 0,35。我尝试过...

回答 1 投票 0

Python 的 Decimal 模块不会删除指数

我试图让“0.0000002”以十进制类型返回,我可以以字符串格式获取它,但是每当我将其转换为十进制时,它只返回“2E-7”,我已经尝试了几个小时。 小数。

回答 1 投票 0

在arangodb中如何保存带有尾随零的小数以保持值的精度

因此,如果用户输入 12.00000,我需要在本例中保存尾随零 5。 我正在评估 arangodb。但目前还没有这方面的明确信息。 我会在 Java 中使用 BigDecimal 来处理...

回答 1 投票 0

如何限制用户输入小数点后两位数字 - Angular

我有下面的代码,其中有输入字段,我正在使用正则表达式验证值,使用的正则表达式是 /^\d{1,2}.([0-9]|[0-9][0 -9]{1})$/ 该字段允许用户输入 2 位以上的数字...

回答 1 投票 0

添加二进制数

有谁知道如何在Java中以二进制形式输入2个二进制数相加? 例如,1010 + 10 = 1100。

回答 23 投票 0

.NET 中的小数不准确

昨天在调试过程中发生了一些奇怪的事情,我无法解释它: 所以也许我在这里没有看到明显的东西,或者我误解了 .NET 中小数的一些内容,但应该......

回答 4 投票 0

SwiftUI 中仅接受数字和一位小数点的 TextField

我寻找了解决此问题的好方法,但我发现的任何问题都不能满足我的需求。我正在为此苦苦挣扎。 我需要的是一个仅接受 0123456789. 的 TextField,其中包含 f...

回答 1 投票 0

db2 中的 CONVERT 或 CAST,如何将列从 char 转换为十进制

我正在尝试将两列连接在一起。 选择强制转换(用户为十进制) from trans where user <> date 日期是小数 用户是 CHAR 但我收到错误:数据映射转换 e...

回答 1 投票 0

如何获取小数点后的数字?

如何获取小数点后的数字? 例如,如果我有 5.55,我如何获得 0.55?

回答 30 投票 0

BCD 转十进制和十进制转BCD

我正在为Arduino中的RTC模块编写一个库,其中数据存储在BCD中。我知道如何将十进制数转换为 BCD,但在以编程方式编写它时遇到一些问题。之后

回答 3 投票 0

生成两位小数之间的随机小数[重复]

每当我说十进制时,我指的是 system.decimal 而不是数学概念 小数最小值 = 5.62; 小数最大值 = 14.39; 我如何获得一个在上述范围之间随机的 system.decimal...

回答 4 投票 0

汇编器读取 3 个十进制数 L1,L2,L3 两位数,然后指示这些数字是否可以表示三角形的边

L2+L3>= L1 et L2+L1>= L3 et L1+L3>= L2 是必须验证是否是三角形的 3 个条件。我尝试了下面的代码,但它给了我错误的答案,我想...

回答 1 投票 0

修复 Pytesseract OCR 输出旋转的问题

我正在尝试像这样 OCR 路径点的图像,并且我希望输出与下图完全相同: 这是我的代码: 将 pytesseract 导入为 tess 从 PIL 导入图像 重要...

回答 1 投票 0

Pytesseract OCR 检测路径点的小数

我正在尝试像这样 OCR 路径点的图像,并且我希望输出与图像完全相同。 在此输入图像描述 这是我的代码: 将 pytesseract 导入为 tess 来自 PIL 我...

回答 1 投票 0

自从迁移到 Visual Studio 2022 .net 7 以来,C# 小数设置器不再工作。该值始终设置为 0

我有一个调试器的屏幕截图,我可以在其中将本地十进制设置为该值,并且我在调试器中看到它已设置,但设置器的私有十进制变量未设置为该值....

回答 1 投票 0

需要帮助创建一个 5 状态 DFA,如果二进制字符串的十进制值等于或大于 6,则接受该字符串。字符串从左到右读取

我尝试这样做,但它错误地处理了字符串为 1000 的情况。(q4 是这里的接受状态,a0 是初始状态。)我的 DFA 的图像位于下面的 imgur 链接中: DFA(https://i.stack.i...

回答 1 投票 0

如何在 C# 中将字符串中的十进制数解析为整数?

我想将十进制字符串转换为整数,但我不断收到以下错误: System.FormatException:输入字符串的格式不正确。 var myString =“18.7”; var myI...

回答 2 投票 0

创建数据框时创建十进制类型的列

我想在创建 Spark 数据框时提供数字。我在提供十进制类型数字时遇到问题。 这样数字就会被截断: df = Spark.createDataFrame([(10234567891023456789....

回答 2 投票 0

在 Python 中四舍五入不适用于更高的数字

我正在尝试找出一种方法来四舍五入文本文件中的数字列表。 输入:-3.21804657e+163 预期产出:-3.21 我已经用 math.ceil 、 round 甚至 deci 尝试了上面的代码...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.