在.NET中,十进制、浮点和双精度之间有什么区别?
什么时候有人会用这些?
在.NET中,十进制、浮点和双精度之间有什么区别?
什么时候有人会用这些?
当前回答
我不会重复在其他回答和评论中已经回答的大量好的(和一些坏的)信息,但我会用提示回答您的后续问题:
什么时候有人会用这些?
对计数值使用十进制
测量值使用浮点/双精度
一些示例:
钱(我们是数钱还是量钱?)距离(我们是计算距离还是测量距离?*)分数(我们是计算分数还是衡量分数?)
我们总是数钱,不应该量钱。我们通常测量距离。我们经常计算分数。
*在某些情况下,我称之为名义距离,我们可能确实需要“计算”距离。例如,也许我们正在处理显示到城市距离的国家标志,我们知道这些距离永远不会超过一个十进制数字(xxx.x km)。
其他回答
所有这些类型的问题是存在一定的不精确性而且这个问题可能发生在小的小数上,如下面的例子
Dim fMean as Double = 1.18
Dim fDelta as Double = 0.08
Dim fLimit as Double = 1.1
If fMean - fDelta < fLimit Then
bLower = True
Else
bLower = False
End If
问题:bLower变量包含哪个值?
答案:在32位机器上,bLower包含TRUE!!!
如果我将Double替换为Decimal,bLower包含FALSE,这是一个好答案。
在double中,问题是fMean fDelta=1.09999999999,低于1.1。
注意:我认为同样的问题肯定会出现在其他数字上,因为十进制只是精度更高的双精度,而且精度总是有限制的。
事实上,Double、Float和Decimal对应于COBOL中的二进制十进制!
很遗憾,在.Net中不存在COBOL中实现的其他数字类型
BINARY or COMP like float or double or decimal
PACKED-DECIMAL or COMP-3 (2 digit in 1 byte)
ZONED-DECIMAL (1 digit in 1 byte)
精度是主要区别。
浮点-7位(32位)
双-15-16位(64位)
十进制-28-29位有效数字(128位)
小数具有更高的精度,通常用于要求高精度的金融应用中。小数比双/浮点数慢得多(在某些测试中高达20倍)。
小数和浮点数/双数不能在没有掷骰的情况下进行比较,而浮点数和双数可以进行比较。小数也允许编码或尾随零。
float flt = 1F/3;
double dbl = 1D/3;
decimal dcm = 1M/3;
Console.WriteLine("float: {0} double: {1} decimal: {2}", flt, dbl, dcm);
结果:
float: 0.3333333
double: 0.333333333333333
decimal: 0.3333333333333333333333333333
简单地说:
Decimal、Double和Float变量类型在存储值的方式上有所不同。精度是主要区别(请注意,这不是唯一的区别),其中float是单精度(32位)浮点数据类型,double是双精度(64位)浮点类型,decimal是128位浮点数据类型。汇总表:
/==========================================================================================类型钻头达到近似范围/==========================================================================================浮动32位7位数-3.4×10^(38)到+3.4×10^双64 15-16位数字±5.0×10^(-324)至±1.7×10^十进制128 28-29有效数字±7.9 x 10^(28)或(1至10^(29)/==========================================================================================你可以在这里阅读更多,浮点,双精度和十进制。
正如前面提到的,整数是整数。他们无法存储点,例如.7、.42和.007。如果需要存储非整数的数字,则需要不同类型的变量。您可以使用double类型或float类型。您以完全相同的方式设置这些类型的变量:键入double或float,而不是使用int。这样地:
float myFloat;
double myDouble;
(float是“浮点”的缩写,意思是一个末尾有点的数字。)
两者的区别在于它们所能容纳的数字的大小。对于浮点数,您的数字最多可以有7位。对于双打,最多可以有16位数字。更准确地说,这里是官方尺寸:
float: 1.5 × 10^-45 to 3.4 × 10^38
double: 5.0 × 10^-324 to 1.7 × 10^308
float是32位数字,double是64位数字。
双击新按钮以获取代码。在按钮代码中添加以下三行:
double myDouble;
myDouble = 0.007;
MessageBox.Show(myDouble.ToString());
停止程序并返回编码窗口。更改此行:
myDouble = 0.007;
myDouble = 12345678.1234567;
运行程序并单击双击按钮。消息框正确显示数字。不过,在末尾添加另一个数字,C#将再次向上或向下舍入。寓意是,如果你想要准确,请小心四舍五入!
这对我来说是一个有趣的线索,因为今天,我们刚刚遇到了一个令人讨厌的小错误,关于十进制比浮点精度低。
在我们的C#代码中,我们从Excel电子表格中读取数字值,将其转换为十进制,然后将该十进制发送回服务以保存到SQL Server数据库中。
Microsoft.Office.Interop.Excel.Range cell = …
object cellValue = cell.Value2;
if (cellValue != null)
{
decimal value = 0;
Decimal.TryParse(cellValue.ToString(), out value);
}
现在,对于我们几乎所有的Excel值,这都非常有效。但是对于一些非常小的Excel值,使用decimal.TryParse完全丢失了值。一个这样的例子是
单元格值=0.00006317592Decimal.TryParse(cellValue.ToString(),out值);//将返回0
奇怪的是,解决方案是先将Excel值转换为双精度值,然后再转换为十进制值:
Microsoft.Office.Interop.Excel.Range cell = …
object cellValue = cell.Value2;
if (cellValue != null)
{
double valueDouble = 0;
double.TryParse(cellValue.ToString(), out valueDouble);
decimal value = (decimal) valueDouble;
…
}
即使double的精度低于十进制,这实际上确保了小数字仍然可以被识别。由于某种原因,double.TryParse实际上能够检索这样的小数字,而decimal.TryPars将它们设置为零。
古怪的非常奇怪。