当前位置: 首页 > 图文教程 > 网络编程 > ASP.NET > .NET数值类型的精度

ASP.NET
使用 ASP+ 列表绑定控件(中)
使用 ASP+ 列表绑定控件(下)
关于两代语言.C/C++,java/c#
C#语言初级入门(1)
C#语言初级入门(2)
C#语言初级入门(3)
C#语言初级入门(4)
Microsoft .NET 框架常见问题 (一)
Microsoft .NET 框架常见问题 (二)
ASP.NET实现HTTP方式获取功能
Microsoft .NET Romoting 框架简介
ASP.NET中的XML表单控件
在 ASP.NET 中使用多个 runat=server form
.NET之ASP Web Form快速入门(1)
.NET之ASP Web Form快速入门(2)
.NET之ASP Web Form快速入门(3)
.NET之ASP Web Form快速入门(4)
.NET之ASP Web Form快速入门(6)
C#的前途如何?
在ASP.NET中处理 datetime 的一些通用函数(vb)

ASP.NET 中的 .NET数值类型的精度


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2009-11-03   浏览: 227 ::
收藏到网摘: n/a


float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.