当前位置: 首页 > 图文教程 > 网络编程 > ASP.NET > .NET数值类型的精度

ASP.NET
ASP.NET 打造互联网未来空间站(3)
ASP.NET 打造互联网未来空间站(4)
Asp.net+Xml开发网络硬盘
ASP.NET中树形图的实现
ASP.NET中Cookie编程的基础知识(1)
ASP.NET中Cookie编程的基础知识(2)
ASP.NET中Cookie编程的基础知识(3)
ASP.NET中Cookie编程的基础知识(4)
ASP.NET中Cookie编程的基础知识(5)
ASP.NET中Cookie编程的基础知识(6)
ASP.NET中Cookie编程简明参考
ASP.NET中数据库的操作初步(1)
ASP.NET中数据库的操作初步(2)
ASP.NET中数据库的操作初步(3)
最佳ASP.NET编程习惯
Microsoft .NET 框架常见问题(一)
Microsoft .NET 框架常见问题(二)
用Visual C#打造个性化的IE浏览器
.NET Compact Framework的强大二维图形引擎
VB.NET如何在没有.NET框架的机器上运行

ASP.NET 中的 .NET数值类型的精度


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2009-11-03   浏览: 273 ::
收藏到网摘: n/a


float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.