当前位置: 首页 > 图文教程 > 网络编程 > ASP.NET > .NET数值类型的精度

ASP.NET
XPath序列之二
COM与基于组件技术的开发和应用模式(一)
What is XAML?
浅析ASP.NET FORUMS中缓存机制的应用
MetaBuilders在ASP.NET FORUMS2.0中的应用方法
走进C# (我的C#学习之旅)之三
数据库连接字符串的小技巧
两个窗体之间传值
Oracle 数据库中的 empty string 处理
IronPython中没有System.Data命名空间?
Crystal Report's BUG?
使用Windows API函数显示打开文件对话框
vb.net高手请进
Comega
枚举学习案例
XML 属性顺序
自定义文档库之---扩展文档库字段
how to send email by jmail?
Oracle数据库Date类型字段读写经验
VB之Win32 API编程--判断本地或远程文件是否存在的简易方法

ASP.NET 中的 .NET数值类型的精度


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2009-11-03   浏览: 198 ::
收藏到网摘: n/a


float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.