当前位置: 首页 > 图文教程 > 网络编程 > ASP.NET > .NET数值类型的精度

ASP.NET
使用CodeDom来生成.cs文件
在.NET中定义结构设计标准
c#v2.0 扩展特性 翻译2
.NET框架下的自动内存管理
在设计期跟踪代码 .NET
VB新發現
原来Smart Client 是这样的
flash内嵌于C#程序中的应用
解读.NET Framework中的COM+与MTS
获取Sql服务器列表 C#
.Net Framework Beta 2 初步介绍
DLL的应用。
编译自己的资源文件编辑器reseditor.exe
.NET 2.0 基础类库中的范型:其他范型类
.NET 2.0 基础类库中的范型:Functional Programming
Lion.Web.UpLoadModule 1.1.2004.0720 大文件上传带进度显示组件DOTNET
.NET编程规范
web.config配置文件示例
编程实现QQ表情文件CFC格式
关于线程的参数、“返回值”、及线程的中止

ASP.NET 中的 .NET数值类型的精度


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2009-11-03   浏览: 261 ::
收藏到网摘: n/a


float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.