当前位置: 首页 > 图文教程 > 网络编程 > ASP.NET > .NET数值类型的精度

ASP.NET
.NET可复用TCP通信层之消息分派器组件
Asp.Net结合JS在图层上显示记录信息
.NET 2.0里使用强类型数据创建多层应用
ADO.NET Entity Framework 试水——并发
.Net开发:ADO.NET实用技巧两则
使用LINQ来简化编程的7个技巧
VC.NET扩展Windows磁盘清理工具的功能
Asp.Net页面执行流程分析
用asp.net程序备份或还原SQLServer
ASP.NET实现页面间值传递的几种方法介绍
技巧实例:如何在.NET中访问MySQL数据库
asp.net中数据校验部分的封装与应用
ASP.NET中前台javascript与后台代码调用
翻译 一些很酷的.Net技巧
ASP.NET常用的26个优化性能方法
了解VB.NET中的常量与枚举功能
.NET FileStreams将DTD插入XML文件中
Windows CE.Net下矩阵键盘开发设计详解
.Net编程接口剖析系列之比较和排序
在.NET中字符串替换的五种方法

ASP.NET 中的 .NET数值类型的精度


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2009-11-03   浏览: 138 ::
收藏到网摘: n/a


float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.