当前位置: 首页 > 图文教程 > 网络编程 > ASP.NET > .NET数值类型的精度

ASP.NET
asp.net Linq To Xml上手Descendants、Elements遍历节点
asp.net 过滤图片标签的正则
ASP.NET Session会导致的性能问题
asp.net 客户端浏览器缓存的Http头介绍
ASP.NET 常用 文件上传方法
异步 HttpContext.Current实现取值的方法(解决异步Application,Session,Cache...等失效的问题)
asp.net Datalist控件实现分页功能
c#中带头(声明)的xml(封装)生成
asp.net BOF或EOF有一个是真,或者当前记录已被删除
asp.net 多数据库支持的思考
一个简单的自定义程序日志小样例
asp.net DataSet进行排序
常用JavaScript代码提示公共类封装
ASP.NET 服务器路径和一般资源调用
使用母版页时内容页如何使用css和javascript
asp.net datalist 用法
asp.net js模拟Button点击事件
ASP.NET Web Page应用深入探讨
动态向页面添加控件和使用正则表达式的代码
Asp.net 连接MySQL的实现代码[]

ASP.NET 中的 .NET数值类型的精度


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2009-11-03   浏览: 260 ::
收藏到网摘: n/a


float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.