当前位置: 首页 > 图文教程 > 网络编程 > ASP.NET > .NET数值类型的精度

ASP.NET
ASP.NET动态创建控件之绝境求生
客户端回调实现gridView无刷新分页
ASP.NET2.0中将文件上传到数据库
ASP.NET2.0轻松搞定统计图表
asp.net ajax 使用updatepanel更新后的提示
Asp.Net对Xml文件的操作
Asp.net 远程抓取,分解,保存,匹配
ASP.NET 中处理页面“回退”的方法
ASP.NET 2.0中轻松实现网站换肤
C#+ASP.NET 2.0 定制复合组件之基础篇
C#+ASP.NET 2.0 定制复合组件之高级篇
ASP.NET 2.0 服务器控件之复合控件事件
在Apache上调试ASP.NET 1.1/2.0代码
ASP.NET中的DataGrid的属性
动态的管理ASP.NET DataGrid数据列
ASP.NET网站程序预防SQL注入式攻击策略
Windows下SVN配置和apache的配置
.NET事件处理的过程
ASP.net技术:AJAX实现留言板信息展开
三代IIS下ASP.net请求处理过程

ASP.NET 中的 .NET数值类型的精度


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2009-11-03   浏览: 184 ::
收藏到网摘: n/a


float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.