当前位置: 首页 > 图文教程 > 网络编程 > ASP.NET > .NET数值类型的精度

ASP.NET
asp.net 控件验证 FCKeditor
asp.net Repeater 自增
asp.net 安全、实用、简单的大容量存储过程分页
asp.net 编译器错误信息: CS0006: 未能找到元数据文件 该死的.NET
asp.net url 伪静态设置方法
C# 没有动态的数组,可以用arraylist或list取代
c# static 静态数据成员
ASP.NET 字符串截取
Discuz!nt 源文件变成乱码的解决方法
Javascript C#真正可以交互的DES加解密代码
asp.net 数组中字符串替换的几种方式
ASP.NET 生成静态页面 实现思路
在asp.net(C#)中采用自定义标签和XML、XSL显示数据
ASP.NET(C#)应用程序配置文件app.config/web.config的增、删、改操作
ASP.NET MVC引入JQUERY JQRTE控件
C# Base64编码
discuz 跨域整合的记录文件
SQL注入中绕过 单引号 限制继续注入
.net清空所有Cache的实现代码
discuz nt的退出实现代码

ASP.NET 中的 .NET数值类型的精度


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2009-11-03   浏览: 147 ::
收藏到网摘: n/a


float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.