当前位置: 首页 > 图文教程 > 网络编程 > ASP.NET > .NET数值类型的精度

ASP.NET
也说C#实现对Word文件读写
字符串处理:中英文混排固定长度截取问题
用asp.net还原与恢复sqlserver数据库
C#加密路径里的参数,保护参数隐私安全!
ASP.NET实现网络空间管理
Asp.net中处理共享Session的问题
ASP.NET之精通弹出窗口
禁止在TextBox中输入
将一个图片以二进制值的形式存入Xml文件中
vs.net 2003在FAT32格式的系统中安装
.Net FrameWork SDK文档的例子演示
改善C#中socket通信机客户端程序的健壮性
C#中的域(field)和属性(property)
将ASP.net中的Table中的数据导入到Execl
C#中的数组和C++中数组的区别
C#中的checked、unchecked操作符
asp.net 的 Request对象
C#中方法参数的四种类型
C#中的“装箱”与“拆箱”
C#中的代理(delegate)

ASP.NET 中的 .NET数值类型的精度


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2009-11-03   浏览: 270 ::
收藏到网摘: n/a


float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.