当前位置: 首页 > 图文教程 > 网络编程 > ASP.NET > .NET数值类型的精度

ASP.NET
AspectSharp中的代理对象
关于“使用xmlspy编写xsl文件时候,在xsl解释xml文件的时候总是使用utf-16编码”的...
如何获取本机IP?
演练:在Excel中建立自定义菜单项
Microsoft.UI.WebControl.TreeView控件的扩充使用
C#中控制流程
如何通过.Net Compact Framework来获得应用程序的当前路径
用C#快速往Excel写数据
恼人的OleDb Bug
OpenAsTextStream 方法
Visual Studio 2005 Express Beta Products所有的完整安装包。
动态下拉菜单的简单实现
如何调用他人提供的Web Service
VB6实现在Win2000/XP上隐藏进程
CSharp读写SQL Server数据库中的Image列
OA架构设计之启示
VB6使用API下载文件
激活程序的disabled的按钮
定时检测邮件并且自动转发的例子
使程序在Windows任务管理器隐藏

ASP.NET 中的 .NET数值类型的精度


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2009-11-03   浏览: 250 ::
收藏到网摘: n/a


float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.