.NET数值类型的精度

2016-01-29 13:24 3 1 收藏

.NET数值类型的精度,.NET数值类型的精度

【 tulaoshi.com - ASP.NET 】

float类型占32bit空间，只有7位精度，下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间，15~16位精度，下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间，28位精度，MSDN中描述如下：
This type is useful for applications (such as accounting) where rounding errors must be avoided.

来源:https://www.tulaoshi.com/n/20160129/1490052.html

上一篇：《天天炫斗》锻造必备条件解析
下一篇： Flash MX2004入门与进阶实例——绘图基础（8）

看过《.NET数值类型的精度》的人还看了以下文章更多>>

Asp.Net 和 AJAX.Net 的区别

标签： Web开发

原文： http://www.microsoft.com/china/msdn/library/webservices/asp.net/us0501ASPNETPerformance.mspx?mfr=true 适用于： AJAX（异步 JavaScript 和 XML） Microsoft AJAX.NET Microsoft ASP.NET 摘要：了解如何将 AJAX（异步 JavaScript 和 XML）用于您的 Microsoft ASP.NET 应用程序，使其互动性更强、响应更及时。下载本文的代码...

Order by 的数值型灵活使用

标签：编程语言网络编程

代码: select * from table_a where id=p_id order by decode(函数,'asc',1,'desc',-1)*jsny; 控制试图的访问时间： 6. 代码: create view ... as select ... from where exists(select x from dual where sysdate=8:00am and sysdate=5:00pm) 妙用decode实现排...

.NET语言的选择

.NET语言的选择导读：每个组织迁移到.NET将选择采用哪种.NET语言。微软提供了四种语言：C#, VB.NET, 可管理的C++和 JScript。本文简要的讨论了我们关于这些语言和哪种语言将被使用的看法。 -------------------------------------------------------------------------------- 翻译整理：51dotnet.com（高飞家族）原文出处：http:...

怎么设置Excel2007数据精度？

标签： excel

怎么设置Excel2007数据精度？使用以显示精度为准选项会产生累积计算影响，使您的数据随着时间的推移越来越不准确。仅在您确定显示精度可以保持数据的精确度时才可以使用此选项。 1、单击Office 按钮按钮图像，然后单击Excel 选项。 2、单击高级，然后在计算此工作簿时下选中将精度设为所显示的精度复选框，再单击确定。 ...

.NET的事务控制.