繁體中文当前位置: 首页 > 图文教程 > Flash动画 > Flash动画制作 > AS计算方面的错误
- Flash动画制作
- 28个有趣的loading的flash网站实例
- Flash实例教程:跟随鼠标的炫舞线条特效
- Flash CS3教程:烟雾状动画制作技巧
- Flash CS4的Deco工具制作有图案的水晶球
- Flash CS4的骨骼工具制作皮影动画技巧
- Flash实例教程:好看的气泡动画特效
- Flash AS3.0教程:好看的荷塘涟漪动画
- 设置TextField的插入点（尖号）的位置
- 24个相当漂亮的创意类Flash网站设计实例
- 学习ActionScript 3.0比较重要的6个好处
- AS3 socket解码设计时忽略的问题
- Flash实例教程:好看的星光四射动画特效
- Flash实例教程:简单的鼠标翻扑克动画
- Flash AS实例教程:会眨眼的美女
- Flash AS制作创意的鼠标经过的网页导航
- AS使用经验总结:AS的使用技巧汇总
- Flash动画技巧:图形元件相关知识
- 连连看小游戏地图数据简单生成的AS代码
- Flash实例教程:好看的跟随鼠标的旋转星星
- Flash CS4教程:立体梦幻星空旋转3D地球
Flash动画制作 中的 AS计算方面的错误
出处:互联网 整理: 软晨网（RuanChen.com） 发布: 2009-11-22 浏览: 74 ::
收藏到网摘: n/a
第一种
var a=(1/3);
trace(a); // 输出 0.333333333333333
trace(a*3); // 输出 1
到这里为止的计算没有问题，那么接下来看看所出现的问题
var b=a.toString(); //把a转换为文字
var c=Number(b); //再把文字转换为数字
trace(c); // 输出 0.333333333333333
trace(c*3); // 输出 0.999999999999999
看看问题是不是出现了呢？0.99999999999999
并不是我们的准确答案，这通常会发生在制作计算器(calculator)时会出现 trace(a); // 输出 0.333333333333333
trace(a*3); // 输出 1
到这里为止的计算没有问题，那么接下来看看所出现的问题
var b=a.toString(); //把a转换为文字
var c=Number(b); //再把文字转换为数字
trace(c); // 输出 0.333333333333333
trace(c*3); // 输出 0.999999999999999
看看问题是不是出现了呢？0.99999999999999
var b = (4/3)-0.333333333333333;
var e = Number(String(b));
trace(b); //输出 1
trace(e); //输出文字转换数字 1
trace(String(b) == String(e)); //文字比较为 true
trace(b == e); // 数字比较为 false;
trace(b-e); //输出 2.22044604925031e-16
var e = Number(String(b));
trace(b); //输出 1
trace(e); //输出文字转换数字 1
trace(String(b) == String(e)); //文字比较为 true
trace(b == e); // 数字比较为 false;
trace(b-e); //输出 2.22044604925031e-16
同上都是数字转换文字后再转换为数字的问题，解决方法是不要自己定义小数
var a = 1/3; //改用变量
var b = (4/3)-a;
var e = Number(b.toString());
trace(b); //输出 1
trace(e); //输出文字转换数字 1
trace(b.toString() == e.toString()); //文字比较为 true
trace(b == e); // 数字比较为 true;
trace(b-e); //输出 0
var b = (4/3)-a;
var e = Number(b.toString());
trace(b); //输出 1
trace(e); //输出文字转换数字 1
trace(b.toString() == e.toString()); //文字比较为 true
trace(b == e); // 数字比较为 true;
trace(b-e); //输出 0
var a=10;
var b=Math.sqrt(a)*Math.sqrt(a);
trace(b);// 输出变量b为 10
trace(b==10); // 比较的时候却是 false;
var b=Math.sqrt(a)*Math.sqrt(a);
trace(b);// 输出变量b为 10
trace(b==10); // 比较的时候却是 false;
这类复杂的计算容易出错
var a=1000*Math.PI/180;
var b=(Math.PI/180)*1000;
trace(a);// 输出 17.4532925199433
trace(b);// 输出 17.4532925199433
trace(a==b); //比较为 false
trace(a-b); //输出 -3.5527136788005e-15
var b=(Math.PI/180)*1000;
trace(a);// 输出 17.4532925199433
trace(b);// 输出 17.4532925199433
trace(a==b); //比较为 false
trace(a-b); //输出 -3.5527136788005e-15
在角度和弧度转换时的错误，最好角度值不要太大。角度在360内是绝对没有问题的
var a=(99.9-0.1);
trace(a==99.8);// 输出 false
这类比较严重，所以尽量避免使用。如果是非要这样判断的话，就把a转换为文字后比较才可以解决 trace(a==99.8);// 输出 false
var a = 10;
for (var i = 0; i<20; i++) {
a -= 0.1;
trace(a);
}
for (var i = 0; i<20; i++) {
a -= 0.1;
trace(a);
}
输出为
第七种 9.9
9.8
9.7
9.6
9.5
9.4
9.3
9.2
9.1
9
8.9
8.8
8.7
8.6
8.50000000000001
8.40000000000001
8.30000000000001
8.20000000000001
8.10000000000001
8.00000000000001
9.8
9.7
9.6
9.5
9.4
9.3
9.2
9.1
9
8.9
8.8
8.7
8.6
8.50000000000001
8.40000000000001
8.30000000000001
8.20000000000001
8.10000000000001
8.00000000000001
for (var i =-1; i<1; i+=0.1) {
trace(i);
}
trace(i);
}
输出为
-1
-0.9
-0.8
-0.7
-0.6
-0.5
-0.4
-0.3
-0.2
-0.1
-1.38777878078145e-16
0.0999999999999999
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
第八种 -0.9
-0.8
-0.7
-0.6
-0.5
-0.4
-0.3
-0.2
-0.1
-1.38777878078145e-16
0.0999999999999999
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
var a = 9999999999;
a += 0.000005;
trace(a);//9999999999.00001
a += 0.000005;
trace(a);//9999999999.00001
大数目与小数点相加的错误
评论 (0) All
