MyException - 我的异常网
当前位置:我的异常网» VC/MFC » 强制转换为何会得到这样的值

强制转换为何会得到这样的值

www.MyException.Cn  网友分享于:2013-01-19  浏览:21次
强制转换为何会得到这样的值?在线等
void   main(int   argc,   char*   argv[])
{
float   aa=0.9;
int   b=int(aa*10-10*(int)aa);
}

输出b=8
然而aa*10-10*(int)aa=9.00;
为什么值会不一样呢?

------解决方案--------------------
因为aa的值其实是0.899999,输出的时候会变成9,浮点数在计算机里存放会有小小误差
int b=int(aa*10-10*(int)aa); 这句话的aa*10的结果是8.999999,10*(int)aa的结果是0,
然后8.99999-0,再然后转换成int型,载去小数位,自然就是8了
------解决方案--------------------
我在BC3.1和VC6.0中都测试过,结果跟你得到的相同
以下是VC得到的相应汇编代码,其中对程序结果产生影响的是call __ftol (0040113c);从字面上看__ftol是浮点数转化为整形数的转换函数,但是具体转换还没有完全查清楚。
mov dword ptr [ebp-4],3F666666h
fld dword ptr [__real@4@4002a000000000000000 (0042601c)]
fmul dword ptr [ebp-4]
fld dword ptr [ebp-4]
call __ftol (0040113c)
imul eax,eax,0Ah
mov dword ptr [ebp-1Ch],eax
fisub dword ptr [ebp-1Ch]
mov dword ptr [ebp-18h],eax
fld dword ptr [__real@4@4002a000000000000000 (0042601c)]
fmul dword ptr [ebp-4]
fld dword ptr [ebp-4]
call __ftol (0040113c)
mov dword ptr [ebp-20h],eax
fisub dword ptr [ebp-20h]
fstp dword ptr [ebp-14h]
__ftol在VC的编译器选项中有如下解释:
Visual C++ 编译器选项

/QIfist(取消 _ftol)
/QIfist
当需要从浮点型转换为整型时,/QIfist 取消调用 Helper 函数 _ftol。

除了从浮点型转换为整型外,_ftol 函数通过设置控制字的第 10 和第 11 位确保浮点单元 (FPU) 的舍入模式为向零方向(截断)。这保证从浮点型转换为整型时的操作正如 ANSI C 标准所描述的一样(丢弃数字的小数部分)。使用 /QIfist 时,此保证不再适用。舍入模式应是记录在 Intel 参考手册中的四种模式之一:

舍入为最接近的整数(若等距则为偶数)
向负无穷大方向舍入
向正无穷大方向舍入
向零方向舍入
可以使用 _controlfp C 运行时函数修改 FPU 的舍入行为。FPU 的默认舍入模式为“舍入为最接近的整数”。使用 /QIfist 可以改善应用程序的性能,但并不是没有风险。在生产环境中信任用 /QIfist 生成的代码前,要彻底测试对舍入模式敏感的代码部分。

注意 /QIfist 在默认情况下无效,因为舍入位还影响浮点到浮点的舍入(每次计算后发生),所以当设置 C 样式(向零方向)舍入标志时,浮点计算可能不同。如果代码依赖于截断浮点数的小数部分的预期行为,则不应使用 /QIfist。如果不确定,请不要使用 /QIfist。


所以可以断定_ftol是依据以上四种模式中的某一种进行转换的。


文章评论

一个程序员的时间管理
一个程序员的时间管理
不懂技术不要对懂技术的人说这很容易实现
不懂技术不要对懂技术的人说这很容易实现
老美怎么看待阿里赴美上市
老美怎么看待阿里赴美上市
初级 vs 高级开发者 哪个性价比更高?
初级 vs 高级开发者 哪个性价比更高?
鲜为人知的编程真相
鲜为人知的编程真相
程序员眼里IE浏览器是什么样的
程序员眼里IE浏览器是什么样的
5款最佳正则表达式编辑调试器
5款最佳正则表达式编辑调试器
60个开发者不容错过的免费资源库
60个开发者不容错过的免费资源库
老程序员的下场
老程序员的下场
每天工作4小时的程序员
每天工作4小时的程序员
程序员的一天:一寸光阴一寸金
程序员的一天:一寸光阴一寸金
程序员最害怕的5件事 你中招了吗?
程序员最害怕的5件事 你中招了吗?
代码女神横空出世
代码女神横空出世
程序猿的崛起——Growth Hacker
程序猿的崛起——Growth Hacker
看13位CEO、创始人和高管如何提高工作效率
看13位CEO、创始人和高管如何提高工作效率
我的丈夫是个程序员
我的丈夫是个程序员
写给自己也写给你 自己到底该何去何从
写给自己也写给你 自己到底该何去何从
科技史上最臭名昭著的13大罪犯
科技史上最臭名昭著的13大罪犯
团队中“技术大拿”并非越多越好
团队中“技术大拿”并非越多越好
Web开发人员为什么越来越懒了?
Web开发人员为什么越来越懒了?
旅行,写作,编程
旅行,写作,编程
我跳槽是因为他们的显示器更大
我跳槽是因为他们的显示器更大
那些争议最大的编程观点
那些争议最大的编程观点
Java 与 .NET 的平台发展之争
Java 与 .NET 的平台发展之争
如何区分一个程序员是“老手“还是“新手“?
如何区分一个程序员是“老手“还是“新手“?
聊聊HTTPS和SSL/TLS协议
聊聊HTTPS和SSL/TLS协议
10个调试和排错的小建议
10个调试和排错的小建议
“懒”出效率是程序员的美德
“懒”出效率是程序员的美德
做程序猿的老婆应该注意的一些事情
做程序猿的老婆应该注意的一些事情
程序员和编码员之间的区别
程序员和编码员之间的区别
 程序员的样子
程序员的样子
中美印日四国程序员比较
中美印日四国程序员比较
十大编程算法助程序员走上高手之路
十大编程算法助程序员走上高手之路
漫画:程序员的工作
漫画:程序员的工作
程序员应该关注的一些事儿
程序员应该关注的一些事儿
Web开发者需具备的8个好习惯
Web开发者需具备的8个好习惯
为啥Android手机总会越用越慢?
为啥Android手机总会越用越慢?
Java程序员必看电影
Java程序员必看电影
程序员的鄙视链
程序员的鄙视链
如何成为一名黑客
如何成为一名黑客
编程语言是女人
编程语言是女人
为什么程序员都是夜猫子
为什么程序员都是夜猫子
总结2014中国互联网十大段子
总结2014中国互联网十大段子
亲爱的项目经理,我恨你
亲爱的项目经理,我恨你
要嫁就嫁程序猿—钱多话少死的早
要嫁就嫁程序猿—钱多话少死的早
软件开发程序错误异常ExceptionCopyright © 2009-2015 MyException 版权所有