找回密码
 立即注册
搜索
总共850条微博

动态微博

查看: 3232|回复: 2
打印 上一主题 下一主题
收起左侧

Microsoft Excel bug?

[复制链接]

15

主题

46

帖子

831

积分

跳转到指定楼层
楼主
发表于 2010-5-7 21:42:16 | 只看该作者 回帖奖励 |正序浏览 |阅读模式

Anybody knows how to use MS Excell to calculate/represent an integer number > 16 digits.  For example, I was trying to calculate 3^32.  This is a number > 16 digits and with last digit being 1.  However, my Excel gives me 1,853,020,188,851,840.  And if you continue to go 3^33 ... and larger index, the last digits are all wrong.  I always has the impression that Excel is "double precesion" that mean it can handle 32 digits of a number.   Maybe this is a bug?  Thanks.
 
 
www.ddhw.com

 
回复

使用道具 举报

15

主题

46

帖子

831

积分

板凳
 楼主| 发表于 2010-5-10 08:00:27 | 只看该作者

回复:Microsoft Excel 处理的数字为双精度数,其有效数字仅有32位(2进制)即2^32


是10进位的32位数字, 还是2进位的? 你没有讲明白.  谢谢.www.ddhw.com
 
www.ddhw.com

 
回复 支持 反对

使用道具 举报

45

主题

766

帖子

6261

积分

沙发
发表于 2010-5-10 06:04:54 | 只看该作者

Microsoft Excel 处理的数字为双精度数,其有效数字仅有32位(2进制)即2^32-1


  Microsoft Excel 处理的数字为双精度数,其有效数字仅有32位(2进制)即2^32-1




回复 支持 反对

使用道具 举报

24小时热帖
    一周热门
      原创摄影
        美食美文
          您需要登录后才可以回帖 登录 | 立即注册

          本版积分规则

          Archiver|手机版|珍珠湾ART

          Powered by Discuz! X3 © 2001-2013 All Rights Reserved