Home > コラム | IT関連 > エクセルの計算は実は正確ではない

エクセルの計算は実は正確ではない

どもー、ノダッシュです。


SEから異動してからというもの、管理部門ということもありエクセルを使う頻度が格段にアップしてます。


 


そんな中でここ最近、気になっていた事があります。


それは、絶対に合うハズの計算が合わなかったり、絶対に「0」(ゼロ)になるハズの計算なのに「-0」(マイナスゼロ)の表記になったりする事デス。


(#゚Д゚)ナンデヤネン!!


 


なんでかなーと不思議に思い、表示桁数を小数点以下にずーっと増やしていくと・・・


「-0.000000000000001425・・・」


みたいな事になってて、エクセル君はさも当然のごとくにマイナス表示をしたと言い張っているのです。


 


実はこれにはワケがあるようで・・


なにやらエクセル君は計算速度を重視し、正確さを犠牲にしているとの事・・・
※「0」と「1」のデジタル世界でなぜ正確でない計算の方がそんなに速いのかにすごく興味が湧きますね。


 


そーなんだー!


 


つまり、どう対応すればよいかと言うと・・・


 


正しい数値を表示したい、計算したい、関数に組み込みたいという場合にはROUND関数(四捨五入関数)を用いてしっかりと小数点○桁以下を整理する必要があるという事ですね。


 


エクセルを使い始めて8年ぐらいは経ちますが、そんなこと初めて知りましたよ。


やはりコンピュータの世界は知っているようで知らない、ブラックボックスな部分がまだまだありそうです。


 


<参考サイト>


日経PC21-小数計算で発生する「誤差」

LINEで送る
Pocket

コメント:0

コメントフォーム
Remember personal info

トラックバック:0

このエントリーのトラックバックURL
http://www.no-dash.com/2009/06/22-233600.html/trackback
Listed below are links to weblogs that reference
エクセルの計算は実は正確ではない from NO-DASH ドットコム

Home > コラム | IT関連 > エクセルの計算は実は正確ではない

カウンター
  • 631141総閲覧数:
  • 13今日の閲覧数:
  • 102昨日の閲覧数:
About

ノダッシュ似顔絵

1979年12月21日人生デビュー。大学時代含めて全国を転々しエセ標準語、熊本弁、関西弁を操る事が可能。某メーカーの医療SEを経て、現在はインターネット事業の経営企画に従事。
2008年度中小企業診断士試験合格。
個人活動としては、ウェディングムービー作成・ネットショップ支援など。軽く読めて・役に立つブログを目指してます。
【趣味】
ダーツ、パソコンいじり、読書
【Favorite】
●MUSIC●
ナオト・インティライミ、Hawaiian6など
●TV●
水曜どうでしょう、ゲームセンターCX
●BOOK●
三国志/横山光輝

↓コンタクトはこちら

↓twitterはコチラ
http://twitter.com/nodash_y
http://twilog.org/nodash_y

Link
カテゴリー
アーカイブ
タグクラウド

Return to page top