« コアシナガバチ | トップページ | ルリチュウレンジ »

2014年11月13日 (木)

階乗の話(また)

★前回、100の階乗まで出しました。
100! = 9.3326 E+157
10の157乗ですね。
これはエクセルのVBAで得た結果です。

エクセルのVBAって指数はいくつまで扱えるんだ?
VBAのヘルプを開いてもなかなか見つからない。
{ひたすら言語の細部まで語りつくす「マニュアル」がほしいよう。}

何とか調べがつきました↓
Double (倍精度浮動小数点数型)
-1.79769313486231570E+308 ~ -4.94065645841246544E-324(負の値)
4.94065645841246544E-324  ~  1.79769313486231570E+308(正の値)
なるほどね。
10の308乗まで扱えるんだ。
やってみよう!

エクセルのVBAプログラムをエラーが出るまで走らせてみました。
終わりのあたりをご覧ください。

161 7.5907E+286 7.5907E+286
162 1.2297E+289 1.2297E+289
163 2.0044E+291 2.0044E+291
164 3.2872E+293 3.2872E+293
165 5.4239E+295 5.4239E+295
166 9.0037E+297 9.0037E+297
167 1.5036E+300 1.5036E+300
168 2.5261E+302 2.5261E+302
169 4.2691E+304 4.2691E+304
170 7.2574E+306 7.2574E+306

ここまでです。
7.2574×171 = 1241.05
で10の3乗がきますから、309乗になってオーバーフローしました。
ひょえ~、ですね。
初めて見ました。170!
感動した。

« コアシナガバチ | トップページ | ルリチュウレンジ »

理科おじさん」カテゴリの記事

コメント

コメントを書く

(ウェブ上には掲載しません)

« コアシナガバチ | トップページ | ルリチュウレンジ »

2021年5月
            1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31          
サイト内検索
ココログ最強検索 by 暴想
無料ブログはココログ