>>Delta

桁落ち

2007年10月17日

桁落ち

情報落ちに悩んでいる CASPAR003 です。こんばんは。

どんな裏技があるんだかエクセルでは結構良い値が出るのに python に式をそのまま入れるとダメぽい。 1-(1-10-40)10^25 くらいのオーダーなんだけど、真っ向勝負では当然のように無理。

聞くところによると、 double 型の仮数部の精度は16桁くらいだって言うじゃないですか。40桁も違うと清々しい。数値計算テクニックのお勉強が始まりそうです。

投稿者 CASPAR003
投稿時刻 22:36
カテゴリー 雑記
コメント 2 件
トラックバック 0 件
記事へのリンク http://www.caspar003.info/delta/archive/2007/10/17/2236.html
コメント
投稿者
コメント
でった☆

pythonはアバウトざんす。マックとWINでも計算結果違うしw まともに使えるのは、せいぜい下6桁くらいじゃないかしらん。

CASPAR003

前に出したスクリプト2つは精度検証してないけど、積分結果とか不安になりますね(笑)。いや、笑い事ではないのかもしれませんが。

はふ…、16桁→6桁。またハードルが上がってしまった。

私信: 寒い日が続きますが、お体のゾンビ化にはご注意ください。

トラックバック
  • トラックバック

ブログ情報

カレンダー
2018年2月
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28
最近のエントリー
最近のコメント
コメントを頂いたエントリー
コメントをくださった方一覧
コピー用紙の裏表
でった☆
CASPAR003
あのー
CASPAR003
amumo
CASPAR003
mariko
kazu
お仕事で青ざめた話
iun
iun
CASPAR003
AcrobatでPDFの一括印刷
Caesar
CASPAR003
Shadeのレンダラー仕様メモ
iun
CASPAR003
ブログ同盟本 C87 3日目 東S-04b
CON$
CASPAR003
Ca3 Post_Effector 2.0
sisioumaru
CASPAR003
sisioumaru
CASPAR003
Shade15について雑感
iun
CASPAR003
iun
色について
iun
CASPAR003
Lv67
iun
CASPAR003
雪まつり行ってきたよ
iun
CASPAR003