短い整数の話
昔の数値計算の本を読んでいて何か違和感を感じると思ったら，整数が16bit長の前提で書かれていた．しばらく気づかずに読み進めて，途中で「16bitだこれ！」ってなってちょっと笑ってしまったり．
倍精度実数は高価だから行列で0を保持するなんてとんでもない，みたいな話になってて，( それは今でもそうだけれども），なんだか昔の人も苦労してたんだなーって感じ．
| 投稿者 | CASPAR003 |
| 投稿時刻 | 22:45 |
| カテゴリー | 雑記 |
| コメント | 0 件 |
| トラックバック | 0 件 |
| 記事へのリンク | http://www.caspar003.info/delta/archive/2014/02/26/2245.html |
コメント
- 投稿者
トラックバック
- トラックバック
