【雑記】短い整数の話
昔の数値計算の本を読んでいて何か違和感を感じると思ったら,整数が16bit長の前提で書かれていた.しばらく気づかずに読み進めて,途中で「16bitだこれ!」ってなってちょっと笑ってしまったり.
倍精度実数は高価だから行列で0を保持するなんてとんでもない,みたいな話になってて,( それは今でもそうだけれども),なんだか昔の人も苦労してたんだなーって感じ.
投稿者 | CASPAR003 |
投稿時刻 | 22:45 |
カテゴリー | 雑記 |
コメント | 0 件 |
トラックバック | 0 件 |
記事へのリンク | https://www.caspar003.info/delta/archive/2014/02/26/2245.html |