2006-04-21から1日間の記事一覧

コンピュータ数学

数学とコンピュータ数学の比較。 数学 int, decimal double, float 任意の数字が対象 有限桁数が対象 有限有効桁数、有限指数が対象 数字以外は計算の対象外 最大値、最小値を表せ、計算対象となる 最大値、最小値、イプシロン、非数値、+無限大、-無限大を…