2021:算術演算 浮動小数点

 整数に加えて数値の重要な表現に浮動小数点形式がある。ビット列を指数部と仮数部に分けて実数の範囲を扱う。最も普及している表現形式はIEEE754で定義されているもの。昨今は機械学習のためのより少ないビット数で実数を表現する形式が存在する。加減乗除のうち除算は実装せずNewton-Raphson法で求めるものもあった(Alpha,IA-6…
コメント:0

続きを読むread more