パタヘネ、浮動小数点のつづき

浮動小数点数向けの四則演算の実現についてでした
小数点の位置とゲタ履き表現(これは表示形式に依存するけど)と丸め処理に注意する、というまあ自然な話

前の動画作った積和演算を実現するメリットとして、丸め処理の回数削減による精度向上が挙げられてた

いいなと思ったら応援しよう!