人気の記事一覧

【FE2問】最難関の捨て問!浮動小数点(基本情報技術者試験)

5か月前

浮動小数点がちょっと面白い

1年前

平方根を求める計算方法を変えてみたらバグっていたというお話

6か月前

【C言語】浮動小数点型を自作関数で出力する

1年前

躍る小数点

7か月前

Tableau×落とし穴 ~小数点~

1年前

社内SEの休憩時間、浮動小数点を世の中に普及させよう

Pythonでの小数点の計算の怪

浮動小数点の指数部の考え方

2進数での丸め処理をする関数

Python データ型とデータ構造 : 整数と浮動小数点

エクセルの限界に挑む

4年前

16bit ? 24 bit ? 32bit-float ???を噛み砕く

【コンピュータ】小数を表す浮動小数点数とは?

消費税の検算をしたくて、 「消費税手入力」と「(原価/1.1)ー原価」をEXACTしたらFalseになる。 Excelの浮動小数点のいたずらに悩まされた、30分。

🎡GLSLで陰陽マークを作るソースの解説

Pythonで小数型の数値を2進数、さらには16進数に変換する

Pythonと浮動小数点