マガジンのカバー画像

誤差の話

3
運営しているクリエイター

#計算

少し専門的な誤差の話2

誤差にも色々あります。

・測定で生じる「測定誤差」
・デジタル変換で生じる「量子化誤差」
・計算で生じる「計算誤差」
・標本調査で生じる「統計誤差」
・データ選択で生じる「選択誤差(バイアス)」
・主観で生じる「認識誤差(バイアス)」

前回は測定誤差について解説しました。
今回は量子化誤差と計算誤差について解説します。

量子化誤差量子化誤差とは、信号をアナログからデジタルに変換する際に生じる

もっとみる