【多変量正規分布📊】最小二乗推定量の確率分布について考えます💛：計量経済学 No.38
今回は、最小二乗推定量の確率分布について考えていきます📝
計量経済学の結果を正しく理解するために、必要な知識や導出過程のイメージを深めていただける内容かと思います💛
Introduction：計量経済学への挑戦🔥
経済学部に通う私も
いよいよ大学「学部」最終年になり
学問に全力を注ぐ時間も限られてきました👍
「知は力なり」という言葉を信じて
残りの大学生生活を満喫したいと思います
学部レベルのマクロ経済学は
個人的によく理解できたつもりです
しかしながら、本当の経済の動向を理解するには、学部レベルの知識ではお話になりません😥
また、正しい計量経済学の知識やデータ分析のリテラシーを会得しなければなりません💦
現実の経済データを、理論モデルと当てはめ
正しい計量手法によって実証分析できる力を醸成したら
きっと将来どこかで活躍できる人財になれる可能性を高めることに繋がると思います
何事もアウトプット前提のインプットが
大事であると、noteで毎日発信してきました
これは、どのような内容で
あっても当てはまります👍
先行研究の論文を一概に読んでも
記憶に残っていなかったり
大切な観点を忘れてしまっていたりしたら
学習の進捗は滞ってしまうと思います
だからこそ、この「note」をフル活用して
自分の知識を1％でも、定着させ
誰にでもわかりやすい解説をアウトプットできるように努めていきたいと思います
なお、前回のお復習いはこちらからご確認ください💗
それでは、私がこれからアウトプットする
計量経済学において最重要なパートである
時系列分析のモデル理論解説を
どうぞ最後まで、ご愛読ください📖
最小二乗推定量の確率分布📊
今回は、最小二乗推定量の確率分布について考えていきます
まずは、こちらの投稿でも述べた回帰モデルの前提(仮定1から仮定7)をもう一度確認していきたいと思います
まず、線型モデルの仮定より、真のモデルが次のように表せることになります
$$
{\bf y =Xb+u} \cdots (1)
$$
また、誤差項に関する仮定2から仮定6が成り立つとき、誤差項uは期待値が0、分散がσ^2Ｉであるような多変量正規分布に従うことになります
すなわち、以下の関係が成立しています
$$
E({\bf u})={\bf 0} \cdots (2)\\ \\Var({\bf u})=\sigma^2 {\bf I} \cdots (3)
$$
なお、(2)式における0は、n個の0からなるベクトルであり、Ｉは、ｎ次元の単位行列です
ここで、最小二乗推定量(b^)の確率分布を求めるために、以下の(4)式に(1)式を代入すると、(5)式を得ることができます
$$
\\{ \bf \hat b = (X'X)^{-1}X' y } \cdots (4) \\ \\put in :{\bf y =Xb+u} \cdots (1) \\ \\
{ \bf \hat b=(X'X)^{-1}X'(Xb +u)=b+(X'X)^{-1}X' u } \cdots (5)
$$
したがって、誤差項uが正規分布に従えば、最小二乗推定量も正規分布に従うということになります
なお、最小二乗推定量の期待値は、以下(6)式のように求まります
$$
\\E({\bf \hat b})={\bf b +(X'X)^{-1}X'E(u)=b} \cdots (6)
$$
(6)式より、最小二乗推定量は不偏性（期待値が真の値に一致する性質）を持つことがわかります
次に、最小二乗推定量の分散（正式には、分散共分散行列）を求めていきたいと思います
ここで(5)と(6)式より、以下のような関係がありますので
$$
{\bf \hat b} -E({\bf \hat b}) ={\bf \hat b-b =(X'X)^{-1}X'u} \\ \\\therefore ( {\bf \hat b} -E({\bf \hat b}))( {\bf \hat b} -E({\bf \hat b}))'\\=\bf (X'X)^{-1}X' u u ' X(X'X)^{-1}
$$
最小二乗推定量の分散は(7)式のように求めることができます🎊
$$
\\Var({\bf \hat b})={\bf \sigma^2 (X'X)^{-1} } \cdots (7) \\ \\Derivation process\\E[ ( {\bf \hat b} -E({\bf \hat b}))( {\bf \hat b} -{\bf E({\bf \hat b}))']}\\ ={\bf(X'X)^{-1}X'E(uu')X(X'X)^{-1}}\\={\bf(X'X)^{-1}X'(\sigma^2 I)X(X'X)^{-1}}\\=\bf \sigma^2 (X'X)^{-1}
$$
特に、j番目の説明変数の係数における期待値と分散は次の通りになります
$$
E(\hat b_j )=b_j \\ \\Var(\hat b_j)=\frac {\sigma^2}{S_{xx}^j}
$$
ここでSxx^j は、j番目の説明変数「固有」の平方和となります
なお「固有」とは、j番目の説明変数を定数項+他のk+1個の説明変数で回帰し、それらの説明変数で説明できる部分を除いたxj独自の要因に起因する平方和であるということになります
これらの結果は、単回帰の場合に成立していた性質が重回帰の場合にも成立することを表しています
これまでの結果をまとめますと、最小二乗推定量は期待値がｂ、分散（分散・共分散行列）が(7)式のようなk+1次元の多変量正規分布に従う、あるいは以下(8)式のような関係によって表記されます
$$
{\bf \hat b} \backsim N(\bf b ,\sigma^2 (X'X)^{-1})
$$
ただし、σ^2は、誤差項の分散であり、ここでは未知パラメータであることに注意してください📝
このような計量経済学モデルの特徴をしっかり理解して、卒業論文を書き進めていきたいと思います💖
本日の解説はここまでとします🔖
なお、本投稿作成における参考文献は以下の通りです
なぜ、計量経済学を学ぶのか？？
計量経済学が時系列解析法を「理論なき計測」として退けるところからスタートしたことでよく知られているのです
1930年に創立された計量経済学会の規約第1条では、計量経済学は「理論的数量的アプローチと経験数量的アプローチの統一」と定義されていました📝
また、R・フリッシュによる『エコノメトリカ』創刊の辞では、「統計学、経済学、数学の三者の統合」と定義されているのです👍
このような定義においては、当時のハーバード景気予測に代表される時系列解析法への批判が強く意識されていたとされています
すなわち、それが29年の大恐慌の予測に失敗したのは，経済理論を無視し、 時系列データの形式的な解析のみに終始したからであったということです
今後はそうした「理論なき計測」の立場を退け、「理論に基づく計測」を重視していかなければならない、という見解の重要性が増しています
このような歴史を経て、計量経済学はスタートをきったのでした
そして、何よりマクロ経済変数は
その多くが互いに影響を及ぼし合う相互依存の関係にあり、また過去の変化の影響が持続するという傾向を持ちます
これらの動向を分析したり、将来を予測したりできるようになるためには、計量経済学、ひいては「時系列分析」に対する理論や正しい実証手法への理解が必要不可欠となります
「計量経済学」シリーズの投稿では、こうしたマクロ時系列変数の実証分析に必要な計量理論と手法を習得することを目的とします
これから私がアウトプットする
時系列マクロ経済分析に関する内容について
どうぞ最後までご愛読ください💖
付録：私の卒論研究テーマについて🔖
私は「為替介入の実証分析」をテーマに
卒業論文を執筆しようと考えています📝
日本経済を考えたときに、為替レートによって
貿易取引や経常収支が変化したり
株や証券、債権といった金融資産の収益率が
変化したりと日本経済と為替レートとは
切っても切れない縁があるのです💝
（円💴だけに･･･）
経済ショックによって
為替レートが変化すると
その影響は私たちの生活に大きく影響します
だからこそ、為替レートの安定性を
担保するような為替介入はマクロ経済政策に
おいても非常に重要な意義を持っていると
推測しています
決して学部生が楽して執筆できる簡単なテーマを選択しているわけでは無いと信じています
ただ、この卒業論文をやり切ることが
私の学生生活の集大成となることは事実なので
最後までコツコツと取り組んで参ります🔥
今後も経済学理論集ならびに
社会課題に対する経済学的視点による説明など
有意義な内容を発信できるように努めてまいりますので、宜しくお願いします🥺
おすすめマガジンのご紹介🔔
こちらのマガジンにて
卒業論文執筆への軌跡
エッセンシャル経済学理論集、ならびに
国際経済学🌏の基礎理論をまとめています
今後、さらにコンテンツを拡充できるように努めて参りますので、今後とも何卒よろしくお願い申し上げます📚
また、こちらに２４卒としての私の就職活動体験記をまとめたマガジンをご紹介させていただきます👍
様々な観点から就職活動について考察していますので、ご一読いただけますと幸いです
改めて、就職活動は
本当に「ご縁」だと感じました🍀
だからこそ、ご縁を大切に
そして、選んだ道を正解にできるよう
これからも努力していきたいなと思います🔥
最後までご愛読いただき誠に有難うございました！
あくまで、私の見解や思ったことを
まとめさせていただいてますが
その点に関しまして、ご了承ください🙏
この投稿をみてくださった方が
ほんの小さな事でも学びがあった！
考え方の引き出しが増えた！
読書から学べることが多い！
などなど、プラスの収穫があったのであれば
大変嬉しく思いますし、投稿作成の冥利に尽きます！！
お気軽にコメント、いいね「スキ」💖
そして、お差し支えなければ
フォロー＆シェアをお願いしたいです👍
今後とも何卒よろしくお願いいたします！
この記事が気に入ったらサポートをしてみませんか？