確率統計：モーメント、モーメント母関数

確率変数$${x}$$の期待値周りの$${k}$$次のモーメントを$${\nu_k=E[(x-E[x])^k]}$$と表す。原点周りの$${k}$$次のモーメントは、$${\mu_k=E[x^k]}$$となる。
よって、期待値と分散、歪度と尖度はこの$${k}$$次モーメントを使い、
期待値：$${E[x]=\mu_1}$$
分散：$${V[x]=\mu_2-\mu_1^2}$$

歪度：$${\text{Skw}=\displaystyle{\frac{E[x^3-3x^2E[x]+3xE^2[x]-E^3[x]]}{(\mu_2-\mu_1^2)^{3/2}}}}$$

$${\displaystyle{=\frac{E[x^3]-3E[x^2]E[x]+2E^3[x]}{(\mu_2-\mu_1^2)^{3/2}}=\frac{\mu_3-3\mu_2\mu_1+2\mu_1^3}{(\mu_2-\mu_1^2)^{3/2}}}}$$

尖度：$${\text{Krt}=\displaystyle{\frac{E[x^4-4x^3E[x]+6x^2E^2[x]-4xE^3[x]+E^4[x]]}{(\mu_2-\mu_1^2)^2}-3}}$$

$${\displaystyle{=\frac{\mu_4-4\mu_3\mu_1+6\mu_2\mu_1^2-3\mu_1^4}{(\mu_2-\mu_1^2)^2}-3}}$$

モーメントの字数全てを指定すれば、確率分布は一意に定まる。
このモーメントの母関数
$${M_x(t) = E[e^{tx}]=\left\{\begin{array}{ll}\sum_xe^{tx}f(x) & \text{離散的}\\ \\ \int e^{tx}f(x)dx & \text{連続的}\end{array}\right.}$$

を用いて、モーメントの次数全てを扱うことができる。
$${t=0}$でのモーメントのテイラー展開は、
$${\displaystyle{\frac{d e^{tx}}{dt}=xe^{tx}}}$$
$${\displaystyle{\frac{d^n e^{tx}}{dt^n}=x^ne^{tx}}}$$
から、
$${e^{tx}=\displaystyle{1+tx+\frac{x^2}{2!} + \frac{x^3}{3!}+\cdots}}$$
これを用いて、
$${M_x(t) = E[e^{tx}]=1+\displaystyle{ \left\{\begin{array}{ll}\sum_x (txf(x)+\frac{(tx)^2}{2!} + \cdots) & \text{離散的}\\ \\ \int xf(x)dx + \int \frac{(tx)^2}{2!}f(x)dx + \cdots & \text{連続的}\end{array}\right.}}$$
$${\displaystyle{=1+\mu_1t+\frac{\mu_2}{2!}t^2 +\frac{\mu_3}{3!}t^3 +\cdots }}$$
よって、
$${\displaystyle{\frac{dM_x(t)}{dt}\Big|_{t=0}=\mu_1}}$$
$${\displaystyle{\frac{d^2M_x(t)}{dt^2}\Big|_{t=0}=\mu_2}}$$
$${\vdots}$$
$${\displaystyle{\frac{d^nM_x(t)}{dt^n}\Big|_{t=0}=\mu_n}}$$
これより、$${M_x(t)}$$の$${t=0}$$での$${k}$$次の導関数は、$${k}$$次のモーメント$${\mu_k}$$となる。
$${M_x^{(k)}=\mu_k}$$

特性関数

モーメントは確率分布により存在しない場合もあるが、確率密度関数のフーリエ変換に対応する特性関数$${\varphi_x=M_{ix}(t)=M_x(it)}$$は必ず存在する。

確率変数の標準化

任意の確率変数を平均$${0}$$分散$${1}$$の確率変数に変換することを確率変数の標準化と呼ぶ。
ある確率変数を$${x}$$とし、これを$${r=ax+b, a\ne0}$$と置き換える。
$${E[r]=E[ax+b]=aE[x]+b}$$
$${V[r]=E[ax+b]=E[(ax+b)^2]-E^2[ax+b]=a^2E[x^2]+2abE[x]+b^2+a^2-E^2[x]-2abE[x]-b^2=a^2E[x^2]-a^2E^2[x]=a^2V[x]}$$
これから、
$${a=\displaystyle{\frac{1}{\sigma(x)}=\frac{1}{\sqrt{V(x)}}}}$$
$${b=\displaystyle{-\frac{E[x]}{\sigma(x)}=-\frac{E[x]}{\sqrt{V[x]}}}}$$と、おけば、
確率変数$${z=\displaystyle{\frac{1}{\sqrt{V(x)}} x -\frac{E[x]}{\sqrt{V[x]}}}}$$は、平均$${0}$$、分散$${1}$$を持つ。
　同様に、確率密度$${f(x)}$$を持つ確率変数を、$${x=\xi(r)}$$と表せば、$${r}$$の確率密度$${g(r)}$$は、
$${\int g(r)dr=\displaystyle{\int(\xi(r))\Big|\frac{dx}{dr}\Big| dr = \int f(x)dx=1}}$$であることに注目して、
$${g(r)=\displaystyle{f(\xi(r))\Big|\frac{dx}{dr}\Big|}}$$となることを持ちいれば、$${r=ax+b, \ a\ne0}$$であれば、$${x=\displaystyle{\frac{r-b}{a}, \ \frac{dx}{dr}=\frac{1}{a}}}$$から、$${g(r)=\displaystyle{f(\frac{r-b}{a})\frac{1}{|a|}}}$$
と与えられる。