特性関数

特性関数の定義

確率変数 $X$ に対して, 特性関数 $\phi_X: \mathbb{R}\rightarrow \mathbb{R}$ を

\[ \phi_X(t) = \mathbb{E}[e^{\sqrt{-1}Xt}], \quad t\in \mathbb{R} \]

により定める.

特性関数は連続関数

任意の $t, h$ について,

\[ \left|\phi_X(t+h) - \phi_X(t)\right| \le \mathbb{E}\left[\left|e^{\sqrt{-1}hX}-1\right|\right] \]

であり, 任意の $x$ に対して $|e^{\sqrt{-1}tx} -1| \rightarrow 0$ であることから, 優収束定理により右辺は $0$ に収束する.

特性関数の性質1. 反転公式

確率変数 $X$ の分布 $F_X$ から特性関数 $\phi_X$ を構成したのに対して, 関数 $\phi_X$ から分布 $F_X$ を対応付けることができる. これを反転公式という.

離散分布の場合

実現値が整数のみとなる離散分布の場合, 次のような反転公式が成り立つ.

任意の $k \in \mathbb{Z}$ について,

\[ p_X(k) = \dfrac{1}{2\pi}\int_{-\pi}^\pi e^{-\sqrt{-1}kt}\phi_X(t)\,dt. \]

証明

整数 $j, k$ について

\[ \dfrac{1}{2\pi}\int_{-\pi}^\pi e^{-\sqrt{-1}(k-j)t}\,dt = \delta_{j,k} \]

であることに注意すると, 直接計算により,

\[ \begin{aligned} \dfrac{1}{2\pi}\int_{-\pi}^\pi e^{-\sqrt{-1}kt}\phi_X(t)\,dt &= \dfrac{1}{2\pi}\sum_{j=0}^\infty\int_{-\pi}^\pi e^{-\sqrt{-1}kt}e^{\sqrt{-1}jt}p_X(j)\,dt\\ &= \sum_{j=0}^\infty\delta_{j,k}p_X(j)\\ &= p_X(k) \end{aligned} \]

連続分布の場合

確率変数 $X$ の特性関数 $\phi_X$ が絶対可積分であるとする.

このとき, $X$ の確率密度関数 $f_X$ について次の反転公式が成り立つ.

\[ f_X(x) = \dfrac{1}{2\pi}\int_\mathbb{R} e^{-\sqrt{-1}xt}\phi(t)\,dt \]

証明

右辺の被積分関数に収束因子 $e^{-\varepsilon t^2}$, $\varepsilon > 0$ をかけた積分

\[ f_\varepsilon(x) = \dfrac{1}{2\pi}\int_\mathbb{R} e^{-\sqrt{-1}xt-\varepsilon t^2}\phi(t)\,dt \]

を計算しよう. まずは特性関数の定義により

\[ f_\varepsilon(x) = \dfrac{1}{2\pi}\int e^{-\sqrt{-1}xt-\varepsilon t^2} \int e^{\sqrt{-1}yt}f(y)\,dydt \]

であり, 2重積分の被積分関数は $t$ を固定するごとに $y$ について絶対値は可積分であり, さらに収束因子の存在から $t$ についての積分も可積分である. したがってフビニ・トネリの定理により, 積分順序の交換ができ,

\[ \begin{aligned} f_\varepsilon(x) &= \dfrac{1}{2\pi}\int e^{-\sqrt{-1}xt-\varepsilon t^2} \int e^{\sqrt{-1}yt}f(y)\,dydt\\ &= \int \left(\dfrac{1}{2\pi} \int e^{-\varepsilon t^2 -\sqrt{-1}(x-y)t}\,dt\right) f(y)\,dy\\ &= \int \dfrac{1}{\sqrt{4\pi\varepsilon}}\exp\left(-\dfrac{-|x-y|^2}{4\varepsilon}\right) f(y)\,dy\\ &\rightarrow f(x), \quad \text{as } \varepsilon\rightarrow 0 \end{aligned} \]

である. ただしここで,

\[ \dfrac{1}{2\pi} \int e^{-\varepsilon t^2 -\sqrt{-1}(x-y)t}\,dt = \dfrac{1}{\sqrt{4\pi\varepsilon}}\exp\left(-\dfrac{-|x-y|^2}{4\varepsilon}\right) \]

であることとこれがデルタ関数 $\delta_x(y)$ に収束することを用いた.

一方, 任意の $x\in \mathbb{R}$ を固定するごとに $e^{-\sqrt{-1}xt-\varepsilon t^2}\phi(t)\le |\phi(t)|$ と $\phi \in L^1$ であることから, 優収束定理により

\[ f_\varepsilon(x)\rightarrow \dfrac{1}{2\pi}\int e^{-\sqrt{-1}xt}\phi(t)\,dt \]

が成り立つ.

以上により反転公式が示される.

特性関数の性質2. 和の分布が積に

2つの確率変数 $X$, $Y$ が独立であるとする. このとき,

\[ \phi_{X+Y}(t) = \phi_X(t)\phi_Y(t),\quad t\in \mathbb{R} \]

が成り立つ.

さらに, $n$ 個の確率変数 $X_1,X_2,\cdots, X_n$ が互いに独立であるとする.

このとき, $Z = X_1+X_2+\cdots+ X_n$ と表したとき,

\[ \phi_{Z}(t) = \prod_{i=1}^n \phi_{X_i}(t),\quad t\in \mathbb{R} \]

が成り立つ.

応用例: ベルヌーイ分布の和が二項分布になること

互いに独立な確率変数 $X_1,X_2,\cdots, X_n$ が同一の分布

\[ F_X(x)=\begin{cases} 0,&x <0,\\ 1-p,&0\le x< 1,\\ 1,& 1\le x \end{cases} \]

に従うものとする.

このとき, 和 $Z = X_1+X_2+\cdots+ X_n$ の特性関数 $\phi_Z$ は

\[ \begin{aligned} \phi_Z(t) &= \prod_{i=1}^n \phi_{X_i}(t)\\ &= (pe^{\sqrt{-1}t}+(1-p))^n\\ &= \sum_{k=0}^n {}_nC_k p^k(1-p)^{n-k}e^{\sqrt{-1}kt}. \end{aligned} \]

これより, $Z$ の従う分布の確率質量関数 $p$ は反転公式により,

\[ p(k) = {}_nC_k p^k(1-p)^{n-k}, k = 0,1,\cdots, n \]

である.

このような確率質量関数 $p$ を持つ確率変数を二項分布と呼ぶ.