特性関数

特性関数の定義

確率変数 XX に対して, 特性関数 ϕX:RR\phi_X: \mathbb{R}\rightarrow \mathbb{R}

ϕX(t)=E[e1Xt],tR \phi_X(t) = \mathbb{E}[e^{\sqrt{-1}Xt}], \quad t\in \mathbb{R}

により定める.

特性関数は連続関数

任意の t,ht, h について,

ϕX(t+h)ϕX(t)E[e1hX1] \left|\phi_X(t+h) - \phi_X(t)\right| \le \mathbb{E}\left[\left|e^{\sqrt{-1}hX}-1\right|\right]

であり, 任意の xx に対して e1tx10|e^{\sqrt{-1}tx} -1| \rightarrow 0 であることから, 優収束定理により右辺は 00 に収束する.

特性関数の性質1. 反転公式

確率変数 XX の分布 FXF_X から特性関数 ϕX\phi_X を構成したのに対して, 関数 ϕX\phi_X から分布 FXF_X を対応付けることができる. これを反転公式という.

離散分布の場合

実現値が整数のみとなる離散分布の場合, 次のような反転公式が成り立つ.

任意の kZk \in \mathbb{Z} について,

pX(k)=12πππe1ktϕX(t)dt. p_X(k) = \dfrac{1}{2\pi}\int_{-\pi}^\pi e^{-\sqrt{-1}kt}\phi_X(t)\,dt.

証明

整数 j,kj, k について

12πππe1(kj)tdt=δj,k \dfrac{1}{2\pi}\int_{-\pi}^\pi e^{-\sqrt{-1}(k-j)t}\,dt = \delta_{j,k}

であることに注意すると, 直接計算により,

12πππe1ktϕX(t)dt=12πj=0ππe1kte1jtpX(j)dt=j=0δj,kpX(j)=pX(k) \begin{aligned} \dfrac{1}{2\pi}\int_{-\pi}^\pi e^{-\sqrt{-1}kt}\phi_X(t)\,dt &= \dfrac{1}{2\pi}\sum_{j=0}^\infty\int_{-\pi}^\pi e^{-\sqrt{-1}kt}e^{\sqrt{-1}jt}p_X(j)\,dt\\ &= \sum_{j=0}^\infty\delta_{j,k}p_X(j)\\ &= p_X(k) \end{aligned}

連続分布の場合

確率変数 XX の特性関数 ϕX\phi_X が絶対可積分であるとする.

このとき, XX の確率密度関数 fXf_X について次の反転公式が成り立つ.

fX(x)=12πRe1xtϕ(t)dt f_X(x) = \dfrac{1}{2\pi}\int_\mathbb{R} e^{-\sqrt{-1}xt}\phi(t)\,dt

証明 右辺の被積分関数に収束因子 eεt2e^{-\varepsilon t^2}, ε>0\varepsilon > 0 をかけた積分

fε(x)=12πRe1xtεt2ϕ(t)dt f_\varepsilon(x) = \dfrac{1}{2\pi}\int_\mathbb{R} e^{-\sqrt{-1}xt-\varepsilon t^2}\phi(t)\,dt

を計算しよう. まずは特性関数の定義により

fε(x)=12πe1xtεt2e1ytf(y)dydt f_\varepsilon(x) = \dfrac{1}{2\pi}\int e^{-\sqrt{-1}xt-\varepsilon t^2} \int e^{\sqrt{-1}yt}f(y)\,dydt

であり, 2重積分の被積分関数は tt を固定するごとに yy について絶対値は可積分であり, さらに収束因子の存在から tt についての積分も可積分である. したがってフビニ・トネリの定理により, 積分順序の交換ができ,

fε(x)=12πe1xtεt2e1ytf(y)dydt=(12πeεt21(xy)tdt)f(y)dy=14πεexp(xy24ε)f(y)dyf(x),as ε0 \begin{aligned} f_\varepsilon(x) &= \dfrac{1}{2\pi}\int e^{-\sqrt{-1}xt-\varepsilon t^2} \int e^{\sqrt{-1}yt}f(y)\,dydt\\ &= \int \left(\dfrac{1}{2\pi} \int e^{-\varepsilon t^2 -\sqrt{-1}(x-y)t}\,dt\right) f(y)\,dy\\ &= \int \dfrac{1}{\sqrt{4\pi\varepsilon}}\exp\left(-\dfrac{-|x-y|^2}{4\varepsilon}\right) f(y)\,dy\\ &\rightarrow f(x), \quad \text{as } \varepsilon\rightarrow 0 \end{aligned}

である. ただしここで,

12πeεt21(xy)tdt=14πεexp(xy24ε) \dfrac{1}{2\pi} \int e^{-\varepsilon t^2 -\sqrt{-1}(x-y)t}\,dt = \dfrac{1}{\sqrt{4\pi\varepsilon}}\exp\left(-\dfrac{-|x-y|^2}{4\varepsilon}\right)

であることとこれがデルタ関数 δx(y)\delta_x(y) に収束することを用いた.

一方, 任意の xRx\in \mathbb{R} を固定するごとに e1xtεt2ϕ(t)ϕ(t)e^{-\sqrt{-1}xt-\varepsilon t^2}\phi(t)\le |\phi(t)|ϕL1\phi \in L^1 であることから, 優収束定理により

fε(x)12πe1xtϕ(t)dt f_\varepsilon(x)\rightarrow \dfrac{1}{2\pi}\int e^{-\sqrt{-1}xt}\phi(t)\,dt

が成り立つ.

以上により反転公式が示される.

特性関数の性質2. 和の分布が積に

2つの確率変数 XX, YY が独立であるとする. このとき,

ϕX+Y(t)=ϕX(t)ϕY(t),tR \phi_{X+Y}(t) = \phi_X(t)\phi_Y(t),\quad t\in \mathbb{R}

が成り立つ.

さらに, nn 個の確率変数 X1,X2,,XnX_1,X_2,\cdots, X_n が互いに独立であるとする.

このとき, Z=X1+X2++XnZ = X_1+X_2+\cdots+ X_n と表したとき,

ϕZ(t)=i=1nϕXi(t),tR \phi_{Z}(t) = \prod_{i=1}^n \phi_{X_i}(t),\quad t\in \mathbb{R}

が成り立つ.

応用例: ベルヌーイ分布の和が二項分布になること

互いに独立な確率変数 X1,X2,,XnX_1,X_2,\cdots, X_n が同一の分布

FX(x)={0,x<0,1p,0x<1,1,1x F_X(x)=\begin{cases} 0,&x <0,\\ 1-p,&0\le x< 1,\\ 1,& 1\le x \end{cases}

に従うものとする.

このとき, 和 Z=X1+X2++XnZ = X_1+X_2+\cdots+ X_n の特性関数 ϕZ\phi_Z

ϕZ(t)=i=1nϕXi(t)=(pe1t+(1p))n=k=0nnCkpk(1p)nke1kt. \begin{aligned} \phi_Z(t) &= \prod_{i=1}^n \phi_{X_i}(t)\\ &= (pe^{\sqrt{-1}t}+(1-p))^n\\ &= \sum_{k=0}^n {}_nC_k p^k(1-p)^{n-k}e^{\sqrt{-1}kt}. \end{aligned}

これより, ZZ の従う分布の確率質量関数 pp は反転公式により,

p(k)=nCkpk(1p)nk,k=0,1,,n p(k) = {}_nC_k p^k(1-p)^{n-k}, k = 0,1,\cdots, n

である.

このような確率質量関数 pp を持つ確率変数を二項分布と呼ぶ.