数学編 第19回 特性関数と中心極限定理の証明

位置: 数学編 第C部 M19 / 前提: M2, M5, M18 / 数学編: M19 / この回でできるようになること: 特性関数を使って、中心極限定理を自分で証明できる

0. 物語 ― 分散が無限だと成り立たない

「データを増やせばもっと安定するはずなんだけど、全然収まらないんだ」。画面をのぞき込んだ同僚が、首をかしげました。

ある市場データの分析を担当していた二人は、外れ値の多さに困っていました。10件の平均を取っても、100件に増やしても、1000件にしても、ばらつきの幅がほとんど変わりません。普通のデータなら、件数を増やすほど平均は安定していくはずです。たとえばサイコロを何百回も振れば、1回あたりの平均は3.5にどんどん近づきます。

「ばらつきの幅を数字で見てみよう」。二人は件数ごとに平均のばらつきの幅を測りました。1件のときは約2.0、10件でも約2.0、100件でも約2.0、1000件にしても約2.0です。平均の絶対値が1を超える確率も、件数によらず約50%のままでした。

「件数を1000倍に増やしてもばらつきが縮まらないなんて、おかしくない？」。同僚はうなずきました。「データの裾が重すぎるんだ。極端な値が出やすくて、散らばりの大きさを数字で表せない。散らばりが無限大になっている」。

中心極限定理とは、独立なデータをたくさん足して平均を取ると、もとの分布がどんな形でも、平均の分布がきれいな釣鐘型に近づくという定理です。しかしこの定理には条件があります。散らばりの大きさ、つまり分散が有限でなければなりません。分散が無限のデータでは、いくら件数を増やしても釣鐘型には近づかないのです。

この回では、分布の情報を1本の関数にまとめる道具を使って、なぜ和が釣鐘型に近づくのかを証明します。そして同時に、分散が無限のときにはその証明のどこが壊れるのかを確認します。

1. 動機 ― なぜ和はいつも正規分布に近づくのか

この回を読み終えると、特性関数を使って、中心極限定理を自分で証明できます。

サイコロを30回振って合計を出す。その合計の分布は、もとのサイコロの分布とは似ても似つかない釣鐘型になります。一様分布でも、コイン投げでも、もとの分布が何であっても、和を標準化すると正規分布に近づきます。なぜでしょうか。

答えは「掛け算が足し算に変わるから」です。分布を特性関数という別の表現に変えると、独立な確率変数の和が特性関数の積に変わります。積の対数を取ればテイラー展開が使え、二次の項だけが生き残って、正規分布の特性関数 $e^{-t^2/2}$ に収束します。これが中心極限定理（CLT）の証明の骨格です。

今回は特性関数の定義から始め、独立和の特性関数が積になることを証明し、それを使って中心極限定理を証明します。

この記事で証明すること

• THM-M19-1 特性関数が一致する2つの確率分布は同一です（反転公式による証明は結果として引用します）。
• THM-M19-2 独立な確率変数の和の特性関数は、それぞれの特性関数の積に等しいです。
• THM-M19-3 平均 $0$、分散 $1$ の独立同分布の和を $\sqrt{n}$ で割ったものは、標準正規分布に分布収束します。

2. 設定と仮定 ― 分布を1本の関数に押し込む

特性関数の定義と、本記事で使う仮定を全て書き出します。

• 特性関数の定義: 確率変数 $X$ に対し、${\phi }_X(t)=\mathbb{E}[e^{itX}]$（$t\in \mathbb{R}$）を $X$ の特性関数と呼びます。ここで $i$ は虚数単位です。
• 分散は有限: $\mathbb{E}[X^2]<\infty$ を仮定します。
• レヴィの連続性定理: 特性関数が各点で収束すれば、極限が特性関数であるとき、分布が弱収束する。この定理は結果として引用します。
• 数値例の分布: 一様分布 $U(-\sqrt{3},\sqrt{3})$（平均 $0$、分散 $1$）を使います。

特性関数の直観的な意味を述べておきます。$e^{itX}=\cos (tX)+i\sin (tX)$ ですから、${\phi }_X(t)$ は $\cos (tX)$ と $\sin (tX)$ の期待値を実部と虚部に持つ関数です。周波数 $t$ ごとに分布の「振動成分」を取り出しているとも言えます。

特性関数は必ず存在します。$|e^{itX}|=1$ なので、期待値が常に有限だからです。また ${\phi }_X(0)=1$ です。

まとめると、特性関数は分布の情報を1本の関数に符号化したものです。次の節で、この符号化が分布を完全に決めること、そして独立和が積に変わる性質を正確に述べます。

3. 主張 ― 特性関数の積が正規分布の形に収束する

3つの定理を述べます。

定理 THM-M19-1（特性関数は分布を決める） 2つの確率変数 $X$, $Y$ に対し、すべての $t\in \mathbb{R}$ で ${\phi }_X(t)={\phi }_Y(t)$ ならば、$X$ と $Y$ は同じ分布を持つ。

この定理の証明は反転公式に依ります。反転公式とは、特性関数から分布関数を復元する積分公式です。特性関数が一致すれば反転公式の出力も一致するので、分布が同じになります。証明の詳細はここでは引用にとどめます（Billingsley [1] の §26 を参照）。

重要なのは、特性関数が分布の「完全な指紋」であるという点です。2つの分布が同じかどうかを、特性関数の一致で判定できます。

定理 THM-M19-2（独立和の特性関数） $X$ と $Y$ が独立な確率変数であるとき、

$${\phi }_{X+Y}(t)={\phi }_X(t)\cdot {\phi }_Y(t).\text{\hspace{1em}(2.1)}$$

定理 THM-M19-3（中心極限定理） $X_1,X_2,\dots$ を独立同分布の確率変数の列とし、$\mathbb{E}[X_1]=0$、$\mathbb{E}[X_1^2]=1$ とする。

$$S_n=\frac{X_1+X_2+\cdots +X_n}{\sqrt{n}}$$

とおくと、$S_n$ は標準正規分布に分布収束する。すなわち、すべての $t\in \mathbb{R}$ で

$${\phi }_{S_n}(t)\to e^{-t^2/2}(n\to \infty ).\text{\hspace{1em}(2.2)}$$(2.2)

(2.2) で右辺に現れた $e^{-t^2/2}$ は標準正規分布の特性関数です。THM-M19-1 により、特性関数が一致すれば分布も一致するので、レヴィの連続性定理と合わせて分布収束が従います。

まとめると、独立和の特性関数が積になり（THM-M19-2）、その積が正規分布の特性関数に収束する（THM-M19-3）という2段構成です。

証明を読む（読まなくても記事は完結します）

4. 証明 ― 二次までのテイラー展開を当てる

この節は読まなくても記事は完結します。

この証明を追いたい人は、数学編 第2回「テイラー展開」、数学編 第5回「積分の技法とガウス積分」、数学編 第18回「収束の4概念」へ。

THM-M19-2 の証明

$X$ と $Y$ が独立であるとき、和 $X+Y$ の特性関数を定義に従って計算します。

$${\phi }_{X+Y}(t)=\mathbb{E}[e^{it(X+Y)}]$$

指数法則により $e^{it(X+Y)}=e^{itX}\cdot e^{itY}$ と分解します。次に、独立性を使います。$X$ と $Y$ が独立であるとき、$f(X)$ と $g(Y)$ も独立で、独立な確率変数の積の期待値は期待値の積に等しいという性質（M5 で示した事実）を適用します。$f(X)=e^{itX}$、$g(Y)=e^{itY}$ とおくと

$$\mathbb{E}[e^{itX}\cdot e^{itY}]=\mathbb{E}[e^{itX}]\cdot \mathbb{E}[e^{itY}]$$

が成り立ちます。右辺は定義そのものですから

$${\phi }_{X+Y}(t)={\phi }_X(t)\cdot {\phi }_Y(t)$$

が得られました。

帰納法により、$X_1,\dots ,X_n$ が互いに独立であれば

$${\phi }_{X_1+\cdots +X_n}(t)=\prod _{k=1}^n{\phi }_{X_k}(t)\text{\hspace{1em}(3.1)}$$

が成り立ちます。和の分布を直接求めるのは畳み込みの繰り返しで大変ですが、特性関数なら積を取るだけです。これが特性関数を使う最大の利点です。 ∎

THM-M19-3 の証明（要点）

$X_1,X_2,\dots$ を独立同分布とし、$\mathbb{E}[X_1]=0$、$\mathbb{E}[X_1^2]=1$ とします。$\phi$ を $X_1$ の特性関数と書きます。

ステップ1: 標準化した和の特性関数を積に直す。

$S_n=(X_1+\cdots +X_n)/\sqrt{n}$ の特性関数を求めます。$S_n$ は $X_k/\sqrt{n}$ の和ですから、THM-M19-2 と同分布性により

$${\phi }_{S_n}(t)=\prod _{k=1}^n{\phi }_{X_k/\sqrt{n}}(t)={\left[\phi \left(\frac{t}{\sqrt{n}}\right)\right]}^n.\text{\hspace{1em}(3.2)}$$

ここで ${\phi }_{X/c}(t)=\mathbb{E}[e^{it(X/c)}]={\phi }_X(t/c)$ という関係を使いました。スケール変換は特性関数の引数の変換に対応します。

ステップ2: 特性関数を二次まで展開する。

$\mathbb{E}[X_1]=0$、$\mathbb{E}[X_1^2]=1$ なので、$\phi (s)=\mathbb{E}[e^{isX}]$ を $s=0$ のまわりでテイラー展開すると

$$\begin{array}{rl}\phi (s)& =1+is\mathbb{E}[X]+\frac{(is{)}^2}{2}\mathbb{E}[X^2]+o(s^2)\\ & =1-\frac{s^2}{2}+o(s^2).\end{array}\text{\hspace{1em}(3.3)}$$

$\mathbb{E}[X]=0$ なので一次の項が消え、$\mathbb{E}[X^2]=1$ なので二次の係数が $-1/2$ になります。ここで $o(s^2)$ は $s\to 0$ のとき $s^2$ より速く $0$ に近づく項です。

ステップ3: $n$ 乗で指数関数が現れる。

$s=t/\sqrt{n}$ を (3.3) に代入すると

$$\phi \left(\frac{t}{\sqrt{n}}\right)=1-\frac{t^2}{2n}+o\left(\frac{1}{n}\right).$$

$n\to \infty$ で $t/\sqrt{n}\to 0$ なので、テイラー展開が適用できます。これを $n$ 乗すると

$${\left[\phi \left(\frac{t}{\sqrt{n}}\right)\right]}^n={\left[1-\frac{t^2}{2n}+o\left(\frac{1}{n}\right)\right]}^n.\text{\hspace{1em}(3.4)}$$

$a_n=1+c/n+o(1/n)$ の形の列は $a_n^n\to e^c$ に収束します（M18 で示した指数関数の極限の性質）。ここでは $c=-t^2/2$ ですから

$${\phi }_{S_n}(t)\to e^{-t^2/2}(n\to \infty ).\text{\hspace{1em}(3.5)}$$

ステップ4: 分布収束を結論する。

$e^{-t^2/2}$ は標準正規分布の特性関数であり、$t=0$ で連続です。レヴィの連続性定理により、特性関数の各点収束は分布の弱収束を意味します。したがって $S_n$ は標準正規分布に分布収束します。 ∎

証明の鍵は、ステップ2で「二次の項だけが残る」ことです。平均が $0$ だから一次が消え、分散が $1$ だから二次の係数が決まる。三次以上の項は $n\to \infty$ で消滅します。つまり、CLT が成り立つために分布に必要なのは「平均と分散が有限であること」だけで、分布の形状は関係ありません。

5. 反例 ― 分散が無限だと近づかない

反例 CEX-M19-1: コーシー分布は CLT に従わない

コーシー分布（密度 $f(x)=1/(\pi (1+x^2))$）は $\mathbb{E}[|X|]=\infty$ であり、分散も存在しません。THM-M19-3 の仮定「分散が有限」が破れています。

独立なコーシー確率変数 $X_1,\dots ,X_n$ の標本平均 $(X_1+\cdots +X_n)/n$ を考えます。通常の分布であれば大数の法則で平均のまわりに集中しますが、コーシー分布ではそうなりません。

コーシー分布は安定分布の一つで、$(X_1+\cdots +X_n)/n$ は再びコーシー分布に従います。サンプル数をいくら増やしても、標本平均のばらつきは縮まりません。

数値で確認します。モンテカルロで $n=1,10,100,1000$ のそれぞれについて標本平均を10万回生成し、四分位範囲（IQR）と $P(|\bar{X}|>1)$ を調べました。

$n$	IQR	$P(|\bar{X}|>1)$
1	2.0066	0.5011
10	1.9912	0.4988
100	1.9836	0.4973
1000	1.9950	0.4992

IQR は $n$ を1000倍にしてもほぼ $2.0$ で変わりません。$P(|\bar{X}|>1)$ も約 $0.50$ のままです。通常の分布であれば IQR は $1/\sqrt{n}$ のオーダーで縮むはずですから、コーシー分布が CLT の枠外であることが明確に見えます。

テイラー展開の視点で言えば、分散が無限なので二次の項 $\mathbb{E}[X^2]s^2/2$ が発散し、(3.3) の展開自体が成り立ちません。

反例 CEX-M19-2: 独立でない和は正規に近づかない

$X_1=X_2=\cdots =X_n=X$ とすべて同じ変数にすると、和は $S_n=nX$ です。標準化すると $S_n/\sqrt{n}=\sqrt{n}X$ となり、$n$ が大きくなるほど分布は広がるだけで正規分布には近づきません。

$X\sim U(-\sqrt{3},\sqrt{3})$（平均 $0$、分散 $1$）として、$P(S_n/\sqrt{n}\le 1)$ を計算します。

$n$	$P(S_n/\sqrt{n}\le 1)$	$N(1)$（基準）
1	0.7871	0.8413
5	0.6282	0.8413
30	0.5530	0.8413

$N(1)=0.8413$ に近づくどころか、$n$ が増えるほど遠ざかっています。$\sqrt{n}X$ の分布は $U(-\sqrt{3n},\sqrt{3n})$ ですから、$P(\sqrt{n}X\le 1)=1/2+1/(2\sqrt{3n})$ で、$n\to \infty$ で $1/2$ に近づきます。正規分布の $N(1)\approx 0.84$ とは全く違います。

独立性が破れると THM-M19-2 の積への分解ができず、テイラー展開を個別に当てる戦略が使えません。

反例 CEX-M19-3: 裾では正規近似の相対誤差が大きい

CLT は分布関数の各点収束を主張するもので、裾での近似精度を保証しません。$n=30$ の一様分布の和でも、裾に行くほど正規近似の相対誤差が大きくなります。

$x$	$P(S_n/\sqrt{n}>x)$	$1-N(x)$	相対誤差
2.5	0.005967	0.006210	3.9%
3.0	0.001215	0.001350	10.0%
3.5	0.000186	0.000233	19.9%

$x=2.5$ では相対誤差が約4%ですが、$x=3.0$ では10%、$x=3.5$ では20%に跳ね上がります。これは一様分布が有界（台は $[-\sqrt{3},\sqrt{3}]$）であるのに対し、正規分布は無限に裾が伸びることに起因します。有限個の有界な確率変数の和は有界ですから、極端な裾（$x>\sqrt{3n}$ のあたり）では真の分布の確率がゼロになる一方、正規近似は正の確率を返します。

金融の文脈では、リスク管理が裾の確率を問題にするため、この相対誤差は無視できない意味を持ちます。

まとめると、CLT の3つの仮定「分散が有限」「独立」「同分布」のどれが欠けても、正規分布への収束は保証されません。また仮定が全て満たされていても、裾では近似精度が落ちます。

6. 数値例 ― 一様分布の和を標準化する

$X_k\sim U(-\sqrt{3},\sqrt{3})$（平均 $0$、分散 $1$）とし、$S_n=(X_1+\cdots +X_n)/\sqrt{n}$ の分布を正規分布と比較します。

分布関数の比較

$n=1,2,5,30$ について、$F_n(x)=P(S_n\le x)$ と標準正規分布 $N(x)$ の差を調べます（20万回のモンテカルロ）。

$x$	$F_1(x)$	$F_2(x)$	$F_5(x)$	$F_{30}(x)$	$N(x)$
$-2$	0.0000	0.0169	0.0216	0.0226	0.0228
$-1$	0.2111	0.1754	0.1629	0.1592	0.1587
$0$	0.5002	0.5005	0.5010	0.4996	0.5000
$1$	0.7905	0.8261	0.8368	0.8403	0.8413
$2$	1.0000	0.9834	0.9789	0.9777	0.9772

最大差は $n=1$ で 0.0524、$n=2$ で 0.0167、$n=5$ で 0.0045、$n=30$ で 0.0011 です。$n$ が増えるにつれて差が急速に縮まっていきます。

特性関数の収束

$U(-\sqrt{3},\sqrt{3})$ の特性関数は $\phi (t)=\sin (\sqrt{3}t)/(\sqrt{3}t)$ です（対称な一様分布なので実数値）。標準化した和の特性関数 $[\phi (t/\sqrt{n}){]}^n$ が、正規分布の特性関数 $e^{-t^2/2}$ にどのように近づくかを見ます。

$t$	$n=1$	$n=2$	$n=5$	$n=30$	$e^{-t^2/2}$
0.5	0.879605	0.881085	0.881940	0.882405	0.882497
1.0	0.569860	0.589969	0.600256	0.605514	0.606531
2.0	$-0.091495$	0.067874	0.111935	0.131682	0.135335
3.0	$-0.170367$	0.019102	0.003052	0.009626	0.011109

$t=1$ のとき、$n=30$ で $[\phi (t/\sqrt{n}){]}^n=0.605514$ となり、$e^{-1/2}=0.606531$ との差はわずか 0.001016 です。$n$ を増やすと、すべての $t$ で特性関数が正規分布のそれに近づく様子がはっきり見えます。

$t$ が大きい（$t=2,3$）ところでは収束が遅いことにも注目してください。$n=1$ では負の値すら取っています。これは $\sin$ 関数の振動が残っているためです。$n$ を大きくすると $t/\sqrt{n}$ が小さくなり、$\sin$ の振動が $1-t^2/(2n)$ というなめらかな関数で置き換えられていきます。これがまさにテイラー展開の効果です。

まとめると、分布関数のレベルでも特性関数のレベルでも、$n$ の増加とともに正規分布への収束が観察されます。

7. 次回へ ― 解析と確率過程の接続

今回は特性関数という道具を使い、独立な和がなぜ正規分布に近づくのかを証明しました。特性関数の「和を積に変える」性質が、テイラー展開と組み合わさることで、もとの分布の形状によらず $e^{-t^2/2}$ が出てきます。

次回 M20 では、有界変動とリーマン・スティルチェス積分を扱います。確率過程の経路の滑らかさと積分の定義を結びつけ、D群（解析と確率過程の接続）の話題に入ります。本編第54回で扱う二項モデルの極限（二項分布から正規分布への移行）にも、今回の CLT が基盤として使われます。

よくある質問

特性関数とは何ですか

分布を別の形で表した関数です。独立な和が掛け算になるので、和の分布を調べるのに便利です。

なぜ分散が有限でないとだめなのですか

二次までの展開ができないからです。裾が重すぎる分布では別の極限が現れます。

金融で正規分布を使う根拠になりますか

部分的には。ただし大きな変動は正規分布より頻繁に起きることが知られています。

参考文献

1. Billingsley P.、Probability and Measure、第3版、Wiley、1995年
2. Durrett R.、Probability ― Theory and Examples、第5版、Cambridge University Press、2019年

---

数値例は compute.py によるモンテカルロ計算（シード固定）で検算済み。CEX-M19-3 の裾確率は、モンテカルロ誤差を避けるためアーウィン・ホール分布の式で厳密に計算している。