第22回 大数の法則と中心極限定理 ― 平均は収束し、ばらつきは正規分布に化ける

位置: 第3部 第22回 / 前提: 第19回、第20回 / 数学編: M18、M19 / この回でできるようになること: 標本平均のばらつきが標本数とともに縮む速さを計算し、正規近似が効かない場面を見分けることができる

0. 物語 ― 期待値が存在しないと平均が落ち着かない

データを1万件集めれば、その平均はどれくらい正確になるでしょうか。直感的には「十分に正確」と答えたくなるかもしれません。実際、コインを1万回投げたときの表の割合は、真の確率である50%から0.6%ほどしかずれません。10回投げたときは10%もずれていたものが、1万回で0.6%にまで縮む。データを集めれば集めるほど平均は安定する――これは正しいのですが、いつでも正しいわけではありません。

試しに、裾の極端に重い分布からデータを取ってみます。10件のデータの平均はマイナス0.59でした。100件に増やすとマイナス0.24になり、少し落ち着いたように見えます。ところが1000件にするとマイナス0.72に跳ね返り、1万件ではプラス0.64へ振れます。データを100倍に増やしたのに、平均がまるで安定しません。

この分布には、ばらつきの大きさを測る数値どころか、平均の目標となる真の期待値そのものが存在しません。ごくまれに桁外れに大きな値が飛び出し、それまで積み上げた平均を一瞬で壊してしまうのです。ばらつきの程度を1万件分の試行で何度も測り直しても、100件のときとほとんど同じ大きさのままでした。件数を増やしても平均の精度が上がらないということです。

「たくさん集めれば平均は安定する」は、真の期待値が存在するという条件つきで成り立つ法則です。条件が崩れれば、何万件のデータを持ってきても平均は揺れ続けます。さらに、ばらつきの大きさが有限であれば、平均がどのくらいの速さで安定するかまで計算できます。この回では、平均が安定するための条件と、安定するときにばらつきがどのくらいの速さで縮むかを、定理として正確に述べて証明します。

1. 動機 ― たくさん集めると何が言えるのか

この回を読み終えると、標本平均のばらつきが標本数とともに縮む速さを計算し、正規近似が効かない場面を見分けることができます。

金融で「平均」という言葉を使うとき、暗黙に信じていることが2つあります。ひとつは、データを集めれば平均は安定するということ。もうひとつは、平均からのばらつきが正規分布で近似できるということです。前者が大数の法則、後者が中心極限定理です。

この2つは確率論で最も有名な定理ですが、成り立つための条件を外すと壊れます。特に金融で問題になるのは、めったに起きない大損失（裾のリスク）の評価です。中心極限定理は中心付近の近似には強いのですが、裾ではまるで当てになりません。今回はこれを数値で確かめます。

この記事で証明すること

• THM-CLT-1 独立同分布で分散が有限なら、標本平均は標本数を増やすと真の期待値に確率収束します。
• THM-CLT-2 同じ条件のもとで、標本平均を標準化した量は標準正規分布に分布収束します。
• THM-CLT-3 標本平均のばらつきは標本数の平方根に反比例します。精度を10倍にするには標本数を100倍にしなければなりません。

この節では、大数の法則と中心極限定理が「使える」条件を確認し、条件を外すと壊れることを数値で見ることが今回の目標です。

2. 設定と仮定 ― 独立同分布という約束

3つの定理に共通する仮定を書き出します。

• 独立同分布（i.i.d.）: 確率変数 $X_1,X_2,\dots$ は互いに独立で、すべて同じ分布に従います。
• 期待値が有限: $\mathbb{E}[|X_1|]<\infty$。これにより $\mu :=\mathbb{E}[X_1]$ が定まります。
• 分散が有限: $\mathrm{Var}(X_1)={\sigma }^2<\infty$。分散が無限の場合はこの回では扱いません。
• 標本平均: ${\bar{X}}_n:=\frac{1}{n}{\sum }_{i=1}^n{X}_i$。
• 収束の種類: 大数の法則では確率収束を、中心極限定理では分布収束を使います。

確率収束の定義を思い出します。任意の $\epsilon >0$ に対して

$$\underset{n\to \infty }{\lim }\mathbb{P}(|{\bar{X}}_n-\mu |>\epsilon )=0$$

が成り立つとき、${\bar{X}}_n$ は $\mu$ に確率収束すると言います。${\bar{X}}_n\stackrel{p}{\to }\mu$ と書きます。

分布収束の定義も確認します。確率変数の列 $Y_n$ が確率変数 $Y$ に分布収束するとは、$Y$ の分布関数の連続点すべてで $\mathbb{P}(Y_n\le y)\to \mathbb{P}(Y\le y)$ が成り立つことです。

数値実験では乱数のシードを固定し、再現性を確保します。

この節のまとめ: 3つの定理はいずれも「独立・同分布・分散有限」を仮定します。どれかが崩れると結論が崩れます。

3. 主張 ― 平均は収束し、ずれは正規分布になる

定理 THM-CLT-1（大数の弱法則）

$X_1,X_2,\dots$ を独立同分布で $\mathbb{E}[X_1]=\mu$、$\mathrm{Var}(X_1)={\sigma }^2<\infty$ とする。このとき標本平均 ${\bar{X}}_n$ は $\mu$ に確率収束する。すなわち任意の $\epsilon >0$ に対して

$$\underset{n\to \infty }{\lim }\mathbb{P}(|{\bar{X}}_n-\mu |>\epsilon )=0.$$

定理 THM-CLT-2（中心極限定理）

同じ仮定のもとで、標準化した量

$$Z_n:=\frac{{\bar{X}}_n-\mu }{\sigma /\sqrt{n}}=\frac{{\sum }_{i=1}^n(X_i-\mu )}{\sigma \sqrt{n}}$$

は標準正規分布 $N(0,1)$ に分布収束する。すなわち任意の実数 $z$ に対して

$$\underset{n\to \infty }{\lim }\mathbb{P}(Z_n\le z)=N(z).$$

定理 THM-CLT-3（収束の速さ）

同じ仮定のもとで、標本平均の標準偏差は

$$\mathrm{SD}({\bar{X}}_n)=\frac{\sigma }{\sqrt{n}}$$

である。精度を $k$ 倍にする（標準偏差を $1/k$ にする）には標本数を $k^2$ 倍にする必要がある。

この節のまとめ: 大数の法則は「平均が安定する」こと、中心極限定理は「ずれが正規分布に従う」ことを主張し、THM-CLT-3 は収束の速さが $1/\sqrt{n}$ であることを示します。

証明を読む（読まなくても記事は完結します）

4. 証明 ― チェビシェフの不等式から確率収束を出す

この節は読まなくても記事は完結します。

この証明を追いたい人は、数学編 第18回「収束の4概念」、数学編 第19回「特性関数と中心極限定理の証明」へ。

THM-CLT-1 の証明

チェビシェフの不等式を使います。任意の確率変数 $Y$ と $\epsilon >0$ に対して

$$\mathbb{P}(|Y-\mathbb{E}[Y]|\ge \epsilon )\le \frac{\mathrm{Var}(Y)}{{\epsilon }^2}\text{\hspace{1em}(4.1)}$$

が成り立ちます。これはマルコフの不等式から直ちに導かれる基本的な不等式です。

ここで $Y={\bar{X}}_n$ とします。まず ${\bar{X}}_n$ の期待値を計算します。期待値の線形性から

$$\begin{array}{rl}\mathbb{E}[{\bar{X}}_n]& =\mathbb{E}\left[\frac{1}{n}\sum _{i=1}^n{X}_i\right]=\frac{1}{n}\sum _{i=1}^n\mathbb{E}[X_i]\\ & =\frac{1}{n}\cdot n\mu =\mu .\end{array}\text{\hspace{1em}(4.2)}$$

同分布の仮定により $\mathbb{E}[X_i]=\mu$ が全ての $i$ で成り立つので、$n$ 個の和が $n\mu$ になります。

次に ${\bar{X}}_n$ の分散を計算します。独立性から、和の分散は分散の和に等しくなります。

$$\begin{array}{rl}\mathrm{Var}({\bar{X}}_n)& =\mathrm{Var}\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)\\ & =\frac{1}{n^2}\sum _{i=1}^n\mathrm{Var}(X_i)=\frac{n{\sigma }^2}{n^2}=\frac{{\sigma }^2}{n}.\end{array}\text{\hspace{1em}(4.3)}$$

$1/n^2$ が前に出るのは、定数倍の分散が定数の2乗倍になるからです。和の分散が分散の和になるのは、独立性の仮定が効いている箇所です。同分布の仮定により $\mathrm{Var}(X_i)={\sigma }^2$ が全ての $i$ で成り立つので、$n$ 個の和が $n{\sigma }^2$ になります。

(4.1) に $Y={\bar{X}}_n$ を代入し、(4.2) と (4.3) を使います。

$$\mathbb{P}(|{\bar{X}}_n-\mu |\ge \epsilon )\le \frac{{\sigma }^2/n}{{\epsilon }^2}=\frac{{\sigma }^2}{n{\epsilon }^2}.\text{\hspace{1em}(4.4)}$$

${\sigma }^2$ と $\epsilon$ は $n$ に依存しない定数です。$n\to \infty$ で右辺は $0$ に収束します。したがって

$$\underset{n\to \infty }{\lim }\mathbb{P}(|{\bar{X}}_n-\mu |\ge \epsilon )=0.$$

$\ge$ を $>$ に替えても結論は同じです（$\ge$ で抑えれば $>$ はなおさら小さい）。これで大数の弱法則が示されました。 ∎

この証明で鍵になったのは2つの仮定です。独立性が和の分散を分散の和に分解するところで使われ、分散が有限であることが (4.4) の右辺を有限にするところで使われました。どちらかが欠ければ証明は通りません。反例の節で実際に壊れる様子を見ます。

THM-CLT-2 の証明の要点

中心極限定理の完全な証明には、確率変数の分布を一意に特徴づける道具が必要です。この道具は第28回と数学編 M19 で扱いますので、ここでは証明の骨格だけを述べます。

証明は次の3段階で進みます。

第1段階: $Z_n$ の「分布を決める関数」を計算します。この関数は、独立性の仮定のおかげで、各 $X_i$ の寄与の積に分解されます。

第2段階: $n$ が大きいとき、各因子に含まれる $1/\sqrt{n}$ が小さいので、2次の項までで近似できます。ここで分散 ${\sigma }^2$ が有限という仮定が使われます。近似の結果、$n$ 個の因子の積が指数関数の形にまとまります。

第3段階: この極限が標準正規分布の「分布を決める関数」に一致することを確認します。関数が一致すれば分布が一致するという定理（一意性定理）を適用して、分布収束が得られます。

直観的には、$n$ 個の独立な寄与を足して $\sqrt{n}$ で割ると、個々の分布の形に依存しない「普遍的な形」が現れる、ということです。これが正規分布です。 ∎

THM-CLT-3 の証明の要点

(4.3) で示したとおり、$\mathrm{Var}({\bar{X}}_n)={\sigma }^2/n$ です。標準偏差はその平方根なので

$$\mathrm{SD}({\bar{X}}_n)=\frac{\sigma }{\sqrt{n}}.$$

精度を $k$ 倍にする、すなわち $\mathrm{SD}$ を $1/k$ に縮めるには

$$\frac{\sigma }{\sqrt{n^{\prime }}}=\frac{1}{k}\cdot \frac{\sigma }{\sqrt{n}}⟹n^{\prime }=k^{2}n.$$

標本数を $k^2$ 倍に増やす必要があります。$k=10$ なら $n^{\prime }=100n$ です。 ∎

この節のまとめ: THM-CLT-1 はチェビシェフの不等式だけで証明でき、独立性と有限分散がどこで使われるかが明示的に見えます。THM-CLT-2 の完全な証明は第28回に譲りますが、骨格は「積への分解→2次近似→指数関数への集約」です。

5. 反例 ― 裾では近似が効かない

CEX-CLT-1: 期待値が存在しなければ平均は収束しない

THM-CLT-1 の「分散が有限」という条件を、期待値の存在まで含めて外します。コーシー分布は期待値も分散も存在しない分布です。コーシー分布から標本を取り、標本数を増やしても標本平均が安定しない様子を数値で確かめます。

標本数 $n$	標本平均
10	$-0.5899$
100	$-0.2360$
1,000	$-0.7174$
10,000	$0.6352$

コイン投げでは $n=10,000$ で標本平均が真の期待値から $0.0061$ しか離れていませんでした。コーシー分布では $n$ を増やしても値が飛び跳ね続け、収束する気配がありません。

ばらつきの縮み方も確認します。標本平均の中央絶対偏差（MAD）を5,000回の試行で推定すると

標本数 $n$	MAD
100	$1.0387$
1,000	$0.9919$
10,000	$0.9939$

標本数を100倍にしてもばらつきが縮みません。大数の法則の結論が成り立たないのは、期待値が存在しないからです。なお、THM-CLT-1 の証明では有限な分散を使いましたが、大数の法則そのものは期待値が存在すれば成り立ちます（分散が有限なら、さらに縮む速さ $1/\sqrt{n}$ までわかります）。この反例が示すのは、期待値すら存在しないと結論が壊れるということです。

CEX-CLT-2: 裾の確率は正規近似から大きく外れる

中心極限定理は分布収束を主張します。これは中心付近の確率が正規分布に近づくことを意味しますが、裾の確率が同じ速さで近づくとは限りません。

コイン投げ $n=1,000$ 個の標本平均を標準化した $Z_n$ について調べます。裾の事象は10万回程度の試行では数回から十数回しか起きず、経験的な頻度が乱数の揺らぎに埋もれてしまいます。そこで、表の回数が従う二項分布から厳密な確率を計算して比べます。

範囲	厳密な確率	正規分布の理論値	比率
$|Z|\le 1$	$0.6731$	$0.6827$	$0.986$
$|Z|\le 2$	$0.9537$	$0.9545$	$0.999$
$|Z|>3$	$0.002646$	$0.002700$	$0.980$
$|Z|>4$	$5.79\times 10^{-5}$	$6.33\times 10^{-5}$	$0.914$
$|Z|>5$	$4.70\times 10^{-7}$	$5.73\times 10^{-7}$	$0.819$

中心付近（$\pm 1\sigma$、$\pm 2\sigma$）では、正規近似との相対的なずれは $1\%$ 程度です。ところが裾に行くほど相対的なずれは膨らみ、$\pm 4\sigma$ の外で約 $9\%$、$\pm 5\sigma$ の外で約 $18\%$ になります。標本数は同じ $1,000$ なのに、見る場所によって近似の精度がまるで違います。

このコイン投げの例では正規近似が裾の確率を大きめに見積もっていますが、ずれの向きは元の分布の形によって変わり、非対称な分布では裾を小さく見積もることもあります。金融では、損失が $3\sigma$ を超えるかどうかがリスク管理の核心です。中心極限定理が「$3\sigma$ 以遠の確率は $0.27\%$」と言っても、その数字の相対誤差は中心付近よりずっと大きい、という認識が重要です。

CEX-CLT-3: 独立でなければ平均のばらつきは大きくなる

THM-CLT-1 と THM-CLT-3 は独立性を仮定しています。系列に正の相関（$\rho =0.9$）がある $n=10,000$ 個のデータで、標本平均のばらつきを調べます。

	標準偏差
独立と仮定した場合の理論値	$0.0229$
実際のばらつき（5,000回の試行）	$0.1014$
相関を考慮した理論値	$0.1000$

独立と仮定した場合の約 $4.42$ 倍のばらつきが生じています。

直観的には、正の相関がある系列では「大きい値の次も大きい値が来やすい」ため、平均からの偏りが独立な場合より大きくなります。この例のように相関が時点の差とともに速く弱まる系列では、ばらつきは $1/\sqrt{n}$ のペースで縮みはしますが、その係数が独立な場合の $\sigma /\sqrt{n}$ よりずっと大きくなります。独立を前提にした THM-CLT-3 の式 $\sigma /\sqrt{n}$ をそのまま使うと、ばらつきを大きく過小評価します。

相関を考慮した理論値は、定常な自己回帰過程の場合

$$\mathrm{Var}({\bar{X}}_n)\approx \frac{{\sigma }_X^2}{n}\cdot \frac{1+\rho }{1-\rho }$$

で近似できます（$n$ が十分大きいとき）。$\rho =0.9$ では $(1+\rho )/(1-\rho )=19$ となり、独立な場合の19倍の分散、すなわち約 $\sqrt{19}\approx 4.36$ 倍の標準偏差になります。実験値 $4.42$ 倍はこの理論値とよく合っています。

この節のまとめ: 期待値が存在しなければ平均は収束せず、裾の確率は正規近似から外れ、独立でなければばらつきが拡大します。仮定を外すと、結論が壊れる場面があることがわかります。

6. 数値例 ― コイン投げを1万回して確かめる

公正なコイン投げ（$X_i\in \{0,1\}$、$\mathbb{P}(X_i=1)=0.5$）を使います。$\mu =0.5$、${\sigma }^2=0.25$、$\sigma =0.5$ です。

標本平均の収束

標本数 $n$	標本平均 ${\bar{X}}_n$	$|{\bar{X}}_n-0.5|$
10	$0.4000$	$0.1000$
100	$0.5200$	$0.0200$
10,000	$0.4939$	$0.0061$

$n$ を増やすにつれて標本平均が $0.5$ に近づいていく様子が見えます。

ばらつきが平方根に反比例する

5万回の独立な試行で、各 $n$ における標本平均の標準偏差を推定します。

標本数 $n$	推定値	理論値 $\sigma /\sqrt{n}$
10	$0.1577$	$0.1581$
100	$0.0501$	$0.0500$
10,000	$0.00501$	$0.00500$

推定値と理論値がよく一致しています。$n=100$ と $n=10,000$ を比べると、標本数が $100$ 倍で標準偏差が $1/10$ になっており、THM-CLT-3 の主張（精度を10倍にするには標本数を100倍）が確認できます。

標準化した量と正規分布の一致

$n=1,000$ 個のコインを投げた標本平均を標準化した $Z_n$ の分布を、10万回の試行で調べます。

範囲	経験的確率	正規分布 $N(0,1)$
$|Z|\le 1$	$0.6722$	$0.6827$
$|Z|\le 2$	$0.9531$	$0.9545$

中心付近の確率が正規分布の理論値とよく一致しており、中心極限定理が働いていることが確認できます。

この節のまとめ: コイン投げの実験で、標本平均の収束・ばらつきの $1/\sqrt{n}$ 則・標準化量の正規近似がすべて数値的に確認できました。

7. 次回へ ― 情報が増える、を数式にする

今回は「たくさん集めると何が言えるか」を定理にしました。大数の法則は平均の安定性を、中心極限定理は平均からのずれの分布を教えてくれます。

しかし金融では「情報が増える」という別の観点が重要です。時刻 $t$ までに株価の動きを観察したとき、将来のペイオフをどう評価するか。「今持っている情報で平均を取る」という操作が条件付き期待値です。次回はこれを数式の形にします。

次のマイルストーンまであと 20 本です。

よくある質問

大数の法則があれば長く続ければ必ず勝てますか

平均が収束するだけで、途中で破産しない保証はありません。資金が尽きればそこで終わりです。

中心極限定理はいつでも使えますか

中心付近の近似には強いのですが、めったに起きない大損失の評価には向きません。金融ではそこが問題になります。

分散が無限の分布は現実にありますか

収益率のモデルとして提案されたことがあります。その場合は標本平均の安定が遅く、正規近似も使えないので、扱い方が変わります。期待値まで存在しない分布では、標本平均はそもそも安定しません。

参考文献

• Billingsley P.、Probability and Measure、第3版、Wiley、1995年
• Williams D.、Probability with Martingales、Cambridge University Press、1991年

---

数値例は compute.py による乱数シミュレーション（シード固定）で検算済み。