数学編 第18回 収束の4概念 ― 概収束、確率収束、L2収束、分布収束

位置: 数学編 第18回 / 前提: M14 / 数学編: なし / この回でできるようになること: 4種類の収束の強弱を区別し、どの収束からどの結論が出るかを判定できる

0. 物語 ― 分布収束しても確率収束しない例

収束の話を、別の面から見てみます。

ある観測所が、毎日の気温のブレ（平均からのずれ）を記録しています。長年のデータから、このブレはきれいな左右対称の釣鐘型の分布に従うことがわかっています。

隣町にもう一つ観測所があり、まったく同じ日の気温を記録しています。ただし一点だけ違います。隣町の観測所は、ブレの符号を毎回反転させて記録するのです。元の観測所で「平均より2度高い」と出た日には、隣町では「平均より2度低い」と記録されます。

2つの記録をヒストグラムにすると、どちらもまったく同じ釣鐘型になります。元の分布が左右対称なので、符号を反転しても形は変わりません。分布の形だけを比べるなら、2つの記録は完全に一致しています。

ところが、特定の日を取り出して2つの記録を突き合わせると、話はまるで違います。元の観測所で大きく上にブレた日は、隣町では大きく下にブレています。ずれの大きさは、元のブレの2倍です。このずれは何年データを積み重ねても縮まりません。実際に計算すると、約62パーセントの日で2つの記録のずれが1を超え、約32パーセントの日ではずれが2を超えます。

これが「分布の形が同じ」と「1つ1つの結果が近い」の違いです。分布の形だけを見る最も弱い収束では成り立つことが、1つ1つの結果の近さを要求するより強い収束では成り立たないことがあります。この回では、4つの収束概念の強弱を整理し、どの向きが成り立ち、どの向きが成り立たないかを、すべて証明と反例で確かめます。

1. 動機 ― 確率変数の列が近づくとはどういう意味か

この回を読み終えると、4種類の収束の強弱を区別し、どの収束からどの結論が出るかを判定できます。

実数列の収束は定義がひとつですが、確率変数の列には4つの収束概念があります。概収束、確率収束、$L^2$ 収束、分布収束の4つです。定理ごとに要求される強さが違うので、4つの関係を正確に把握しておくことが本編の土台になります。伊藤積分の構成では $L^2$ 収束を使い、モンテカルロ法の一致性には概収束が効き、分布の極限定理では分布収束で十分です。

今回は、4つの収束の定義を述べ、それらの間の包含関係を証明し、逆が成り立たないことを具体例で示します。

この記事で証明すること

• THM-M18-1（包含関係） 概収束は確率収束を導き、$L^2$ 収束は確率収束を導き、確率収束は分布収束を導きます。
• THM-M18-2（逆は成り立たない） 上の各包含について、逆向きが成り立たない例が存在します。
• THM-M18-3（部分列による回復） 確率収束する列からは、概収束する部分列を取り出せます。

2. 設定と仮定 ― 4つの収束の定義

確率空間 $(\Omega ,\mathcal{F},\mathbb{P})$ 上の確率変数列 $\{X_n\}$ と確率変数 $X$ に対し、4つの収束を定義します。

概収束（almost sure convergence）

$$\mathbb{P}(\{\omega \in \Omega :X_n(\omega )\to X(\omega )\})=1.\text{\hspace{1em}(2.1)}$$

ほとんどすべての $\omega$ で、実数列としての極限が $X(\omega )$ に一致します。

確率収束（convergence in probability）

$$\begin{array}{rl}& \forall \epsilon >0,\\ & \mathbb{P}(|X_n-X|>\epsilon )\to 0(n\to \infty ).\end{array}\text{\hspace{1em}(2.2)}$$

「大きくずれる確率」が消えていきます。

$L^2$ 収束（convergence in $L^2$）

$$\mathbb{E}[|X_n-X{|}^2]\to 0(n\to \infty ).\text{\hspace{1em}(2.3)}$$

二乗の平均的なずれが消えます。

分布収束（convergence in distribution）

$X_n$ の分布関数 $F_n$ が $X$ の分布関数 $F$ の連続点すべてで

$$F_n(x)\to F(x)(n\to \infty )\text{\hspace{1em}(2.4)}$$

を満たします。これは $\omega$ ごとの情報を見ず、分布の形だけを比べる最も弱い収束です。

これら4つは、概収束と $L^2$ 収束が最も強く、確率収束がその次、分布収束が最も弱い、という階層を成します。

3. 主張 ― 強さの順に並ぶ

定理 THM-M18-1（包含関係） (a) $X_n\to X$ 概収束 $⟹$ $X_n\to X$ 確率収束。 (b) $X_n\to X$ $L^2$ 収束 $⟹$ $X_n\to X$ 確率収束。 (c) $X_n\to X$ 確率収束 $⟹$ $X_n\to X$ 分布収束。 ただし概収束と $L^2$ 収束の間にはどちらの包含も成り立たない。

定理 THM-M18-2（逆は成り立たない） (a) 確率収束するが概収束しない列が存在する（CEX-M18-1）。 (b) 確率収束するが $L^2$ 収束しない列が存在する（CEX-M18-2）。 (c) 分布収束するが確率収束しない列が存在する（CEX-M18-3）。

定理 THM-M18-3（部分列による回復） $X_n\to X$ 確率収束ならば、ある部分列 $\{n_k\}$ が存在して $X_{n_k}\to X$ 概収束である。

包含関係をまとめると次の表になります。

矢印の向き	成立するか	根拠
概収束 $\Rightarrow$ 確率収束	成立	THM-M18-1(a)
$L^2$ 収束 $\Rightarrow$ 確率収束	成立	THM-M18-1(b)
確率収束 $\Rightarrow$ 分布収束	成立	THM-M18-1(c)
確率収束 $\Rightarrow$ 概収束	不成立	CEX-M18-1
確率収束 $\Rightarrow$ $L^2$ 収束	不成立	CEX-M18-2
分布収束 $\Rightarrow$ 確率収束	不成立	CEX-M18-3
概収束 $\Rightarrow$ $L^2$ 収束	不成立	モーメント爆発
$L^2$ 収束 $\Rightarrow$ 概収束	不成立	タイプライター列の変種

証明を読む（読まなくても記事は完結します）

4. 証明 ― マルコフの不等式で包含を示す

この節は読まなくても記事は完結します。

この証明を追いたい人は、数学編 第14回「ルベーグ積分」へ。

THM-M18-1(a) の証明：概収束から確率収束

概収束の定義 (2.1) を確率収束の定義 (2.2) に結びつけるため、事象の包含関係を使います。

任意の $\epsilon >0$ を固定します。概収束の仮定から、測度 $1$ の集合 ${\Omega }_0$ 上で $X_n(\omega )\to X(\omega )$ です。$\omega \in {\Omega }_0$ を取ると、収束の定義から十分大きい $n$ で $|X_n(\omega )-X(\omega )|\le \epsilon$ が成り立ちます。すなわち

$${\Omega }_0\subset \bigcup _{N=1}^{\infty }\bigcap _{n=N}^{\infty }\{|X_n-X|\le \epsilon \}.$$

右辺の和事象は単調増大列なので、確率の連続性（M14）により

$$\mathbb{P}(\bigcap _{n=N}^{\infty }\{|X_n-X|\le \epsilon \})\to \mathbb{P}({\Omega }_0)=1.$$

補事象を取ると、$|X_n-X|>\epsilon$ がどれかの $n\ge N$ で起きる確率が $0$ に向かいます。特に

$$\mathbb{P}(|X_n-X|>\epsilon )\le \mathbb{P}(\bigcup _{m=N}^{\infty }\{|X_m-X|>\epsilon \})\to 0$$

が成り立つので、確率収束の定義 (2.2) を満たします。

THM-M18-1(b) の証明：L2 収束から確率収束

ここでマルコフの不等式を使います。非負確率変数 $Y\ge 0$ と $a>0$ に対し

$$\mathbb{P}(Y\ge a)\le \frac{\mathbb{E}[Y]}{a}.\text{\hspace{1em}(4.1)}$$

$Y=|X_n-X{|}^2$、$a={\epsilon }^2$ として適用します。これにより、二乗の期待値を確率の上界に変換できます。

$$\begin{array}{rl}\mathbb{P}(|X_n-X|>\epsilon )& =\mathbb{P}(|X_n-X{|}^2>{\epsilon }^2)\\ & \le \frac{\mathbb{E}[|X_n-X{|}^2]}{{\epsilon }^2}.\end{array}\text{\hspace{1em}(4.2)}$$

$L^2$ 収束の仮定 (2.3) から分子は $0$ に向かうので、右辺全体が $0$ に向かいます。したがって (2.2) が成り立ちます。

この議論はチェビシェフの不等式とも呼ばれます。要点は「$L^2$ のノルムが小さければ、大きくずれる確率も小さい」ということで、マルコフの不等式がその橋渡しをしています。

THM-M18-1(c) の証明：確率収束から分布収束

分布関数の連続点 $x$ を固定します。任意の $\epsilon >0$ に対し、事象の包含を使って $F_n(x)$ を $F(x)$ で挟みます。

$\{X_n\le x\}$ という事象を分解するために、$X$ の値で場合分けします。

$$\{X_n\le x\}\subset \{X\le x+\epsilon \}\cup \{|X_n-X|>\epsilon \}$$

が成り立ちます。なぜなら、$X_n\le x$ かつ $|X_n-X|\le \epsilon$ ならば $X\le X_n+\epsilon \le x+\epsilon$ だからです。確率を取ると

$$F_n(x)\le F(x+\epsilon )+\mathbb{P}(|X_n-X|>\epsilon ).\text{\hspace{1em}(4.3)}$$

同様に $\{X\le x-\epsilon \}\subset \{X_n\le x\}\cup \{|X_n-X|>\epsilon \}$ なので

$$F(x-\epsilon )\le F_n(x)+\mathbb{P}(|X_n-X|>\epsilon ).\text{\hspace{1em}(4.4)}$$(4.3)

$$\begin{array}{rl}& F(x-\epsilon )-\mathbb{P}(|X_n-X|>\epsilon )\\ & \le F_n(x)\\ & \le F(x+\epsilon )+\mathbb{P}(|X_n-X|>\epsilon ).\end{array}$$

確率収束の仮定から $\mathbb{P}(|X_n-X|>\epsilon )\to 0$ です。$n\to \infty$ で

$$\begin{array}{rl}F(x-\epsilon )& \le \mathrm{liminf}{F}_n(x)\\ & \le \mathrm{limsup}{F}_n(x)\le F(x+\epsilon ).\end{array}$$

$x$ は $F$ の連続点なので、$\epsilon \to 0$ で $F(x\pm \epsilon )\to F(x)$ です。挟み撃ちにより $F_n(x)\to F(x)$。 ∎

THM-M18-3 の証明の要点：部分列による回復

確率収束の定義から、各 $k$ に対し十分大きい $n_k$ を取れば

$$\mathbb{P}(|X_{n_k}-X|>1/k)<1/2^k$$

とできます。$n_k$ を順に大きく選んで部分列を作ります。

ボレル-カンテリの補題（M14）により、${\sum }_k\mathbb{P}(|X_{n_k}-X|>1/k)<{\sum }_{k}1/2^k=1<\infty$ なので、事象 $\{|X_{n_k}-X|>1/k\}$ が無限回起きる確率は $0$ です。したがってほとんどすべての $\omega$ で、ある $K$ 以降 $|X_{n_k}(\omega )-X(\omega )|\le 1/k$ が成り立ち、概収束します。 ∎

5. 反例 ― 逆向きはどれも成り立たない

CEX-M18-1：確率収束するが概収束しない列（タイプライター列）

確率空間を $([0,1],\mathcal{B}([0,1]),\lambda )$（ルベーグ測度）とします。レベル $k=0,1,2,\dots$ ごとに $[0,1]$ を $2^k$ 等分し、各小区間の指示関数を順に並べます。

$$f_n=1_{[j/2^k,(j+1)/2^k]}$$

ここで $n=2^k+j$（$j=0,\dots ,2^k-1$）です。最初の15項を表にします。

$n$	レベル $k$	区間	$\mathbb{P}(f_n\ne 0)$
1	0	$[0,1]$	1
2	1	$[0,1/2]$	1/2
3	1	$[1/2,1]$	1/2
4	2	$[0,1/4]$	1/4
5	2	$[1/4,1/2]$	1/4
6	2	$[1/2,3/4]$	1/4
7	2	$[3/4,1]$	1/4
8	3	$[0,1/8]$	1/8

確率収束の確認。 レベル $k$ の項では $\mathbb{P}(f_n\ne 0)=1/2^k$ です。$n$ が大きくなるとレベルも上がるので、この確率は $0$ に向かいます。

概収束しないことの確認。 点 $x=0.3$ での値の列を見ます。

$n$	1	2	3	4	5	6	7	8	9	10	11	12	13	14	15
$f_n(0.3)$	1	1	0	0	1	0	0	0	0	1	0	0	0	0	0

レベルが上がるたびに、$x=0.3$ を含む小区間が1つ存在します。したがって $f_n(0.3)=1$ となる $n$ が無限に現れます。同時に $f_n(0.3)=0$ も無限に現れるので、$\{f_n(0.3)\}$ は振動を続け、極限を持ちません。これはどの点 $x\in [0,1]$ でも同じです。したがって $f_n$ はどの点でも収束せず、概収束しません。

CEX-M18-2：確率収束するが L2 収束しない列

$[0,1]$ 上のルベーグ測度で

$$X_n=n\cdot 1_{[0,1/n^2]}$$

と定義します。

$n$	$\mathbb{P}(X_n\ne 0)$	$\mathbb{E}[X_n]$	$\mathbb{E}[X_n^2]$
1	1	1	1
2	1/4	1/2	1
3	1/9	1/3	1
5	1/25	1/5	1
10	1/100	1/10	1

確率収束。 $\mathbb{P}(|X_n|>\epsilon )\le \mathbb{P}(X_n\ne 0)=1/n^2\to 0$。

$L^2$ 収束しない。 $\mathbb{E}[X_n^2]=n^2\cdot (1/n^2)=1$ がすべての $n$ で一定です。$X_n$ が $0$ に確率収束しているのに $\mathbb{E}[|X_n-0{|}^2]=1\nrightarrow 0$ なので、$L^2$ 収束の定義 (2.3) を満たしません。値が $n$ と大きくなる「尖り」が、確率では見えないほど狭い区間に押し込まれているため、確率収束には影響しませんが、二乗の期待値は拾ってしまいます。

CEX-M18-3：分布収束するが確率収束しない列

$X$ を標準正規分布に従う確率変数とし、$Y_n=-X$ をすべての $n$ で固定します。標準正規分布は対称なので $-X$ も標準正規分布に従います。したがって $Y_n$ の分布関数は $X$ の分布関数と一致し、$Y_n\to X$ 分布収束です。

しかし確率収束を確認すると

$$\begin{array}{rl}\mathbb{P}(|Y_n-X|>\epsilon )& =\mathbb{P}(|-2X|>\epsilon )\\ & =\mathbb{P}(|X|>\epsilon /2).\end{array}$$

この値は $n$ に依存せず一定です。$\epsilon =1$ のとき $\mathbb{P}(|X|>0.5)\approx 0.6171$、$\epsilon =2$ のとき $\mathbb{P}(|X|>1)\approx 0.3173$ です。$0$ に向かわないので確率収束しません。

分布収束は $\omega$ ごとの対応を見ないため、同じ分布を持つだけで成立します。確率収束は $\omega$ ごとに $X_n(\omega )$ と $X(\omega )$ が近いことを要求するので、はるかに強い条件です。

逆向きがどれも成り立たないことを、数値を使って確認しました。

6. 数値例 ― タイプライター列を動かす

タイプライター列（CEX-M18-1）の動きを追跡し、確率収束と概収束の違いを目で確かめます。

全体の確率の推移。 レベル $k$ が上がると $\mathbb{P}(f_n\ne 0)=1/2^k$ は指数的に減ります。$k=0$ で $1$、$k=1$ で $1/2$、$k=2$ で $1/4$、$k=3$ で $1/8$。確率収束の定義は満たされています。

固定点 $x=0.3$ での振動。 上の表で見たように、$n=1,2,5,10$ で値が $1$ に跳ね上がります。各レベルで必ず1回は $1$ になるので、この振動は永遠に続きます。

部分列による概収束の回復（THM-M18-3）。 タイプライター列から、$x=0.3$ を避ける部分列を取ります。レベル $k$ ごとに $x=0.3$ を含まない小区間を1つ選びます。

$k$	選んだ $n_k$	区間	幅	$f_{n_k}(0.3)$
1	3	$[1/2,1]$	1/2	0
2	4	$[0,1/4]$	1/4	0
3	8	$[0,1/8]$	1/8	0
4	16	$[0,1/16]$	1/16	0
5	32	$[0,1/32]$	1/32	0

この部分列では $f_{n_k}(0.3)=0$ がすべての $k$ で成り立ちます。同様の選び方がほとんどすべての点で可能であり、ボレル-カンテリの補題により概収束が保証されます。${\sum }_k\mathbb{P}(f_{n_k}\ne 0)={\sum }_{k}1/2^k=1<\infty$ なので、ほとんどすべての $\omega$ で有限個の $k$ を除いて $f_{n_k}(\omega )=0$ です。

CEX-M18-2 の数値。 $X_n=n\cdot 1_{[0,1/n^2]}$ について、$\mathbb{P}(X_n\ne 0)=1/n^2$ は $0$ に向かう一方、$\mathbb{E}[X_n^2]=1$ は一定のままです。確率収束と $L^2$ 収束が本質的に異なることが、この2列の対比で見えます。

包含関係と反例の一覧。

関係	成立	反例・根拠
概収束 $\Rightarrow$ 確率収束	○	測度の連続性
$L^2$ 収束 $\Rightarrow$ 確率収束	○	マルコフの不等式
確率収束 $\Rightarrow$ 分布収束	○	分布関数の挟み撃ち
確率収束 $\Rightarrow$ 概収束	×	タイプライター列 (CEX-M18-1)
確率収束 $\Rightarrow$ $L^2$ 収束	×	$n\cdot 1_{[0,1/n^2]}$ (CEX-M18-2)
分布収束 $\Rightarrow$ 確率収束	×	$Y_n=-X$ (CEX-M18-3)
概収束 $\iff$ $L^2$ 収束	×	どちらの向きも反例あり

7. 次回へ ― 中心極限定理の証明

分布収束は4つの中で最も弱い収束ですが、応用上の出番は最も多いかもしれません。次回 M19 では、特性関数を道具にして、独立同分布の和が正規分布に分布収束すること――すなわち中心極限定理を証明します。本編第54回（モンテカルロ法）や第58回（デルタ法）、第96回（極値理論）で使われる収束概念の準備が、今回で整いました。

よくある質問

なぜ4つも必要なのですか

定理によって必要な収束の強さが違うからです。弱い収束で済むなら条件も弱くて済みます。

一番強いのはどれですか

概収束と $L^2$ 収束はどちらも確率収束より強いですが、互いにはどちらも他方を導きません。

金融ではどれを使いますか

伊藤積分は $L^2$ 収束、モンテカルロの一致性は概収束、分布の極限定理は分布収束です。

参考文献

1. Billingsley P.、Probability and Measure、第3版、Wiley、1995年
2. Williams D.、Probability with Martingales、Cambridge University Press、1991年

---

数値例は compute.py により検算済み。確率の近似値は小数4桁で丸めている。