数学編 第16回 条件付き期待値は射影である ― 情報で平均を取るとはどういうことか

位置: 数学編 C群 第M16回 / 前提: M12（測度論の必要性）、M13（σ加法族と可測性）、M14（ルベーグ積分） / 数学編: M16 / この回でできるようになること: 条件付き期待値を射影として理解し、タワー則を自分で証明できる

0. 物語 ― 条件付き確率で割る素朴な式の限界

くじを引く場面を考えてみてください。箱の中に4つのボールがあり、それぞれに賞金が書いてあります。ボールには色が塗られていて、2つは赤、2つは白です。赤いボールの賞金は1円と3円、白いボールの賞金は2円と6円です。

「赤いボールを引いたとき、賞金の平均はいくらですか」と聞かれれば、赤の中で平均を取って2円です。「白を引いたとき」なら4円です。色という情報で場合分けして平均を取る、これが条件付き期待値の直感です。

ところが、ここで困る状況が生まれます。もし箱の仕組みが変わって、赤2つだけが当選対象になり、白は「入っているけれど絶対に引かれない」ものだったらどうでしょう。白の当選確率はゼロです。「白を引いたときの平均賞金」を計算しようとすると、合計を人数で割る部分がゼロをゼロで割る形になり、式が壊れてしまいます。

離散的なくじならまだ「引かれないボールは無視すればよい」と割り切れるかもしれません。しかし、温度や株価のように連続的に値が変わる量では、「ちょうどこの1点の値を取る」確率は常にゼロです。割り算の式では条件付き期待値がいたるところで定義できなくなります。

この行き詰まりを解決するのが、「射影」という考え方です。割り算をする代わりに、すべての可能性を並べた空間の中で「この情報だけで決まる関数」の仲間に最も近い点を探します。近さの測り方を二乗平均で決めれば、最も近い点はただ一つに定まり、確率がゼロの場合を特別扱いする必要がなくなります。さらに、射影を二段階に分けても結果は変わらないという性質が成り立ちます。これがタワー則です。

1. 動機 ― 情報で平均を取る、とはどういう操作か

この回を読み終えると、条件付き期待値を射影として理解し、タワー則を自分で証明できます。

「明日の株価の期待値は?」と聞かれれば、全ての状態にわたって平均すればよいだけです。ところが「今日の終値が分かった上で、明日の株価の期待値は?」と聞かれると話が変わります。今日の終値が 100 だった世界と 120 だった世界で、答えが違うはずだからです。

この「情報で場合分けした平均」を、測度論の言葉で定式化したのが条件付き期待値です。高校や初等確率で習う「$P(A\cap B)/P(B)$」の延長に見えますが、$P(B)=0$ のときに破綻します。連続分布で「ある1点に条件付ける」場面がまさにそれです。

条件付き期待値を正しく定義するには、「条件付けること = 情報を粗くした世界に射影すること」という幾何学的な見方が必要です。今回はこの射影としての定義を $L^2$ の世界で与え、存在・一意性・直交性による特徴づけ・タワー則の3つの定理を全て証明します。

この記事で証明すること

• THM-CE-1 $L^2$ の確率変数 $X$ と部分σ加法族 $\mathcal{G}$ が与えられたとき、$X$ に最も近い $\mathcal{G}$-可測な確率変数がほとんど確実に一意に存在します。これが条件付き期待値 $\mathbb{E}[X\mid \mathcal{G}]$ です。
• THM-CE-2 $Y=\mathbb{E}[X\mid \mathcal{G}]$ であることは、$Y$ が $\mathcal{G}$-可測かつ任意の $A\in \mathcal{G}$ で $\mathbb{E}[(X-Y)1_A]=0$ が成り立つことと同値です。
• THM-CE-3（タワー則）$\mathcal{G}\subset \mathcal{H}\subset \mathcal{F}$ のとき $\mathbb{E}[\mathbb{E}[X\mid \mathcal{H}]\mid \mathcal{G}]=\mathbb{E}[X\mid \mathcal{G}]$ がほとんど確実に成り立ちます。

2. 設定と仮定 ― 二乗可積分な確率変数と、部分σ加法族

以下を固定します。

• $(\Omega ,\mathcal{F},\mathbb{P})$ は確率空間です。
• $X$ は $L^2(\Omega ,\mathcal{F},\mathbb{P})$ に属します。つまり $\mathbb{E}[X^2]<\infty$（二乗可積分）。$L^1$ への一般化は本シリーズでは扱いません。
• $\mathcal{G}$ は $\mathcal{F}$ の部分σ加法族です。
• $L^2$ の元はほとんど確実に等しいものを同一視します。
• 以下の等号はすべて $\mathbb{P}$ についてほとんど確実の意味です。

$L^2(\Omega ,\mathcal{F},\mathbb{P})$ は内積

$$⟨X,Y⟩=\mathbb{E}[XY]$$

を持つヒルベルト空間です。ノルムは $\Vert X\Vert =\sqrt{\mathbb{E}[X^2]}$ で、$X$ と $Y$ の距離を $\Vert X-Y\Vert$ で測ります。

部分σ加法族 $\mathcal{G}\subset \mathcal{F}$ に対して、$L^2(\Omega ,\mathcal{G},\mathbb{P})$ は「$\mathcal{G}$-可測な二乗可積分確率変数」の全体です。$\mathcal{G}$-可測とは、$\mathcal{G}$ の情報だけで値が決まるということです。$\mathcal{G}$ が粗ければ粗いほど、$L^2(\Omega ,\mathcal{G},\mathbb{P})$ は小さくなります。

このセットアップのもとで、条件付き期待値を「$L^2(\Omega ,\mathcal{G},\mathbb{P})$ への直交射影」として定義します。

3. 主張 ― 条件付き期待値を射影として定義する

3つの定理を述べます。

定理 THM-CE-1（射影としての存在と一意性） $X\in L^2(\Omega ,\mathcal{F},\mathbb{P})$、$\mathcal{G}\subset \mathcal{F}$ とする。$L^2(\Omega ,\mathcal{G},\mathbb{P})$ は $L^2(\Omega ,\mathcal{F},\mathbb{P})$ の閉部分空間であり、

$$\Vert X-Y\Vert =\underset{Z\in L^2(\Omega ,\mathcal{G},\mathbb{P})}{\inf }\Vert X-Z\Vert$$

を満たす $Y\in L^2(\Omega ,\mathcal{G},\mathbb{P})$ がほとんど確実に一意に存在する。この $Y$ を $\mathbb{E}[X\mid \mathcal{G}]$ と書く。

射影の意味を言い換えます。$X$ が持つ情報は $\mathcal{F}$ の細かさですが、$\mathcal{G}$ の粗い情報だけで $X$ をなるべくよく近似したい。二乗平均の意味で最もよく近似する $\mathcal{G}$-可測な関数が、条件付き期待値です。

定理 THM-CE-2（直交性による特徴づけ） $Y\in L^2(\Omega ,\mathcal{G},\mathbb{P})$ に対し、次は同値である。

(i) $Y=\mathbb{E}[X\mid \mathcal{G}]$（ほとんど確実）。

(ii) 任意の $A\in \mathcal{G}$ に対して $\mathbb{E}[(X-Y)1_A]=0$。

条件 (ii) は、誤差 $X-Y$ が $\mathcal{G}$-可測な「どの方向」にも直交していることを意味します。$1_A$ は $L^2(\Omega ,\mathcal{G},\mathbb{P})$ の元なので、これは直交射影の幾何学的な性質そのものです。

定理 THM-CE-3（タワー則） $\mathcal{G}\subset \mathcal{H}\subset \mathcal{F}$ のとき、

$$\mathbb{E}[\mathbb{E}[X\mid \mathcal{H}]\mid \mathcal{G}]=\mathbb{E}[X\mid \mathcal{G}]$$

がほとんど確実に成り立つ。

粗い情報 $\mathcal{G}$ への射影は、まず細かい情報 $\mathcal{H}$ に射影してから $\mathcal{G}$ に射影しても同じ結果を与えます。これは「射影の射影は、より粗い方の射影」という幾何学の定理です。

証明を読む（読まなくても記事は完結します）

4. 証明 ― 最短距離の点がただ一つ存在することを示す

この節は読まなくても記事は完結します。

この証明を追いたい人は、数学編 第12回「なぜ測度論が必要なのか」、数学編 第13回「σ加法族と可測性」、数学編 第14回「ルベーグ積分」へ。

THM-CE-1 の証明

まず $M:=L^2(\Omega ,\mathcal{G},\mathbb{P})$ が $L^2(\Omega ,\mathcal{F},\mathbb{P})$ の閉部分空間であることを示します。

部分空間であること。 $Y_1,Y_2\in M$ と $a,b\in \mathbb{R}$ に対して、$a{Y}_1+b{Y}_2$ は $\mathcal{G}$-可測です。なぜなら可測関数の線形結合は可測だからです（M13 で確認済み）。また $\mathbb{E}[(a{Y}_1+b{Y}_2{)}^2]\le 2a^2\mathbb{E}[Y_1^2]+2b^2\mathbb{E}[Y_2^2]<\infty$ なので $a{Y}_1+b{Y}_2\in M$ です。

閉であること。 $M$ の列 $\{Y_n\}$ が $L^2$ で $Y$ に収束したとします。$L^2$ 収束する列からは、ほとんど確実に収束する部分列が取れます（M14 で確認済み）。ほとんど確実に収束する $\mathcal{G}$-可測関数の極限は $\mathcal{G}$-可測なので（可測関数の極限は可測）、$Y$ は $\mathcal{G}$-可測です。よって $Y\in M$ であり、$M$ は閉です。

最良近似の存在。 $d:={\inf }_{Z\in M}\Vert X-Z\Vert$ とおきます。定義より $\Vert X-Z_n\Vert \to d$ となる列 $\{Z_n\}\subset M$ が取れます。この列がコーシー列であることを、中線定理（平行四辺形の恒等式）を使って示します。

$$\begin{array}{rl}\Vert Z_m-Z_n{\Vert }^2& =2\Vert X-Z_m{\Vert }^2+2\Vert X-Z_n{\Vert }^2\\ & -4{\Vert X-\frac{Z_m+Z_n}{2}\Vert }^2\end{array}\text{\hspace{1em}(4.1)}$$

これは内積空間で常に成り立つ恒等式です。展開して確かめられます。

$(Z_m+Z_n)/2\in M$（$M$ は部分空間なので中点も属する）ですから、距離の定義より

$${\Vert X-\frac{Z_m+Z_n}{2}\Vert }^2\ge d^2.$$

これを (4.1) に代入すると

$$\Vert Z_m-Z_n{\Vert }^2\le 2\Vert X-Z_m{\Vert }^2+2\Vert X-Z_n{\Vert }^2-4d^2.$$

$m,n\to \infty$ で右辺は $2d^2+2d^2-4d^2=0$ に収束します。よって $\{Z_n\}$ はコーシー列です。$L^2$ は完備なので極限 $Y={\lim }_{n\to \infty }{Z}_n$ が $L^2$ に存在します。$M$ が閉なので $Y\in M$ です。$\Vert X-Y\Vert =\lim \Vert X-Z_n\Vert =d$ より、$Y$ は距離を最小にします。

一意性。 $Y^{\prime }$ も距離を最小にするとします。再び中線定理を使います。

$$\begin{array}{rl}\Vert Y-Y^{\prime }{\Vert }^2& =2\Vert X-Y{\Vert }^2+2\Vert X-Y^{\prime }{\Vert }^2\\ & -4{\Vert X-\frac{Y+Y^{\prime }}{2}\Vert }^2\\ & \le 2d^2+2d^2-4d^2=0.\end{array}$$

よって $\Vert Y-Y^{\prime }\Vert =0$、すなわち $Y=Y^{\prime }$（ほとんど確実）です。 ∎

THM-CE-2 の証明

(i) ⇒ (ii)。 $Y=\mathbb{E}[X\mid \mathcal{G}]$ とします。任意の $A\in \mathcal{G}$ と任意の $\epsilon \in \mathbb{R}$ に対して、$Y+\epsilon 1_A\in M$ です。$1_A$ は $\mathcal{G}$-可測であり、$M$ は部分空間なので $Y+\epsilon 1_A$ も $M$ に属します。

$Y$ が距離を最小にするので、$\epsilon$ の関数

$$\phi (\epsilon ):=\Vert X-Y-\epsilon 1_A{\Vert }^2$$

は $\epsilon =0$ で最小値を取ります。展開すると

$$\phi (\epsilon )=\Vert X-Y{\Vert }^2-2\epsilon \mathbb{E}[(X-Y)1_A]+{\epsilon }^2\mathbb{E}[1_A^2].$$

これは $\epsilon$ の2次関数です。$\epsilon =0$ で最小を取るためには、1次の項の係数がゼロでなければなりません（2次関数の頂点の条件）。つまり

$$\mathbb{E}[(X-Y)1_A]=0.\text{\hspace{1em}(4.2)}$$

これが全ての $A\in \mathcal{G}$ で成り立ちます。

(ii) ⇒ (i)。 条件 (ii) が成り立つとします。任意の $Z\in M$ に対して

$$\begin{array}{rl}\Vert X-Z{\Vert }^2& =\Vert (X-Y)+(Y-Z){\Vert }^2\\ & =\Vert X-Y{\Vert }^2+\Vert Y-Z{\Vert }^2\\ & +2⟨X-Y,Y-Z⟩.\end{array}\text{\hspace{1em}(4.3)}$$

$Y-Z$ は $\mathcal{G}$-可測です（$Y,Z$ がともに $\mathcal{G}$-可測なので）。$\mathcal{G}$-可測な単関数の線形結合で $Y-Z$ を近似できることと条件 (ii) から、

$$\begin{array}{rl}& ⟨X-Y,Y-Z⟩\\ & =\mathbb{E}[(X-Y)(Y-Z)]=0\end{array}\text{\hspace{1em}(4.4)}$$

が成り立ちます。(4.4) を詳しく示します。条件 (ii) は任意の $A\in \mathcal{G}$ に対して $\mathbb{E}[(X-Y)1_A]=0$ を言っています。$\mathcal{G}$-可測な単関数 $\sum c_j{1}_{A_j}$（$A_j\in \mathcal{G}$）に対して、線形性から $\mathbb{E}[(X-Y)\sum c_j{1}_{A_j}]=\sum c_j\mathbb{E}[(X-Y)1_{A_j}]=0$ です。$Y-Z$ は $\mathcal{G}$-可測な $L^2$ の元ですから、$\mathcal{G}$-可測な単関数の列で $L^2$ 近似でき、コーシー・シュワルツの不等式から $\mathbb{E}[(X-Y)(Y-Z)]=0$ が従います。

(4.3) と (4.4) を合わせると

$$\Vert X-Z{\Vert }^2=\Vert X-Y{\Vert }^2+\Vert Y-Z{\Vert }^2\ge \Vert X-Y{\Vert }^2.$$

等号は $Z=Y$（ほとんど確実）のときに限ります。よって $Y$ は距離を最小にする唯一の元、すなわち $Y=\mathbb{E}[X\mid \mathcal{G}]$ です。 ∎

THM-CE-3 の証明（タワー則）

$W:=\mathbb{E}[X\mid \mathcal{H}]$, $Y:=\mathbb{E}[X\mid \mathcal{G}]$ とおきます。示すべきことは $\mathbb{E}[W\mid \mathcal{G}]=Y$ です。

THM-CE-2 を使います。$Y$ が $\mathcal{G}$-可測であることは、条件付き期待値の定義にそのまま含まれています。任意の $A\in \mathcal{G}$ に対して

$$\mathbb{E}[(W-Y)1_A]=0\text{\hspace{1em}(4.5)}$$

を示せば十分です。

$\mathcal{G}\subset \mathcal{H}$ ですから、$A\in \mathcal{G}$ ならば $A\in \mathcal{H}$ でもあります。$W=\mathbb{E}[X\mid \mathcal{H}]$ に THM-CE-2 の条件 (ii) を適用すると、任意の $A\in \mathcal{H}$ に対して

$$\mathbb{E}[(X-W)1_A]=0.$$

特に $A\in \mathcal{G}\subset \mathcal{H}$ に対してこれが成り立つので

$$\mathbb{E}[W{1}_A]=\mathbb{E}[X{1}_A].\text{\hspace{1em}(4.6)}$$

同様に $Y=\mathbb{E}[X\mid \mathcal{G}]$ に THM-CE-2 を適用すると、$A\in \mathcal{G}$ に対して

$$\mathbb{E}[Y{1}_A]=\mathbb{E}[X{1}_A].\text{\hspace{1em}(4.7)}$$(4.6)

$$\mathbb{E}[W{1}_A]=\mathbb{E}[Y{1}_A]$$

すなわち $\mathbb{E}[(W-Y)1_A]=0$ が全ての $A\in \mathcal{G}$ で成り立ちます。$Y$ は $\mathcal{G}$-可測ですから、THM-CE-2 の (ii) ⇒ (i) より $Y=\mathbb{E}[W\mid \mathcal{G}]$ です。 ∎

5. 反例 ― 素朴な定義はどこで破綻するか

CEX-CE-1: 確率ゼロの事象で条件付けると素朴な式が壊れる

初等確率では、$\mathbb{P}(B)>0$ のとき

$$\mathbb{E}[X\mid B]=\frac{\mathbb{E}[X{1}_B]}{\mathbb{P}(B)}$$

で条件付き期待値を定義します。しかし $\mathbb{P}(B)=0$ のとき、この式は $0/0$ の不定形になります。

具体例を作ります。$\Omega =\{{\omega }_1,{\omega }_2,{\omega }_3,{\omega }_4\}$ で $\mathbb{P}({\omega }_1)=1/2$, $\mathbb{P}({\omega }_2)=1/2$, $\mathbb{P}({\omega }_3)=0$, $\mathbb{P}({\omega }_4)=0$ とします。$X=(1,3,2,6)$ のまま、$G=\{{\omega }_3\}$ で条件付けようとすると

$$\mathbb{E}[X{1}_G]=0\times 2=0,\mathbb{P}(G)=0.$$

分子も分母もゼロで、式が定義できません。連続分布で「ある1点に条件付ける」場面は、まさにこの状況です。

射影としての定義はこの問題を回避します。$\mathbb{E}[X\mid \mathcal{G}]$ は確率ゼロの事象を直接扱うのではなく、$L^2$ の幾何で最良近似を取るからです。素朴な「割り算による定義」が通用するのは、全てのアトムが正の確率を持つ有限空間に限られます。

CEX-CE-2: 可測性を落とすと条件付き期待値にならない

THM-CE-2 の条件 (ii) には「$Y$ が $\mathcal{G}$-可測」と「任意の $A\in \mathcal{G}$ に対して $\mathbb{E}[(X-Y)1_A]=0$」の2つがあります。後者だけでは十分ではありません。

$\Omega =\{{\omega }_1,{\omega }_2,{\omega }_3,{\omega }_4\}$、一様分布 $\mathbb{P}({\omega }_i)=1/4$、$\mathcal{G}=\sigma (\{{\omega }_1,{\omega }_2\},\{{\omega }_3,{\omega }_4\})$、$X=(1,3,2,6)$ とします。

$Y=X=(1,3,2,6)$ を取ると、$X-Y=(0,0,0,0)$ ですから、任意の $A$ に対して $\mathbb{E}[(X-Y)1_A]=0$ は 0 の期待値ですから成り立ちます。

しかし $Y=(1,3,2,6)$ は $\mathcal{G}$-可測ではありません。$\mathcal{G}$-可測な関数は $\{{\omega }_1,{\omega }_2\}$ 上で定数、$\{{\omega }_3,{\omega }_4\}$ 上で定数でなければなりませんが、$Y({\omega }_1)=1\ne 3=Y({\omega }_2)$ です。

正しい条件付き期待値は $\mathbb{E}[X\mid \mathcal{G}]=(2,2,4,4)$ であり、これは $\mathcal{G}$-可測です。直交性条件だけでなく、可測性条件の両方を満たして初めて条件付き期待値になります。

CEX-CE-3: 包含の向きが違うとタワー則は成り立たない

タワー則 THM-CE-3 は $\mathcal{G}\subset \mathcal{H}$ を要求します。この包含を外すとどうなるでしょうか。

同じ4点空間で、$\mathcal{G}=\sigma (\{{\omega }_1,{\omega }_2\},\{{\omega }_3,{\omega }_4\})$ と ${\mathcal{H}}^{\prime }=\sigma (\{{\omega }_1,{\omega }_3\},\{{\omega }_2,{\omega }_4\})$ を取ります。$\mathcal{G}\not\subset {\mathcal{H}}^{\prime }$ かつ ${\mathcal{H}}^{\prime }\not\subset \mathcal{G}$ です。

$\mathbb{E}[X\mid \mathcal{G}]=(2,2,4,4)$ は既に計算しました。$\mathbb{E}[\mathbb{E}[X\mid \mathcal{G}]\mid {\mathcal{H}}^{\prime }]$ を計算します。${\mathcal{H}}^{\prime }$ のアトムは $\{{\omega }_1,{\omega }_3\}$ と $\{{\omega }_2,{\omega }_4\}$ です。

$$\begin{array}{rl}& \{{\omega }_1,{\omega }_3\}\text{ 上}:\frac{\frac{1}{4}\cdot 2+\frac{1}{4}\cdot 4}{\frac{1}{2}}=3,\\ & \{{\omega }_2,{\omega }_4\}\text{ 上}:\frac{\frac{1}{4}\cdot 2+\frac{1}{4}\cdot 4}{\frac{1}{2}}=3.\end{array}$$

よって $\mathbb{E}[\mathbb{E}[X\mid \mathcal{G}]\mid {\mathcal{H}}^{\prime }]=(3,3,3,3)$ です。

一方 $\mathbb{E}[X\mid \mathcal{G}]=(2,2,4,4)$ ですから、

$$\begin{array}{rl}& \mathbb{E}[\mathbb{E}[X\mid \mathcal{G}]\mid {\mathcal{H}}^{\prime }]=(3,3,3,3)\\ & \ne (2,2,4,4)=\mathbb{E}[X\mid \mathcal{G}].\end{array}$$

タワー則は成り立ちません。包含 $\mathcal{G}\subset \mathcal{H}$ がないと、${\mathcal{H}}^{\prime }$ への射影が $\mathcal{G}$ への射影の情報を保存しないからです。

6. 数値例 ― 4点の確率空間で射影を手で計算する

$\Omega =\{{\omega }_1,{\omega }_2,{\omega }_3,{\omega }_4\}$、一様分布 $\mathbb{P}({\omega }_i)=1/4$、$X=(1,3,2,6)$ とします。

条件付き期待値の計算

$\mathcal{G}=\sigma (\{{\omega }_1,{\omega }_2\},\{{\omega }_3,{\omega }_4\})$ を取ります。$\mathcal{G}$-可測な関数は2つのアトム上でそれぞれ定数を取ります。

$$\begin{array}{rl}& \mathbb{E}[X\mid \mathcal{G}]({\omega }_1)=\mathbb{E}[X\mid \mathcal{G}]({\omega }_2)=\frac{\frac{1}{4}\cdot 1+\frac{1}{4}\cdot 3}{\frac{1}{2}}=2,\\ & \mathbb{E}[X\mid \mathcal{G}]({\omega }_3)=\mathbb{E}[X\mid \mathcal{G}]({\omega }_4)=\frac{\frac{1}{4}\cdot 2+\frac{1}{4}\cdot 6}{\frac{1}{2}}=4.\end{array}$$

したがって $Y=\mathbb{E}[X\mid \mathcal{G}]=(2,2,4,4)$ です。

直交性の検算

誤差ベクトルは $X-Y=(-1,1,-2,2)$ です。$\mathcal{G}$ の生成元で直交性を確認します。

$$\begin{array}{rl}\mathbb{E}[(X-Y)1_{\{{\omega }_1,{\omega }_2\}}]& =\frac{1}{4}\cdot (-1)+\frac{1}{4}\cdot 1=0,\\ \mathbb{E}[(X-Y)1_{\{{\omega }_3,{\omega }_4\}}]& =\frac{1}{4}\cdot (-2)+\frac{1}{4}\cdot 2=0.\end{array}$$

どちらもゼロです。THM-CE-2 の条件 (ii) が成り立っています。

最良近似の確認

$Y=(2,2,4,4)$ とは別の $\mathcal{G}$-可測な関数 $Z=(3,3,5,5)$ を取って、ノルムの二乗を比較します。

$$\begin{array}{rl}\mathbb{E}[(X-Y{)}^2]& =\frac{1}{4}(1+1+4+4)=\frac{5}{2},\\ \mathbb{E}[(X-Z{)}^2]& =\frac{1}{4}(4+0+9+1)=\frac{7}{2}.\end{array}$$

$5/2<7/2$ ですから、$Y$ のほうが $X$ に近いことが確認できます。$Y$ が最良近似であるというのは、どんな $\mathcal{G}$-可測な $Z$ を持ってきても $\mathbb{E}[(X-Y{)}^2]\le \mathbb{E}[(X-Z{)}^2]$ が成り立つ、ということです。

タワー則の数値確認

$\mathcal{H}=\sigma (\{{\omega }_1\},\{{\omega }_2\},\{{\omega }_3,{\omega }_4\})$ を挟みます。$\mathcal{G}\subset \mathcal{H}\subset \mathcal{F}$ です。

$\mathbb{E}[X\mid \mathcal{H}]$ は $\mathcal{H}$ の各アトム上で $X$ の平均を取ったものです。

$$\mathbb{E}[X\mid \mathcal{H}]=(1,3,4,4).$$

$\{{\omega }_1\}$ と $\{{\omega }_2\}$ は1点アトムなので $X$ の値がそのまま残り、$\{{\omega }_3,{\omega }_4\}$ 上では $(2+6)/2=4$ です。

$\mathbb{E}[\mathbb{E}[X\mid \mathcal{H}]\mid \mathcal{G}]$ を計算すると、$\mathcal{G}$ のアトム上で $\mathbb{E}[X\mid \mathcal{H}]$ の平均を取ります。

$$\begin{array}{rl}& \{{\omega }_1,{\omega }_2\}\text{ 上}:\frac{\frac{1}{4}\cdot 1+\frac{1}{4}\cdot 3}{\frac{1}{2}}=2,\\ & \{{\omega }_3,{\omega }_4\}\text{ 上}:\frac{\frac{1}{4}\cdot 4+\frac{1}{4}\cdot 4}{\frac{1}{2}}=4.\end{array}$$

結果は $(2,2,4,4)=\mathbb{E}[X\mid \mathcal{G}]$ です。タワー則が成り立っています。

自明なσ加法族の場合

${\mathcal{G}}_0=\{\varnothing ,\Omega \}$（自明なσ加法族）のとき、${\mathcal{G}}_0$-可測な関数は定数しかありません。最良近似となる定数は

$$\mathbb{E}[X\mid {\mathcal{G}}_0]=\mathbb{E}[X]=\frac{1}{4}(1+3+2+6)=3.$$

情報がまったくないとき、条件付き期待値は無条件の期待値に一致します。

7. 次回へ ― 独立と無相関はどう違うのか

条件付き期待値は「情報で平均を取る」操作であり、$L^2$ への直交射影であることを見ました。次回 M17 では、この道具を使って独立・無相関・条件付き独立の違いを定式化します。「情報で条件付けても期待値が変わらない」とは、$\mathbb{E}[X\mid \mathcal{G}]=\mathbb{E}[X]$ が成り立つことですが、これが独立の全てを言い尽くしているわけではありません。その隙間を次回で埋めます。

よくある質問

条件付き期待値は数ではなく確率変数なのですか

はい。与えられた情報で場合分けした平均なので、どの場合にいるかによって値が変わります。情報が何もないときだけ定数になります。

なぜ二乗可積分という条件を置くのですか

距離と直交という幾何が使えるからです。最良近似という言い方ができるのは二乗の世界だけです。

タワー則は直感的には何を言っているのですか

粗い情報で平均したものは、細かい情報で平均してから粗い情報で平均しても同じ、ということです。順番を入れ替えても粗いほうが残ります。

参考文献

1. 伊藤清、確率論、岩波書店、1991年
2. Williams D.、Probability with Martingales、Cambridge University Press、1991年
3. Billingsley P.、Probability and Measure、第3版、Wiley、1995年

---

数値例は compute.py により有理数演算で検算済み。本文中の小数は4桁で丸めている。