数学編 第3回 偏微分、全微分、多変数のテイラー展開

数学編 第3回 偏微分、全微分、多変数のテイラー展開

位置: 数学編 第3回 / 前提: M2 / 数学編: なし / この回でできるようになること: 多変数関数の変化を、全微分と二次の展開で見積もることができる

目次

0. 物語 ― 偏微分はあるのに全微分できない関数

「この関数、横方向の傾きも縦方向の傾きも求まりますよね。だったら全体の傾きもわかるんじゃないですか」

数学の授業のあと、学生が先生に質問しました。変数が2つある関数で、一方を止めてもう一方だけ動かす微分――偏微分――はどちらの方向でも計算できている。ならば2つの方向を合わせれば、どんな方向から近づいても使える近似が得られるはずだ、と。

先生は1つの関数を黒板に書きました。原点以外では2つの変数の積を、2つの変数の二乗の和で割ったもの。原点では値を0と決めます。

「横軸に沿って原点に近づくと、関数の値はずっと0です。縦軸に沿っても0です。だから横方向の傾きも縦方向の傾きも0になります。ここまではいいですね」

学生はうなずきます。

「では、斜め45度に近づけてみてください」

学生が計算すると、値は0.5になりました。逆向きの斜め45度では負の0.5、別の角度では0.4です。近づく方向を変えるだけで値がばらばらになります。原点に近づいたときの値が1つに定まらないので、この関数は原点で連続ですらありません。

先生は続けます。「横と縦の2方向で傾きがわかっても、斜め方向の振る舞いは何も保証されません。すべての方向で使える近似、つまり全微分ができるかどうかは、偏微分が存在するだけでは決まらないのです」

では、何があれば全微分できるのでしょうか。答えは「偏微分が連続であること」です。偏微分が連続なら、横と縦の情報をつなぎ合わせてあらゆる方向の近似が保証されます。さらに、二階の偏微分が連続なら、曲がり具合まで取り込んだ二次の近似も使えるようになります。この回では、その保証を3つの定理として証明します。

1. 動機 ― 変数が2つあると微分はどうなるか

この回を読み終えると、多変数関数の変化を、全微分と二次の展開で見積もることができます。

1変数の微分は「接線の傾き」でした。変数が2つに増えると、接線は接平面になります。接平面を使った近似が全微分であり、さらに曲がり具合まで取り込んだのが二次のテイラー展開です。

金融では、オプション価格は原資産価格 と時間 の少なくとも2変数に依存します。 だけを動かした微分がデルタ、 の二階微分が です。これらを同時に扱い、近似の精度を保証する道具がこの記事の主題です。本編第59回で登場する連鎖律の修正版を理解するには、ここでの準備が欠かせません。

この節のまとめ: 変数が増えると微分は「方向ごとの傾き」と「すべてをまとめた接平面」の二層になります。

この記事で証明すること

  • THM-M3-1 偏導関数が存在して連続であれば、関数は全微分可能です。微小変化は偏導関数の線形結合で近似されます。
  • THM-M3-2 二階の偏導関数が連続であれば、微分の順序を入れ替えても結果は変わりません。
  • THM-M3-3 二階連続微分可能な関数の二次までのテイラー展開は、勾配による一次の項とヘッセ行列による二次形式で書けます。

2. 設定と仮定 ― 偏導関数とヘッセ行列

2変数関数 を考えます。以下の記号を使います。

  • 偏導関数: を固定して だけで微分したものを と書きます。同様に を定義します。
  • 勾配: 偏導関数を縦に並べたベクトルです。
  • ヘッセ行列: 二階偏導関数を並べた行列です。
  • 全微分可能: 点 で全微分可能とは、次の意味です。

ここで ()が成り立つことです。誤差 が の大きさより速く に近づく、というのが全微分可能の定義です。

偏導関数が存在することと全微分可能であることは同じではありません。偏導関数は各軸方向だけの変化率ですが、全微分可能はあらゆる方向に対して線形近似が成り立つことを要求します。

この節のまとめ: 勾配は一次の情報、ヘッセ行列は二次の情報をまとめたものです。

3. 主張 ― 微小変化は勾配と二次形式で書ける

3つの定理を正確に述べます。

定理 THM-M3-1(全微分の存在条件) の偏導関数 が点 の近傍で存在し、 で連続であるとする。このとき は で全微分可能であり、

が成り立つ。ここで ()である。

定理 THM-M3-2(偏微分の順序交換) の二階偏導関数 が点 の近傍で存在し、 で連続であるとする。このとき

である。

定理 THM-M3-3(二次の多変数テイラー展開) が点 の近傍で二階連続微分可能であるとする。このとき

である。ここで偏導関数は全て での値であり、()である。二次の項はヘッセ行列 を用いて

と書ける。

この節のまとめ: 3つの定理は、偏導関数の連続性を仮定することで、全微分可能性・順序交換・テイラー展開を保証します。

証明を読む(読まなくても記事は完結します)

4. 証明 ― 1変数のテイラーの定理に帰着させる

この節は読まなくても記事は完結します。

この証明を追いたい人は、数学編 第2回「テイラー展開」へ。

THM-M3-1 の証明

変化量を分解します。 を「まず だけ動かし、次に を動かす」と2段階に分けます。

第2項の処理。 とおくと、 です。1変数の平均値の定理により

を満たす が存在します。 は で連続ですから、 のとき です。したがって

と書けます。ここで ()です。

第1項の処理。 とおくと、 です。同様に平均値の定理を適用して

を満たす が存在します。 は で連続なので

が で成り立ちます。よって

と書けます。ここで ()です。

(1.1) を合わせます。

誤差 について

が成り立ちます。ここで と を使いました。これで (1) が示されました。 ∎

THM-M3-2 の証明

次の二重差分を考えます。

を2通りの順序で計算します。

を先に固定する方法。 とおくと です。1変数の平均値の定理で、 より

を満たす が存在します。 の定義から

ここで に平均値の定理を適用して

を満たす が存在します。

を先に固定する方法。 同じ を とおいて処理すると

を満たす が存在します。

(2.2) と (2.3) を比べます。 で割ると

とします。仮定より と はともに で連続ですから、左辺は に、右辺は に収束します。したがって

が得られました。 ∎

THM-M3-3 の証明

1変数のテイラーの定理に帰着させます。 とおきます。 は だけの関数で、、 です。

の導関数を連鎖律で求めます。 の偏導関数を で評価して

ここで (3.2) の交差項が となるのは、THM-M3-2 により だからです。 とまとまります。

1変数のテイラーの定理を適用します。 のまわりで

ここで は二次の剰余項です。 が連続なので

を満たす が存在します。 の二階偏導関数が連続であることから、 のとき となり、 が成り立ちます。

元の変数に戻します。 、、(3.1) と (3.2) を で評価して代入すると (3) が得られます。

二次の項を行列で書くと

となります。これがヘッセ行列による二次形式です。 ∎

5. 反例 ― 偏導関数があっても全微分できない

反例 CEX-M3-1: 偏導関数が存在するのに全微分できない

次の関数を考えます。

偏導関数は存在します。 軸上では ですから です。同様に 軸上では なので です。

しかし連続ではありません。 原点への近づき方を変えると値が変わります。

経路 の値
( 軸)
( 軸)

方向によって極限値が 、、、 と異なるため、原点での極限が存在しません。つまり は原点で連続でないのです。

全微分できないことの確認。 もし全微分可能ならば、、 より、全微分は を与えます。すなわち でなければなりません。ところが に沿って近づくと であり、 です。全微分の条件を満たしません。

THM-M3-1 の仮定「偏導関数が連続」が欠かせないことがわかります。この関数では偏導関数は存在しますが、 自体が原点で連続でなく、偏導関数も連続でないため、全微分可能になりません。

反例 CEX-M3-2: 偏微分の順序が入れ替わらない

次の関数を考えます。

原点での偏導関数を定義に従って計算します。

を求めます。 のとき

です。したがって

同様に ()、 より

結果は 、 です。差は であり、順序を入れ替えると値が変わります。

THM-M3-2 の仮定「二階偏導関数が連続」がここで壊れています。この関数の は原点で連続でないため、順序交換が保証されません。

反例 CEX-M3-3: 交差項を無視すると近似が壊れる

を点 のまわりで展開します。、、、、 です。二次のテイラー展開の二次の項は だけです。

真の値 交差項あり 交差項なし 誤差

交差項を含めた展開は が二次多項式なので厳密に一致します(誤差 )。一方、交差項を落とすと のとき誤差が に達します。真の値 に対して もの相対誤差です。2つの変数が同時に動く状況では交差項を無視できません。

この節のまとめ: 偏導関数の連続性が欠けると全微分も順序交換も崩壊し、交差項を落とすと近似精度が著しく劣化します。

6. 数値例 ― 2変数関数で近似の精度を測る

を点 で計算します。

関数値と偏導関数。

、 より、 で 、 です。

ヘッセ行列。

、、 です。THM-M3-2 の通り、 です。

二次展開の精度。 として、 を小さくしていきます。

距離 真の値 二次近似 誤差 誤差/距離

誤差を距離の3乗で割った値がおよそ 付近に収束しています。これは剰余項 が であること、つまり二次展開の誤差は距離の3乗で縮むことを数値的に確認しています。THM-M3-3 の剰余項の評価が実際に機能していることが見て取れます。

この節のまとめ: の例で、勾配・ヘッセ行列の値と二次展開の精度を確認しました。誤差は距離の3乗に比例して縮みます。

7. 次回へ ― 連鎖律を徹底的に

今回は、偏微分・全微分・テイラー展開の3つを揃えました。これらは多変数の関数を局所的に扱うための基本道具です。

次回 M4 では連鎖律を徹底的に扱います。合成関数の微分法則を多変数に拡張し、変数を経由する依存関係を正確に追跡します。本編第59回で扱う連鎖律の修正版は、通常の連鎖律に二次の項を補正したものです。今回のテイラー展開がその土台になります。

この節のまとめ: 次回は連鎖律を多変数に拡張し、今回のテイラー展開を土台にして本編への橋渡しを行います。

よくある質問

偏微分と全微分はどう違うのですか

偏微分は1つの方向だけの変化、全微分はすべての方向の変化をまとめて表すものです。

ヘッセ行列は何に使いますか

二次の変化を表します。最適化では極小か極大かの判定に、金融ではガンマなどに現れます。

交差項とは何ですか

2つの変数が同時に動いたときに現れる項です。無視すると連動の効果が抜けます。

参考文献

  1. 杉浦光夫、解析入門I、東京大学出版会、1980年
  2. Apostol T. M.、Mathematical Analysis、第2版、Addison-Wesley、1974年

数値例は compute.py により浮動小数点演算で検算済み。指数関数を含むため厳密な有理数演算は使用していない。

目次