ヘッセ行列とは?
へっせぎょうれつ
多変数関数の二階偏微分をすべて並べた正方行列で、関数の局所的な凸性や極値の判定に使います。
ヘッセ行列(Hessian matrix)とは、多変数実数値関数f(x_1, x_2, …, x_n)の二階偏微分を成分に持つn×nの正方行列です。(i,j)成分は∂²f/∂x_i∂x_jで与えられます。19世紀のドイツの数学者ルートヴィヒ・オットー・ヘッセにちなんで命名されました。
関数が十分滑らかであれば、偏微分の順序交換可能性(シュワルツの定理)によりヘッセ行列は対称行列となります。この対称性は固有値がすべて実数であることを保証し、関数の局所的な形状を解析するうえで都合がよい性質です。
ヘッセ行列の主な用途は極値判定です。一変数の場合に「二階微分が正なら極小」というルールがあるように、多変数では勾配がゼロになる点(停留点)でヘッセ行列の正定値性を調べます。すべての固有値が正なら極小、すべて負なら極大、混在すれば鞍点と判定できます。
機械学習・最適化の分野では、損失関数のヘッセ行列は曲率情報を与え、ニュートン法や準ニュートン法の収束速度の改善に利用されます。ただし大規模問題ではn²個の成分計算が高コストなため、ヘッセ行列の近似手法(L-BFGSなど)が広く使われています。
使い方・例文
ニューラルネットワークの学習で、損失関数の最小点付近のヘッセ行列を調べることで、学習の安定性や収束の速さを評価します。
この用語をシェア
最終更新: