イェンセンの不等式

ウィキペディアから、無料の百科事典

イェンセンの不等式(いぇんせんのふとうしき、英語: Jensen's inequality)は、凸関数を使った不等式である。1906年にデンマークの数学者ヨハン・イェンセンによって示された。

f(x) を実数上の凸関数とする。

離散の場合:

を、 を満たす正の実数の列とする。また、 を実数の列とする。そのとき、次が成り立つ。

連続値の場合:

p(x) (> 0) を、 を満たす実数上の可積分関数とする。また、y(x) を実数上の可積分関数とする。そのとき、次が成り立つ。

ルベーグ積分論の観点では、離散の場合も連続の場合も同一に見倣せる。

証明は、f の における接線を g とおいて、常に g(x) が f(x) よりも小さいことを使えばよい。

定理の一般化と測度論的表現

ルベーグ積分および測度論の枠組みにおいて、イェンセンの不等式は以下のように一般化された形で表現される。

を、 を満たす確率空間(全測度が1の測度空間)とする。g を Ω 上で定義された μ-可積分な実数値関数とし、 を g の値域上で定義された凸関数とする。このとき、合成関数 の負の部分が可積分であるならば、次が成り立つ[1]。

確率論の言葉を用いれば、確率変数 X と凸関数 に対して、次のように期待値演算子 E で表すことができる。これは統計学や機械学習において最も頻繁に使用される形式である。

なお、 が凹関数(上に凸な関数)である場合は、不等号の向きが逆転する。

応用

イェンセンの不等式は、数学の様々な分野において、他の重要な不等式を導出するための基礎として、あるいは数式の下限・上限を評価する道具として一定の役割を担っている。

他の不等式との関係

イェンセンの不等式で適切な凸関数(または凹関数)を選択することにより、高名な不等式を容易に導くことができる。

統計学・情報理論への応用

  • 標本標準偏差の平均の、上からの評価: 標本標準偏差の平均は、標本分散の平均の非負平方根以下であることが自明となる[2]。
  • カルバック・ライブラー・ダイバージェンス: 2つの確率分布の差異を測るこの量が常に 0 以上である()ことを証明する際、 という凸関数に対するイェンセンの不等式が直接用いられる。
  • EMアルゴリズム: 統計学や機械学習において、潜在変数を含むモデルの尤度を最大化する手法であるEMアルゴリズムでは、対数尤度の下界(対数関数が凹関数である性質を利用したイェンセンの不等式による評価)を各ステップで更新する。

参考文献

  • J. L. W. V. Jensen (1906) "Sur les fonctions convexes et les inégalités entre les valeurs moyennes", Acta Mathematica 30:175–193.
  • David Chandler (1987). Introduction to Modern Statistical Mechanics. Oxford. ISBN 0-19-504277-8 
  • Tristan Needham (1993) "A Visual Explanation of Jensen's Inequality", American Mathematical Monthly 100(8):768-71.
  • Walter Rudin (1987). Real and Complex Analysis. McGraw-Hill. ISBN 0-07-054234-1 

脚注

  1. ↑ Walter Rudin (1987). Real and Complex Analysis. McGraw-Hill. pp. 61-62. ISBN 0-07-054234-1
  2. ↑ 清水団 標本標準偏差の期待値は母標準偏差に等しいのか? Zenn 2025/12/21

関連項目

外部リンク