共役とは何か

 

統計学において、共役(conjugate)は、事後分布が事前分布と同じ形を持つ性質を指します。つまり、ある事前分布を持つ場合、その分布と事後分布が同じ種類の分布になるとき、その事前分布は事後分布に対して共役であると言います。これはベイズ統計学において事後分布の計算を容易にする重要な性質です。共役性があると、事後分布を解析的に計算でき、ベイズ更新が簡単になります。

 

例えば、ベルヌーイ分布に対する共役事前分布はベータ分布です。ベータ分布を事前分布として使うと、ベイズの更新によって得られる事後分布もベータ分布になります。これにより、新たなデータが得られた場合、事後分布を更新する過程が数式的に簡単になります。

具体的な数式や計算の詳細は複雑ですが、共役性があることで事後分布を解析的に求めることができ、計算が効率的になります。これはベイズ統計学の実践において、事後分布を容易に推定するための数学的な利点と言えます。

 

考えてみましょう。たとえば、コインを投げるときの表裏の確率を知りたいとします。事前に表の出やすさを表す確率分布(事前分布)を決めると、コインを何度か投げることで事後分布が得られます。

身近な例として、事前分布をベータ分布(ベルヌーイ分布の共役事前分布)に設定します。これは、ある値が表の確率を表す確率分布です。

コインを何度か投げ、得られた結果を使って事後分布を更新すると、事後分布もまたベータ分布になります。この事後分布を利用して、新しい情報を反映させた表の出る確率を計算することが可能です。

共役性があるおかげで、ベイズ更新の計算が簡単になり、事後分布の形が分かりやすくなります。これが共役性が統計学で重要視される理由です。

 

考えてみましょう。あなたが新しいレストランでのランチの品質を知りたいとします。最初はレビューがないので、事前にレストランの評判を「良い」と「悪い」の2つのカテゴリに分ける確率分布を考えます(これが事前分布です)。

この時、良い評判の確率や悪い評判の確率を表すパラメータがあります。ランチを何度か試して(データを得て)事後分布を更新すると、新しい評判の確率を計算できます。

身近な例として、事前分布を「ランチが良い確率が高い」とする場合、ランチを試した後の事後分布もまた「良い確率が高い」形になります。これが共役性があると、新しいデータを得ても計算がしやすく、良い評判の確率や悪い評判の確率がわかりやすくなるイメージです。

 

ディリクレ分布とベータ分布が共役であるということは、ベイズ統計学において、事前分布がディリクレ分布で、尤度関数が多項分布の場合、事後分布もまたディリクレ分布になるという性質を指します。

具体的に、ディリクレ分布は多変数の確率分布をモデリングするために使用され、ベータ分布は2値の確率分布をモデリングするために使用されます。多項分布とベルヌーイ分布がこれに対応します。

例えば、複数のカテゴリからなる事象の確率をモデリングする場合、ディリクレ分布を事前分布として使用し、実際のデータを使って事後分布を計算すると、事後分布もディリクレ分布となります。同様に、2値の事象の確率をモデリングする場合にはベータ分布が使われ、同様の性質があります。

この共役性があることで、ベイズ更新が数学的に扱いやすくなり、計算が効率的になります。

 

 


===

西園寺貴文(憧れはゴルゴ13)#+6σの男

   




"make you feel, make you think."

 

SGT&BD
(Saionji General Trading & Business Development)

新たなるハイクラスエリート層はここから生まれる
         




Lose Yourself , Change Yourself.
(変えることのできるものについて、それを変えるだけの勇気を我らに与えたまえ。変えることのできないものについては、それを受け入れられる冷静さを与えたまえ。そして、変えることのできるものと、変えることのできないものとを、見分ける知恵を与えたまえ。)
 
説明しよう!西園寺貴文とは、常識と大衆に反逆する「社会不適合者」である!平日の昼間っからスタバでゴロゴロするかと思えば、そのまま軽いノリでソー◯をお風呂代わりに利用。挙句の果てには気分で空港に向かい、当日券でそのままどこかへ飛んでしまうという自由を履き違えたピーターパンである!「働かざること山の如し」。彼がただのニートと違う点はたった1つだけ!そう。それは「圧倒的な書く力」である。ペンは剣よりも強し。ペンを握った男の「逆転」ヒップホッパー的反逆人生。そして「ここ」は、そんな西園寺貴文の生き方を後続の者たちへと伝承する、極めてアンダーグラウンドな世界である。 U-18、厳禁。低脳、厳禁。情弱、厳禁。