ベイズ統計ファンサイト入門者向け解説 を理解する為に使ったメモ書きです。
とんでもない勘違いをしていたらごめんなさい。

X 信念(belief)

D 判断材料(decision-maker)

P(X) 事前確率(prior)

P(D|X) 事後確率(posterior)

P(D)=Σi( P(D|Xi)*P(Xi) ) 尤度(likelihood)

P(X|D) = P(D|X) * P(X) / P(D) ベイズ推定(Bayesian)

ベイズ推定の例

学習DBが以下の状態の場合、

SPAM       | Clean
●●○○○ | ●○○○○   (●V1agraあり ○V1agraなし)

新しくV1agraが文中に出てくるメールを受け取ったとき、そのメールがSPAMな確率は

P(X1|D1) = P(D1|X1) * P(X1) / P(D1)

             2     1     3     2
         =  --- * --- / --- = ---
             5     2    10     3

要は学習DBにある●3個のうち何個がSPAM側にいるかを計算している。

ベイズ推定の直感的な理解

P(X1|D1) * P(D1) 
= P(D1|X1) * P(X1)
= 学習DB全体のなかで SPAM かつ 文中にV1agraが出てくる割合

両辺を P(D1) で割って
P(X1|D1) = P(D1|X1) * P(X1) / P(D1)

ベイズ推定による行動決定

  1. A 行動(action)
    • A1 : メールを捨てる
    • A2 : メールを残しておく
  2. U(A|X) 効用値(utility value)
    • U(A1|X1) = 100 : SPAMであったのでメールを捨てたときの効用値
    • U(A1|X2) = -100 : SPAMでないのにメールを捨てたときの効用値
    • U(A2|X1) = -10 : SPAMであったのにメールを残しておいたときの効用値
    • U(A2|X2) = 100 : SPAMでないのでメールを残しておいたときの効用値
  3. E(A|D)=Σi( U(A|Xi)*P(Xi|D) ) 期待効用 (expected utility value)
    • E(A1|D1) = U(A1|X1)*P(X1|D1) + U(A1|X2)*P(X2|D1)
      : 文中にV1agraが出てきたとき、メールを捨ててしまった場合の効用値の期待値
    • E(A2|D1) = U(A2|X1)*P(X1|D1) + U(A2|X2)*P(X2|D1)
      : 文中にV1agraが出てきたとき、メールを残しておいた場合の効用値の期待値
    • E(A1|D2) = U(A1|X1)*P(X1|D2) + U(A1|X2)*P(X2|D2)
      : 文中にV1agraが出てこないとき、メールを捨ててしまった場合の効用値の期待値
    • E(A2|D2) = U(A2|X1)*P(X1|D2) + U(A2|X2)*P(X2|D2)
      : 文中にV1agraが出てこないとき、メールを残しておいた場合の効用値の期待値
  4. DがDxに決まったとき、E(Ai|Dx) の大小を比較して、もっとも期待効用の大きい行動Aiを取ればよい

で、キミはベイズ推定を使って何がやりたいわけ?


Computer


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS   sitemap
Last-modified: 2006-02-14 (火) 00:23:04 (3952d)
ISBN10
ISBN13
9784061426061