靴職人様・法人様向けサービスのページを公開しました

24-1. ベイジアンネットワークとpgmpy

はじめに

こんにちは、hiranumaです。

今回はpythonで「pgmpy」というライブラリを使って観測データからベイジアンネットワークを構築して、構築したネットワークから新たなデータをサンプルしてみようと思います。

ベイジアンネットワークを使う機会があったのですが、調べても該当する記事が無かったり、さまざまなライブラリがある中で僕がやりたいこととマッチするものがうまく見つからなかったため、今後ベイジアンネットワークを使う人や僕自身のメモのために残そうと思います。本記事はベイジアンネットワークってなんぞや、という人から、ベイジアンネットワーク使おうとしているけどいまいちプログラムが書けないという人を想定しています。

ベイジアンネットワークとは

そもそも、ベイジアンネットワーク(以下、BN)とは、さまざまな物事の因果関係をグラフとして表わして視覚的に理解することができ、かつ、物事の関係性を確率で表すことができる非循環有向グラフ(以下、DAG)です。ざっくりいうとベイズの定理によるグラフ構造ですね! (DAGとは、ネットワーク間に矢印があり、矢印をたどっても絶対にループがないグラフのこと。)

これだけで、BNを理解できた人は天才です。僕には呪文にしか感じませんでした。。例えば、以下のようなネットワークがあったとします。

X1, X2, X3の丸のことをノードといい、ノードから出ている矢印のことを辺、もしくはエッジと言います。BNでは、各ノードが確率変数になっていて、例えば、事象X1が起こる確率は事象X2と事象X3に依存していることがわかります。

今、以下の図のような確率がわかっているとします。

右上は「X2の0,1の確率」、左上は「X3の0,1の確率」、右下は「X2, X3がわかった時のX1の0,1の確率」を意味しています(1=起きた, 0=起きていない)。この表のことを条件付き確率表(CPD)といいBNではこの表とネットワークの構造がわからないとなにもできません。

BNのうれしいことはX1がわかった時に原因がX2なのかX3なのか確率的に予測できるという点です。

ベイズの定理を使って原因を探る

では、ベイズの定理を使ってX1が1だとわかった時に、それが何が原因である確率が高いのか調べたいと思います。

まず、P(X1=1)の確率を知りたいので、周辺化します。

     \begin{equation*} \begin{align} &P(X1=1,X2=0,X3=0)\\ &=P(X1=1|X2=0,X3=0)P(X2=0)P(X3=0)\\ &=0.4 \times 0.7 \times 0.4\\ &=0.112 \end{align} \end{equation*}

     \begin{equation*} \begin{align} &P(X1=1,X2=0,X3=1)\\ &=P(X1=1|X2=0,X3=1)P(X2=0)P(X3=1)\\ &=0.8\times0.7\times0.6\\ &=0.336 \end{align} \end{equation*}

     \begin{equation*} \begin{align} &P(X1=1,X2=1,X3=0)\\ &=P(X1=1|X2=1,X3=0)P(X2=1)P(X3=0)\\ &=0.5\times0.3\times0.4\\ &=0.06 \end{align} \end{equation*}

     \begin{equation*} \begin{align} &P(X1=1,X2=1,X3=1)\\ &=P(X1=1|X2=1,X3=1)P(X2=1)P(X3=1)\\ &=0.7\times0.3\times0.6\\ &=0.126 \end{align} \end{equation*}

     \begin{equation*} \begin{align} \therefore P(X1=1) = 0.634 \end{align} \end{equation*}

周辺化できたので、実際に各確率を計算してみます。

     \begin{equation*} \begin{align} &P(X2=0, X3=0|X1=1)\\ &=\frac{P(X1=1|X2=0, X3=0)P(X2=0, X3=0)}{P(X1=1)}\\ &=\frac{0.4\times0.7\times0.4}{0.634}\\ &=0.1766 \end{align} \end{equation*}

     \begin{equation*} \begin{align} &P(X2=0, X3=1|X1=1)\\ &=\frac{P(X1=1|X2=0, X3=1)P(X2=0, X3=1)}{P(X1=1)}\\ &=\frac{0.8\times0.7\times0.6}{0.634}\\ &=0.5299 \end{align} \end{equation*}

     \begin{equation*} \begin{align} &P(X2=1, X3=0|X1=1)\\ &=\frac{P(X1=1|X2=1, X3=0)P(X2=1, X3=0)}{P(X1=1)}\\ &=\frac{0.5\times0.3\times0.4}{0.634}\\ &=0.0946 \end{align} \end{equation*}

     \begin{equation*} \begin{align} &P(X2=1, X3=1|X1=1)\\ &=\frac{P(X1=1|X2=1, X3=1)P(X2=1, X3=1)}{P(X1=1)}\\ &=\frac{0.7\times0.3\times0.6}{0.634}\\ &=0.1987 \end{align} \end{equation*}

以上より、

     \begin{equation*} \begin{align} P(X2=0, X3=1|X1=1)=0.5299 \end{align} \end{equation*}

が一番確率が高いことがわかるので、X1が起きた時に53%程度の確率でX3が原因であるということがわかりました。BNの恩恵はわかりましたでしょうか?

ベイジアンネットワークの構築

以上の例は、BNが事前にわかっているため利用することができました。BNの構造がわかっていない状態ではどうするのか、構築方法について一例を紹介します。

BNの構築方法は主に2つの要素に分けられます。

  1. 評価指標
  2. 良いネットワークの探索

この2つの要素を決定して探索します。1の評価指標とはネットワークの良し悪しを決める評価値で学習データに対してどの程度そのネットワークが良いのかを比べることができます。2の探索はさまざまなネットワークを構築してよりよいネットワークを探すといった探索行為になります。このネットワークに対する評価方法や探索方法はさまざまな研究が行われているので、興味がある人は調べてみてください。

Indices and tables — pgmpy 0.1.15 documentation

pgmpyには

  • BDeu Score
  • Bic Score
  • K2 Score

という評価基準があります。ざっくりいうと、BDeuとはBayesianDirichlet(BD)という評価方法に必要な事前知識を事前分布に与えることが難しいのでそれをうまく拡張した手法で評価します。BICとはベイズ情報量基準(Bayesian Information Criterion)のことでベイズ情報量基準にしたがって評価します。K2 Scoreは先程のBDという評価基準の特定のバージョンのことです。(違ったらごめんなさい。。)

また、探索方法としてpgmpyには

  1. Exhaustive Search
  2. Hill Climb Search

が用意されています。1は全探索でノードが6以上になると計算量が膨大になり実行できません。2は山登り法で近隣のネットワークの中で最適な解を探索してくれます。

では、実際にプログラムを書いていきましょう!

ネットワークの構造

まず、今回使用するライブラリpgmpyをインストールします。condaやcolabの方はそれぞれcondaや!pipでインストールしてください。

pip install pgmpy

ネットワークを構築するためのデータを作成します。

import numpy as np
import pandas as pd
from pgmpy.estimators import K2Score, HillClimbSearch, ExhaustiveSearch
from pgmpy.sampling import BayesianModelSampling
from pgmpy.models import BayesianModel

# データ生成
data = pd.DataFrame(np.random.randint(0, 2, size=(5000, 3)), columns=['X1', 'X2', 'X3'])
data['X1'] = data["X2"] + data["X3"] # X3 -> X1 <- x2
print(data)
      X1  X2  X3
0      0   0   0
1      2   1   1
2      2   1   1
3      0   0   0
4      1   1   0
...   ..  ..  ..
4995   2   1   1
4996   0   0   0
4997   1   0   1
4998   2   1   1
4999   2   1   1

では、データを元にK2Scoreを使った山登り法でネットワークを構築します。

# データを使ってネットワークを探索
network = HillClimbSearch(data, scoring_method=K2Score(data))
best_network = network.estimate()
edges = best_network.edges()
nodes = best_network.nodes()
print(edges)
print(nodes)
[('X2', 'X1'), ('X3', 'X1')]
['X1', 'X2', 'X3']

これでネットワークの構築ができました。ちなみに、(‘X2’, ‘X1’)は(‘親’, ‘子’)の関係なので、X2->X1となっており正しく構築できていることがわかります。

条件付き確率表(CPD)を求める

ここまではネットワークbest_networkにはまだCPDが計算されておらず、構築したインスタンスbest_networkのクラスであるDAGモデルではCPDを求めることはできません。なので、構築したネットワークを使って別のクラスでCPDを求める必要があります。

ここでBayesianModelというクラスを使います。

# 探索したネットワークのエッジからネットワークのモデルを構築してCPDを求める
model = BayesianModel(list(edges))
# 独立なノードが入っていない場合にも対応
model.add_nodes_from(list(nodes))
model.fit(data) # cpds を計算
cpds = model.get_cpds()
for cpd in cpds:
    print(cpd, '\n')
+-------+-------+-------+-------+-------+
| X2    | X2(0) | X2(0) | X2(1) | X2(1) |
+-------+-------+-------+-------+-------+
| X3    | X3(0) | X3(1) | X3(0) | X3(1) |
+-------+-------+-------+-------+-------+
| X1(0) | 1.0   | 0.0   | 0.0   | 0.0   |
+-------+-------+-------+-------+-------+
| X1(1) | 0.0   | 1.0   | 1.0   | 0.0   |
+-------+-------+-------+-------+-------+
| X1(2) | 0.0   | 0.0   | 0.0   | 1.0   |
+-------+-------+-------+-------+-------+ 

+-------+--------+
| X2(0) | 0.5042 |
+-------+--------+
| X2(1) | 0.4958 |
+-------+--------+ 

+-------+--------+
| X3(0) | 0.4992 |
+-------+--------+
| X3(1) | 0.5008 |
+-------+--------+ 

これでCPDを求めることができました。あとは使い道に合わせてカスタマイズすればさまざまな問題に対応できます。

ベイジアンネットワークから新たなデータを生成

僕はこの構築したネットワークから新たなデータをサンプルする必要がありました。サンプル方法にもさまざまなクラスが用意されているのでドキュメントを参照してみてください。今回はBayesianModelSamplingというクラスを用います。

# サンプリング
sampler = BayesianModelSampling(model)
new_data = sampler.forward_sample(size=10)
print(new_data)
   X1  X3  X2
0   1   1   0
1   1   0   1
2   0   0   0
3   1   1   0
4   0   0   0
5   2   1   1
6   1   1   0
7   2   1   1
8   1   1   0
9   0   0   0

新たなデータが生成されました。ここで注意するのがサンプルデータのcolumnsの順序です。BNのサンプルは親のいないノードから確率的に生成するので、順序がX1, X2, X3ではないことがわかります。このnew_dataはpandasのDataFrameになっているので、入れ替えるのは容易にできます。

まとめ

今回はベイジアンネットワークを使うことがあったのでpgmpyというライブラリを使って説明しました。今回紹介したやり方だけでなく、ネットワークに対してある事象がわかった時の原因を探ることもできます。詳しくはドキュメントを参照してみてください。本記事はpgmpyを使った時に学習したネットワークからどうやってCPDを計算するのか、そして新たなデータをサンプルするのかを試行錯誤の上で見つけた一つの方法になります。別の方法があればSlackやTwitterでご連絡いただけると嬉しいです。

タイトルとURLをコピーしました