「世界初、来店不要のフルオーダーメイド靴」のプレスリリースを行いました。

3-1. 強化学習とQ学習とDQN

やること

機械学習は、教師あり学習、教師なし学習、強化学習の3つに分けて語られることが多いです。強化学習は、「長期的な価値が高くなるような判断基準を見つける」感じの学習です。今日は、強化学習の基本である「Q学習」を知り、「Deep Q-network(DQN)」のアルゴリズムを確認してみます。

使うもの

AIワークショップ|初心者だけど強化学習(DQN)できちゃった (2018/09/28 19:00〜)
# 情報交換はAI FASHIONのSlack(参加ボタン)の方でお願いします。 ## 概要 ノートPCを持参して、強化学習で「迷路を解く」AIを作ってみよう。 「プログラム環境の準備」からやりますので、初心者におすすめです。 ## コンセプト AIって教師データ集めが大変って聞いたけど、強化学習っていうのは...

強化学習とは

強化学習では、

  • エージェントが行動する
  • 状態(または環境)から報酬を得る

ことを繰り返しながら、報酬(目先のではなく長期的な報酬)が高くなるような行動基準を見つけます。

強化学習>Q学習のアルゴリズム

  • 「適当に行動する」うーん、よくわからんからとりあえずランダムに動いてみよう
  • 「重みをつけてQテーブルを更新する」うわ、めっちゃペナルティ食らった!今回の行動パターンは控えとくか。お、なんかいっぱい報酬がもらえたぞ!これが正解なんか?今回の行動パターンはええんやな!
  • 「Experience Replay」さっきの行動パターンええな!マイナーチェンジして探索したろ!
  • 「ε-greedy法」あ、でももしかしたらもっと大胆な近道があるかもしれないからたまには変な方向行ってみるか!

複雑なゲームだとQテーブルが作れない

Q学習ではたくさん行動してひたすらQテーブル(どんな状態でどんな行動をすると何点の報酬がもらえるか)を埋めていきますが、囲碁やビデオゲームでは「状態×行動」のパターンが多すぎるため、Qテーブルすべてを埋めているうちに22世紀が来てしまいます。

DQNはQテーブルをニューラルネットで近似した方法

タイトルとURLをコピーしました