会員登録すると
学習することができます。
会員登録する(無料)
登録済みの方はこちら
ログイン

教師なし学習と強化学習 ― クラスタリング・次元削減・Q学習の考え方をつかむ

目安学習時間 25分

課題

全問正解でレクチャー完了です。

【問題1】

正解のラベルを使わず、似た顧客どうしを組にまとめたいときに使う手法として、最も適切なものはどれですか。

[選択肢]

【問題2】

割引率が0.9のとき、今すぐの報酬10、1歩先の報酬10、2歩先の報酬10を、割り引いて合計した値はどれですか。

[選択肢]
会員登録すると
学習することができます。
会員登録する(無料)

学ぶ目的

教師なし学習

正解のラベルを使わず、特徴量だけからデータの構造を見つける方法です。
- クラスタリング … 似たものどうしを同じ組にまとめる。k-means法は、組の数kを先に決め、中心に近いものを集める作業をくり返す。ウォード法は、近いものから順にまとめ、樹形図(デンドログラム)を作る
- 次元削減 … 特徴量を、情報をなるべく失わずに少ない数にまとめる。主成分分析(PCA)が代表。t-SNE は、高次元のデータを2次元や3次元に描いて眺めるのに使う
- トピックモデル … 文書に含まれる話題を見つける(潜在的ディリクレ配分法、LDA)

レコメンド

  • 協調フィルタリング … 似た行動をした人が選んだものを勧める。データの少ない新しい商品や利用者では使いにくい(コールドスタート問題)
  • コンテンツベースフィルタリング … 商品そのものの特徴が似ているものを勧める

強化学習

エージェント(学ぶ主体)が環境の中で行動し、得られる報酬の合計を最大にする行動のとり方(方策)を、試行錯誤で学ぶ方法です。
- 割引率 … 先の報酬ほど少し割り引いて考える数(0から1)
- 価値の学習 … 行動価値関数を学ぶ Q学習・SARSA
- 方策の学習 … 方策そのものを直接よくする方策勾配法・REINFORCE。両方を組み合わせた Actor-Critic
- 探索と活用 … ε-greedy 方策は、小さな確率εでわざと別の行動を試す

このレクチャーで学ぶこと

  • 教師なし学習と、k-means法・ウォード法・主成分分析
  • 協調フィルタリングとコールドスタート問題
  • 強化学習の報酬・方策・割引率
  • Q学習・方策勾配法・ε-greedy 方策

質問

まだ質問は投稿されていません。

質問投稿

ログイン後に質問の投稿ができます。