会員登録すると
学習することができます。
会員登録する(無料)
登録済みの方はこちら
ログイン

グラウンディングとRAGと出力の設定 ― 根拠のある答えにし、temperatureとtop-pを調整する

目安学習時間 25分

課題

全問正解でレクチャー完了です。

【問題1】

次の単語の候補の確率が 0.4・0.3・0.2・0.1 のとき、top-p を 0.7 にすると、選ばれうる候補はいくつですか。

[選択肢]

【問題2】

社内の最新の規程に基づいて答えさせたいが、モデルを学習し直す時間も予算も無い。最も合う方法はどれですか。

[選択肢]
会員登録すると
学習することができます。
会員登録する(無料)

学ぶ目的

グラウンディングとは

モデルの答えを、信頼できる情報に結びつけることです。根拠になる情報には3種類あります。
- 自社のデータ(ファーストパーティ) … 社内規程、商品の資料、問い合わせの記録
- 他社のデータ(サードパーティ) … 契約して使う外部のデータ
- 世界の情報 … 公開されたWebの情報

RAG

RAG(検索拡張生成)は、質問に関係する資料を先に探し、その資料をプロンプトに入れてから答えさせる方法です。モデルを学習し直さずに、新しい情報や社内の情報で答えられ、根拠の資料を示せます。探した資料が間違っていれば答えも間違うので、資料の質と探し方が大事です。

Google Cloud のグラウンディングの提供物

  • 用意済みの RAG(Agent Search)
  • RAG の API(自分で組み立てる)
  • Google 検索によるグラウンディング(公開の情報に根拠を持たせる)

出力の設定

  • temperature … 低いほど決まった答え、高いほど多様な答え
  • top-p … 確率の高い順に足して、p に届くまでの候補からだけ選ぶ
  • 出力の長さ(トークン数) … 長すぎる答えと費用を抑える
  • 安全の設定 … 有害な内容をどこまで止めるかを決める

社内規程の問い合わせのように正確さが大事なら temperature を低く、広告文の案出しなら高めにします。

このレクチャーで学ぶこと

  • グラウンディングと、根拠になる3種類の情報
  • RAG の仕組みと、利点と注意点
  • Agent Search・RAG の API・Google 検索によるグラウンディング
  • temperature・top-p・出力の長さ・安全の設定

質問

まだ質問は投稿されていません。

質問投稿

ログイン後に質問の投稿ができます。