カスタマイズの方法

基盤モデルを自分の仕事に合わせる方法は、手軽で安い順に、プロンプトの工夫（例を見せる）、RAG、ファインチューニング、継続事前学習、一からの事前学習です。下に行くほど、データと時間と費用がかかります。
- ファインチューニング … ラベル付きの例で、学習済みのモデルを少し学び直す。言い方や形式をそろえるのに向く
- 継続事前学習 … ラベル無しの大量の業界の文書で学び続け、専門の言葉に慣れさせる
- 蒸留 … 大きなモデルの答えを使って、小さく速いモデルを育てる

学習データの準備

ファインチューニングのデータは、量より質です。偏りが無く、実際の使われ方を代表していて、個人情報などの扱いが決まっている必要があります。人の評価を使ってモデルを好ましい答えに近づける方法を RLHF（人のフィードバックによる強化学習）と呼びます。

評価の方法

• 人による評価 … 人が答えの質を見る。手間はかかるが、細かな質が分かる
• ベンチマーク … 決まった問題集で、ほかのモデルと比べる
• 自動の指標 … 要約の ROUGE、翻訳の BLEU、意味の近さを見る BERTScore
• モデルによる採点 … 別の大規模言語モデルに採点させる（LLM-as-a-judge）

Amazon Bedrock では、モデルの評価の機能でこれらを行えます。最後は、問い合わせの解決率や、1件あたりの費用など、仕事の指標で判断します。

• プロンプト・RAG・ファインチューニング・事前学習の費用の違い
• ファインチューニングと継続事前学習と蒸留
• 学習データの準備と RLHF
• 人による評価・ベンチマーク・ROUGE・BLEU・BERTScore と仕事の指標