モデルの選び方

基盤モデルは、費用、速さ（レイテンシ）、扱えるデータの種類、対応する言語、入出力の長さ、カスタマイズのしやすさで選びます。いちばん賢いモデルが、いつもいちばんよい選択とは限りません。

プロンプトの技法

• ゼロショット … 例を見せずに指示だけを書く
• フューショット … 少しの例を見せて、形をまねさせる
• 思考の連鎖（chain-of-thought） … 順を追って考えさせる
• プロンプトのテンプレート … よく使う指示を型にして使い回す

プロンプトには、指示、背景（コンテキスト）、入力、出力の形を書きます。してほしくないことも書けます。プロンプトを乗っ取る攻撃（インジェクション）や、安全の決まりを外させる攻撃（ジェイルブレイク）にも気をつけます。

推論パラメータ

温度を下げると、確率の高い言葉が選ばれやすくなり、答えが安定します。上げると、確率の低い言葉も選ばれやすくなり、答えが多様になります。Top P と Top K は、候補にする言葉の範囲を絞ります。応答の長さや停止シーケンスで、出力の長さを抑えます。

RAG

RAG（検索拡張生成）は、質問に関係する社内の文書を探して、プロンプトに添えてから答えさせる方法です。モデルを学び直さずに、新しい情報や社内の情報で答えられます。Amazon Bedrock Knowledge Bases で組み立てられ、ベクトルの保存には Amazon OpenSearch Service や Amazon Aurora などを使えます。

エージェント

エージェントは、目標に向けて、自分で手順を考え、道具（API など）を呼び出して仕事を進める仕組みです。外部の道具とつなぐ決まりとして MCP（Model Context Protocol）があります。

• 基盤モデルを選ぶときの観点
• ゼロショット・フューショット・思考の連鎖とプロンプトの危険
• 温度・Top P・Top K・応答の長さの効き方
• RAG と Amazon Bedrock Knowledge Bases、エージェントと MCP