トークン

大規模言語モデルは、文章をトークンという小さな単位に区切って扱います。料金も、入力と出力のトークン数で決まることが多く、入力より出力の単価が高く設定されていることがよくあります。

埋め込みとベクトル

埋め込みは、文章や画像の意味を、数の並び（ベクトル）に置き換えたものです。意味が近い文章は、ベクトルも近くなります。この性質を使って、キーワードが一致しなくても意味の近い文書を探せます。ベクトルを保存して探す場所が、ベクトルデータベースです。

基盤モデル

大量のデータで事前に学習し、いろいろな仕事に使える大きなモデルを、基盤モデルと呼びます。文章のモデル、画像を作る拡散モデル、文章と画像などを一緒に扱うマルチモーダルのモデルがあります。

得意と不得意

• 得意 … 文章の生成、要約、翻訳、分類、会話、コードの生成
• 不得意 … もっともらしい誤り（ハルシネーション）、同じ質問でも答えが変わる、学習した時点より新しいことを知らない、なぜその答えかを説明しにくい

AWSのサービス

いろいろな会社の基盤モデルを、API で使えるのが Amazon Bedrock です。SageMaker JumpStart では、公開されているモデルを選んで自分の環境に置けます。エージェントを本番で動かす土台として Amazon Bedrock AgentCore もあります。

• トークンと、トークン単位の料金の考え方
• 埋め込み・ベクトル・ベクトルデータベース
• 基盤モデルの種類（言語・拡散・マルチモーダル）
• 生成AIの得意と不得意と、AWSの生成AIのサービス