DVA-C03 で加わった内容

DVA-C03 では、セキュリティの分野に「AI サービスを使い、アプリに組み込むときの危険を見つけて減らす」というタスクが新しく加わりました。開発の分野にも、AI を使った開発ツールでコードを作り、レビューすることと、AWS の AI サービスをアプリに組み込むことが入りました。

アクセスの管理とデータの守り方

• AI サービス（Amazon Bedrock など）を呼ぶ権限は、ほかのサービスと同じく IAM で、必要なものだけを渡す
• VPC エンドポイント（AWS PrivateLink）を使うと、インターネットを通らずに AI サービスを呼べる
• 入力と出力がモデルの学習に使われないか、誰が見られるかを、使うサービスの公式の説明で確かめる

入力と出力の制御

Amazon Bedrock Guardrails は、利用者の入力とモデルの応答の両方を確かめる仕組みです。有害な内容のフィルタ、扱わないトピックの指定、単語のフィルタ、個人情報などの機密情報を止めたり隠したりするフィルタ、プロンプトへの攻撃（指示を書きかえようとする入力）の検出などがあります。

エージェントとログ

• AI エージェントが使える道具（ツール）と権限は、必要なものだけに絞る
• 利用者ごとにセッションを分け、別の人の会話が混ざらないようにする
• 送金や削除のような大事な操作の前には、人が承認する段を入れる
• プロンプトや応答をログに残すときは、CloudWatch Logs のデータ保護ポリシーなどで機密情報を隠す

AI の部分も、ほかの部分と同じく「最小の権限」「機密情報を残さない」「大事な操作は確かめる」で守ります。

• DVA-C03 で新しく加わった AI の内容
• AI サービスへのアクセスの管理と、データの守り方
• Bedrock Guardrails による入力と出力の制御
• AI エージェントの権限と、ログの機密情報