責任あるAIの観点

公平性（特定の集団に不利にならない）、包摂性、頑健性（少し違う入力でも崩れない）、安全性、正確さ（うそをつかない）、透明性と説明可能性が柱です。

バイアスはどこから来るか

学習データに偏りがあると、モデルも偏ります。ある年代の声が少ないデータで学んだモデルは、その年代の要望を読み違えやすくなります。データが多様で、釣り合っているかを確かめ、集団ごとに結果を分けて見る（サブグループ分析）ことで見つけます。

過学習と未学習

学習データに合わせすぎて、新しいデータで外れるのが過学習です。単純すぎて、学習データでも外れるのが未学習です。

生成AIの法的な危険

知的財産の侵害の主張、偏った出力、ハルシネーションによる誤った案内、顧客の信頼の低下があります。

AWSの道具

• Amazon Bedrock Guardrails … 禁止する話題、有害な表現、個人情報の出力を止める
• Amazon SageMaker Model Cards … モデルの目的、学習データ、評価の結果、注意点を記録する
• Amazon SageMaker Clarify … データとモデルの偏りを調べ、予測の理由を示す

説明しやすい単純なモデルと、精度の高い複雑なモデルは、両立しないことがあります。説明が求められる場面では、それも選ぶ理由になります。

• 責任あるAIの観点（公平性・頑健性・安全性・透明性など）
• バイアスの原因と見つけ方、過学習と未学習
• 生成AIの法的な危険
• Amazon Bedrock Guardrails・SageMaker Model Cards・SageMaker Clarify