「動く」と「安全」は別の話

AIに「ユーザーを名前で検索する機能を作って」と頼めば、動くコードが返ってきます。画面に結果が出れば、仕事は終わったように見えます。

でも、動くことと安全なことは別です。名前の欄に細工した文字列を入れると全員分のデータが出てくる。他人のIDを入れると他人の注文が見える。どちらも「動く」コードで起きます。

AIは何を知らないのか

AIはよくある書き方をたくさん知っています。一方で、次のことは知りません。

• このデータは誰のものか（どのユーザーに見せてよいか）
• この入力はどこから来るか（信用してよい値か）
• この操作は取り返しがつくか（消したら戻せるか）

どれもアプリの目的と運用を知っている人間にしか分からないことです。

責任は人間に残る

AIが書いたコードで情報が漏れても、「AIが書いたので」は通りません。コードをリリースした人、レビューした人の責任です。

この講座で扱うこと

攻撃の仕組みそのもの（XSS・SQLインジェクション・CSRF）は講座17で学びました。この講座では、AIが入ることで何が変わるかに絞ります。

1. AIが書いたコードを読む（第2・3回）
2. AIに渡すもの・入れさせるもの（第4・5回）
3. AIエージェントそのものを守る（第6・7回）

• 「動く」と「安全」が別である理由
• AIが知らない3つのこと
• この講座の全体像