ホーム

学習コースをさがす

AI時代のセキュリティ ― AIに書かせたコードと、AIに渡す権限を人間が確かめる

無料

獲得できるスキル AI時代のセキュリティ

学習時間目安 1時間42分

テスト時間約15分

対象者

セキュリティ入門講座の学習を完了している方

この講座をシェア

概要

AIはコードを速く書きますが、そのコードが安全かどうか、誰のデータに触れてよいかは知りません。さらにAIエージェントには、読ませた文章が命令として働いてしまうという、これまでに無い弱点があります。この講座では、AIに書かせたコードのどこを読めば危険に気づけるか、AIに何を渡し何を渡さないか、エージェントの権限をどこで区切るかを学びます。攻撃の基本は講座17（セキュリティ入門）で扱っているので、ここでは「AIが入ると何が変わるか」に絞ります。

提供株式会社シンシア

レクチャー

#1 AIが書いたコードは誰が守るのか ― 責任は人間に残る

未完了

「動く」と「安全」が別である理由
AIが知らない3つのこと
この講座の全体像

#2 AIが書いたコードを読む ― 入力の行き先を追う

未完了

読む場所を「入力の行き先」に絞る
文字列埋め込みとプレースホルダの違い（実機確認）
AIへの頼み方に安全の条件を入れる

#3 認可漏れ ― AIは「誰のデータか」を知らない

未完了

認証と認可の違い
IDを書き換えるだけで他人のデータが見える形
持ち主の条件を仕様として伝える

#4 秘密情報 ― AIに渡すもの、コードに残すもの

未完了

秘密情報がAIとコードに漏れる2つの経路
git rm しても履歴に残ること（実機確認）
漏らしたら最初にやるのは無効化

#5 実在しないパッケージ ― 依存を足す前に確かめる

未完了

AIがでっち上げるパッケージ名が狙われる仕組み
インストール前に確かめる4つのこと
ロックファイルと脆弱性チェック

#6 プロンプトインジェクション ― 読ませた文章が命令になる

未完了

データと命令を分けられないという弱点
直接と間接のプロンプトインジェクション
3つが揃うと危ない組み合わせと、設計での守り方

#7 AIエージェントに渡す権限 ― 最小にして、確認を挟む

未完了

エージェントは渡した権限をそのまま使う
最小権限の4つの渡し方とnaminoriでの実例
人間の確認を挟む線の引き方

学習開始日

学習完了日

未獲得

コース完了数

0 / 7

会員登録して受講

このコースで獲得できるスキルに関連した求人

気になる

Next.js×TypeScriptでフルスタック開発を極めるエンジニア募集

株式会社シンシア

リモートワークOK 完全週休2日制年間休日120日以上土日祝休み原則定時退社残業20時間未満フレックス勤務産休・育休取得実績あり残業少なめ副業OK 未経験歓迎転勤なし（勤務地限定）学歴不問第二新卒歓迎学生歓迎入社後の職種変更なし初日からコーディング服装自由駅チカオフィス内禁煙・分煙正社員登用あり自社プロダクト受託企業アーロンチェア完備昇降デスク

年収

340万円 ~ 600万円

勤務地東京都港区六本木7-18-13シークエル六本木4F

必須スキル

Web初級

UNIX初級

Next.js初級

気になる