プロンプトインジェクションは、AIに悪い指示を紛れ込ませて意図しない動きをさせる攻撃です。Microsoft Learnでは、利用者が悪い指示を直接打ち込む直接型と、ファイル・画像・コード・メールなどに命令を隠す間接型に分けて説明しています。
Microsoftの主な対策
- 脱獄（ジェイルブレイク）を見つける分類器と、既知の悪い指示のブロックリスト
- コピー＆ペーストに隠された見えない文字の無害化
- ツールを使う前に攻撃の危険を評価
- 最終的な確認は利用者が行う前提の設計
利用者ができること
- 知らない相手のメールや文書を要約させたら、答えに出てきたリンクや依頼をうのみにしない
- 出どころのわからない文章をそのまま貼り付けない
- Copilotが送信・削除などをしようとしたら、内容を確認してから承認する
出典：Microsoft Learn「Microsoft Copilot prompt defense in depth」