プロンプトインジェクション

プロンプトインジェクションとは

プロンプトインジェクションは、AIへ渡す入力に意図しない指示を混ぜて望ましくない動作や情報開示を誘導する問題です。

外部文書やチケットの内容を、信頼できる実行指示としてそのまま扱わないようにします。