プロンプトインジェクションとは？

AIが扱う入力や参照文書にも、命令として解釈され得る内容が混入することを前提にする。 ▍なぜ正解 外部文書の文言でAIの優先指示を上書きさせようとしている。 ▍よくある間違い SQL文の構造を不正に変える攻撃であり、AIへの指示の乗っ取りとは異なる。 Webページにスクリプトを混入させる攻撃である。 多数の候補を試して認証情報を推測する攻撃である。 ▍試験の狙い AIに対する脅威としてプロンプトインジェクションを扱う。