組織のAI活用をAIポータルと伴走支援で加速

プロンプトインジェクションとは。AIエージェントにメールやWebを読ませる前の対策

プロンプトインジェクションとは。AIエージェントにメールやWebを読ませる前の対策

執筆:寺田昇平

AI Portalize株式会社 代表取締役/AI Digital Community 代表理事

仕組みとコンサルティング伴走支援の両面で、組織のAI活用の加速を支援。

プロンプトインジェクションは、AIに読ませたメールやWebページに紛れ込んだ指示で、AIが頼んでいない動きをさせられる攻撃です。
AIエージェントにメールやWebを読ませる前に決めるのは、読ませる範囲・渡す権限・人の承認・残す記録の4つです。
AIがだまされることもある前提で、だまされても被害が小さく済むように決めておきます。

AI各社も、製品の対策だけでは防ぎきれないと公式に説明しています。
この4つの分け方は当社の整理で、もとにしたのは公的機関とAI各社の公式の説明です。

AIエージェントにメールやWebを読ませる前に会社で決める4つとして、どの受信箱とサイトを読ませるかという読ませる範囲、読むだけか送れるかという渡す権限、送る・消す・払うの前に人が押す承認、誰が頼み何を読ませ何を実行したかの記録を並べた図

プロンプトインジェクションが起きる場面

プロンプトインジェクションが起きるのは、AIが利用者の指示とは別に、外から来た文章を読む場面です。
OpenAIは、夜のあいだに届いたメールへの返信を、AIエージェントに任せる例を挙げています。

届いたメールの1通に、AIをだますための指示が紛れていたとします。
AIがそれを仕事の一部と取り違えると、受信箱から銀行の明細を探し、攻撃者に渡すおそれがあります。
渡せてしまうのは、利用者がその仕事のために、メールを読む権限をAIに渡しているからです。

利用者がAIエージェントにメールへの返信を頼み、AIが届いたメールなど外の文章を読み、紛れていた指示を頼まれた仕事の一部と取り違え、渡されていた権限の範囲で情報を探して送ってしまう流れを示した図

攻撃する側は、会社のシステムに入り込む必要がありません。
メールを送る、Webページを公開するといった誰にでもできる方法で、AIが読む文章に指示を混ぜられます。
「メールを読ませるだけなら大丈夫?」と聞かれたら、読んだあとにAIが何をできるか次第、と答えるのが近いと思います。

公的機関とAI各社の説明

用語の説明は、出どころによって言い方が少しずつ違います。
ただ、外から来た文章の中の指示にAIが従ってしまう点は、どの説明も同じです。

OWASPのLLMアプリのリスクの一覧(2025年版)は、プロンプトインジェクションを1番目に挙げています。
入力によってAIの動きや出力が意図せず変わる攻撃で、人の目に見えない入力でも起きるとしています。
利用者が打ち込む指示による「直接」と、Webページやファイルに紛れた指示による「間接」に分けています。

IPAの「AIセキュリティ短信」の2025年12月号も、AIエージェントへの間接プロンプトインジェクションを取り上げています。
この短信は、AIのセキュリティのニュースをIPAが集めて要約したものです。
正規のWebサイトや文書に隠した命令をAIに読ませ、機密情報を集めて外に送らせる、という紹介です。

OpenAIは、フィッシングメールと同じく、AIをだまして頼んでいないことをさせる攻撃だと説明しています。
Googleの管理者向けの解説でも、Webサイトの内容やメール、文書が、指示の入り口として挙がっています。

プロンプトインジェクションについて、OWASP・IPA・OpenAI・Googleがそれぞれどう説明し、どんな対策を挙げているかを比べた表の図

製品の側の対策と、残る危なさ

AI各社は、製品の側でも何重かの対策を入れています。
OpenAIは、購入のような大事な手順の前で、エージェントが止まって確認を求める作りを挙げています。
Googleも、カレンダーの予定を消すような操作の前に、利用者の確認を求める仕組みを説明しています。

ただ、どの会社も、これで防ぎきれるとは書いていません。
Anthropicは研究ブログで、ブラウザを操作するAIで、この攻撃の影響を受けないものはないと書いています。
同じ会社のヘルプセンターでも、ブラウザ拡張の危なさは「ゼロではない」としています。

つまり、AIエージェントのセキュリティは、製品の対策に加えて、会社の側でも備える必要があります。
備えるのは、だまされたときにAIができてしまうことを、先に小さくしておく部分です。

読ませるメールとWebの範囲

最初に決めるのは、AIエージェントに何を読ませるかです。
外の人が書いた文章を読む場面が多いほど、指示が紛れ込む機会も増えます。

例えば同じメールでも、社内からのものだけか、外から届くものまで読ませるかで、危なさは変わります。
Webも、決まったサイトだけを開かせるのか、検索で見つけたページまで開かせるのかを分けて考えます。

AIエージェントに読ませるものを、社内からのメール、外から届くメール、決まったWebサイト、検索で見つけたページの4つに分け、それぞれで読ませる受信箱を決める、送る権限は渡さない、開いてよいサイトの一覧にする、ログインしていない状態で開かせる、といった決めておくことの例を並べた図

Anthropicのヘルプでは、TeamとEnterpriseのプランなら、管理者が開いてよいサイトを決められると案内しています。
銀行や医療、行政のアカウントにログインしていない、別のブラウザのプロファイルで使うこともすすめています。
OpenAIも、ログインが要らない調べものは、ログアウトした状態でエージェントに任せるよう案内しています。

エージェントに渡す権限と、承認を挟む操作

次に決めるのは、読んだあとにAIが何をできるかです。
OWASPは、AIに渡す権限を仕事に要る分だけにし、読むだけなら読み取りだけにするよう、すすめています。

当社では、操作を「読む」「下書きを作る」「外に出す・消す・払う」の3つの重さに分けて考えます。
メールを読んで要約するだけなら、送信の権限は渡しません。
返信が要る仕事でも下書きまでにして、送るボタンは人が押す形にするのが目安です。

AIエージェントの操作を、要約や仕分けをする読む、返信の案まで作る下書き、外に出す・消す・払うの3つの重さに分け、重い操作ほど人が承認する形にすることを示した図

OpenAIは、「メールを確認して必要な対応をして」のような大まかな指示より、やることを絞った指示が安全だとしています。
エージェントが確認を求めてきたら、その操作と一緒に渡る情報が正しいかを、よく見るよう案内しています。
禁止・承認・任せてよい範囲の3つで権限を決める方法は、AIエージェントの権限管理。禁止・要承認・信頼範囲の3層で決めるに書いています。

あとから追える記録と、止める合図

もう1つ決めておきたいのが、何が起きたかをあとから追える記録です。
OWASPは、AIがつながった先での動きを記録して見張ることを、被害を抑える手段に挙げています。
攻撃そのものは防げなくても、おかしな動きに早く気づけば、止めるのも早くなります。

当社では、「誰が頼んだか」「何を読ませたか」「何を実行したか」を残せるかを、使う前に確かめます。
どこまで記録を見られるかは製品とプランで違うので、契約の前に確かめておきます。

AIエージェントを使い始める前に確かめることとして、誰が頼んだか、何を読ませたか、何を実行したかを記録に残せるか、作業を止める合図と、止めたあとに知らせる先を並べた図

使う人には、作業を止める合図を伝えておきます。
Anthropicのヘルプでは、「関係のない話を始めた」「思ってもいないサイトを開いた」「機密の情報を求めてきた」ときは、すぐ止めるよう書いています。
止めたあとに誰へ知らせるかも決めておくと、使う人が迷いません。

社内ルールに書き足す項目

エージェントを使い始めるときは、今の社内のAIのルールに、ここまでの4つを書き足します。
入れてはいけない情報の線引きだけでは、AIが外の文章を読んで動く場面までは扱えないからです。

書き足す項目の例を挙げます。
業務に合わせて、言い方や項目は変えて構いません。

  • 読ませてよい受信箱と、開いてよいWebサイト

  • エージェントに渡す権限と、渡さない権限

  • 送る・消す・払うの前に、人が承認する操作

  • 残す記録と、おかしな動きに気づいたときの連絡先

ルール全体の項目の立て方は、生成AIの社内ルールの作り方。ガイドラインの項目サンプルと守れる環境にまとめています。
情報が外に出てしまう経路の全体は、AIの情報漏洩はなぜ起きるか。事例と、禁止だけに頼らない対策で扱っています。
誤った回答や権利の侵害も含めた備えは、生成AIのリスクとセキュリティ対策。情報漏洩や誤った回答など、会社で起きる6つのリスクへの備えにあります。
ルールづくりが追いつかないときの考え方は、AIの社内ルールが整っていないのページが参考になります。

読ませる範囲と承認の線を一緒に決めるAI活用の伴走支援

どの受信箱を読ませ、どの操作で人が承認するかは、業務の流れと扱う情報で答えが変わります。
任せたい業務が見えているなら、AI活用の伴走支援で、その線引きを一緒に決められます。

AIコンサルティングは、月2回の定例とチャットで相談しながら、社内で進める形です。
AI伴走支援は、社内の会議にも入り、研修やツールづくりまで一緒に手を動かす形です。
ガイドラインだけの見直しのように、一部からのご依頼も受けています。
Gemini・Claude・Copilotのどれを使っていても進められます。

プロンプトインジェクションは、だまされても困らない形で備える

プロンプトインジェクションは、AIが読む文章に紛れた指示で、頼んでいない動きをさせられる攻撃です。
AI各社も防ぎきれないとしているので、読ませる範囲・渡す権限・人の承認・残す記録の4つを、使い始める前に決めておきます。

参照した情報(2026年11月11日に確認)

すぐ使える業務アプリが300以上

開いてそのまま使えて、AIで自社用にも直せます。15の分野から、やりたい作業で探せます。業務アプリを見る

執筆:寺田昇平

AI Portalize株式会社 代表取締役/AI Digital Community 代表理事

仕組みとコンサルティング伴走支援の両面で、組織のAI活用の加速を支援。

keyboard_backspace

お知らせ・組織AI推進ノウハウ一覧

無料 自社に当てはめて知りたい方へ

読んだ内容を、

御社の数字

で確かめませんか。

利用データから、御社のAI活用がいまどこにいるのかを判定します。
同業他社との比較と、次にやることをお渡しします。

組織のAI活用力診断のメインビジュアル(ノートPCの利用データと結果表)

Related

関連記事

Service

サービス一覧

AI Portalizeの管理画面イメージ:AI活用数・効率化時間の見える化とチームへの広がり

AIツールが見つかる。社内に広がる。使われ方が見える。

組織のAIポータル「AI Portalize」

  • check_circle

    やりたいことで検索すると、業務アプリ300以上とナレッジ250本以上から見つかる

    check_circle

    社内で作ったツールやナレッジが共有され、よく使われるものが上に並ぶ

    check_circle

    誰が何をどれだけ使っているかが、集計の手間なしで分かる

デジタル系企業特化のAIコンサルティング&伴走支援のイメージイラスト

実務に組み込むまで伴走

組織のAI活用を加速「AIコンサル&伴走支援」

  • check_circle

    従業員が安心して使うためのガイドライン策定

    check_circle

    ドメイン知識が豊富なコンサルタント

    check_circle

    業務分解からAIワークフロー作成

    check_circle

    研修から実務への組み込みまで

法人向けAI研修のイメージ:受講者が自分の業務でAIを使いながら学ぶ研修の様子

自社の業務で、使える知識に

実務で使える知識を「法人向けAI研修」

  • check_circle

    いま使っているAIと受講者の業務を伺って、誰に・どのAIで・どの業務を題材にするかを提案

    check_circle

    Gemini・Claude・AIエージェントなど、8つの研修例と230以上のテーマ例

    check_circle

    基本はオンライン。研修の資料と録画もお渡し

デジタル系企業特化のAIコンサルティング&伴走支援のイメージイラスト

豊富な新規事業立ち上げ実績

AIを活用した
新規事業の立ち上げ支援

  • check_circle

    検討からサービス構築まで

    check_circle

    豊富な新規事業構築実績

    check_circle

    すでにあるAIボットなどを活用も可能

AI活用支援のビフォーアフター:迷っている状態からGemini等を使いこなす状態への変化

経営者・役員・AI担当向け

AIパーソナル
トレーニング

  • check_circle

    まだAI活用できていない状態でも大丈夫

    check_circle

    1回2時間のみからご利用いただけます

    check_circle

    実務で使える「今のAI活用」を学ぶ

    check_circle

    トップ層こそAIに詳しく

AIガイドライン作成+定着研修の紹介バナー:御社に合ったルールづくりから社内への定着まで

生成AIの社内ルールを一緒に作る

AIガイドライン作成+
定着研修

  • check_circle

    御社の現状をヒアリングしながら一緒に作成

    check_circle

    AIツールごとの仕組みや契約の違いを踏まえて線を引く

    check_circle

    従業員の方への定着研修までご支援

AIガイドライン作成+定着研修の紹介バナー:御社に合ったルールづくりから社内への定着まで

AIの答えに、自社の名前を

LLMO・GEO・AIO
対策

  • check_circle

    御社の現状をヒアリングしながら一緒に作成

    check_circle

    AIツールごとの仕組みや契約の違いを踏まえて線を引く

    check_circle

    従業員の方への定着研修までご支援

まずは、いまのAI活用の
状況をお聞かせください。

何から始めるか決まっていなくても、ご相談いただけます。

無料相談・お問い合わせ