生成AIのリスクとセキュリティ対策。情報漏洩や誤った回答など、会社で起きる6つのリスクへの備え

生成AIのリスクは、情報漏洩、著作権などの権利の侵害、誤った回答、偏った出力、会社が把握していないAIの利用、AIを狙う攻撃の6つに分けると、備えを1つずつ決められます。
6つは、AIに情報を入れるとき、AIの答えを使うとき、AIを使う環境の3か所で起きるので、場所ごとに誰が確かめるかを決めておく必要があります。

まとめて話すと、情報漏洩から始めた話が著作権や間違った回答へと広がり、聞いた側には「結局、何に気をつければいいのか」が残りません。
法律やセキュリティに関わる最終的な判断は、社内の法務や情報システムの担当に確認してください。

生成AIのリスク6つと、起きる場所

先に6つの種類と起きる場所、会社の備えを1つの表にします。

6つの種類と表の備えは、公的な資料の記述をもとにした当社の整理です。
起こり方と備えの中身は、このあと種類ごとに書いています。

公的な資料での生成AIのリスクの挙げ方

国や公的な機関の資料も、生成AIのリスクを1つではなく、いくつもの種類に分けて挙げています。

総務省と経済産業省の「AI事業者ガイドライン（第1.2版）」は、2026年3月31日に公表されています（総務省の掲載ページ）。
別添の「AIによるリスク」では、「機密情報の流出」「知的財産権等の侵害」「ハルシネーション等による誤った出力」「バイアスのある出力」など、20を超える項目を国内外の事例と一緒に並べています。
そのうえで、社会全体で取り組むものも含むので、事業者がすべてに直ちに対処しようとする必要はないとしています。

IPA（情報処理推進機構）が2026年1月29日に発表した「情報セキュリティ10大脅威 2026」では、組織向けの3位に「AIの利用をめぐるサイバーリスク」が初めて入りました（IPAの発表）。
IPAは、AIへの理解不足による意図しない情報漏えいや他者の権利の侵害、AIの結果を検証せずに鵜呑みにする問題、AIの悪用による攻撃の容易化などを、このリスクに含めています。

ただ、どちらの資料も、リスクの中身は示している一方で、社内のどの場面で誰が手を打つかまでは書いていません。
そのため、会社でAIを使う側から、入れるとき・使うとき・使う環境の3か所に置き直して考えます。

情報漏洩の起こり方と会社の備え

最初は、AIに情報を入れるときに起きる情報漏洩です。

ガイドラインの別添は、個人情報や自社のノウハウなどの機密情報がプロンプト（AIに送る指示の文）として入力され、AIの出力などを通じて流出するリスクを挙げています。
例として、従業員が機密にあたるソースコードを、一般の利用者向けの対話型の生成AIに入れてしまった事例が書かれています。
社内の資料をAIに検索させて答えさせる使い方のように、外部のデータやサービスとつなぐ場合は、意図しない範囲に重要な情報が漏れることにも注意が要るとしています。

AIによる個人情報漏洩については、個人情報保護委員会が2023年6月2日に「生成AIサービスの利用に関する注意喚起等」を出しています（個人情報保護委員会の注意喚起）。
会社が個人情報を含むプロンプトを入れるときは、利用目的の達成に必要な範囲に収まるかを十分に確かめるよう求めています。
本人の同意なく個人データを入れ、それが応答の出力以外の目的で扱われると法律に違反するおそれがあるので、AIの事業者がそのデータを機械学習に使わないことなどを確かめるよう書かれています。

会社の備えは、入れてよい情報を段階に分けて決めること、学習に使わない法人向けのプランを使うこと、AIにつなぐフォルダの共有範囲を見直すことが中心です。
線引きの決め方は生成AIに入れてはいけない情報とは。社内ルールを3段階で線引きするに、AIの情報漏洩が起きる経路と事例、漏れたときの初動はAIの情報漏洩はなぜ起きるか。事例と、禁止だけに頼らない対策にまとめています。

著作権などの権利の侵害と、社外に出す前の確認

次は、AIの答えを使うときのリスクで、まずは著作権などの他者の権利です。

ガイドラインの別添は、生成AIで作ったものが他者の知的財産権などを侵害するおそれがあるとして、AIで作ったプログラムのコードも例に挙げています。
同じ箇所の注によると、学習や開発の段階では、著作権法の第30条の4により、作品を「享受」する目的でなければ必要な限度で許諾なく使えます。
一方で、作ったものを使う段階では、通常の著作権侵害と同じく、既存の作品に似ているか（類似性）と、それをもとにしたか（依拠性）で判断されるとしています。

一言でいうと、社内の検討に使う下書きと、広告や納品物のように社外に出すものとでは、確かめる重さが違います。
当社では、社外に出す前に似た作品がないかを調べる担当を決め、どんなプロンプトで作ったかを残しておく形をおすすめします。
AIで作った画像を広告や納品物に使うときのツールとプランの選び方や契約は、AI生成画像の商用利用と納品。社外に出す前に決める3つのラインで扱っています。

誤った回答と偏った出力を防ぐ確かめ方

同じく答えを使うときのリスクでも、誤った回答と偏りは、社外に出る前に社内の判断へそのまま入り込みやすいところが違います。

生成AIが事実と異なる内容をもっともらしく答えることは、「ハルシネーション」と呼ばれます。
別添には、米国の弁護士が訴訟の資料づくりに生成AIを使い、存在しない判例を引用してしまった事例が載っています。
自分で操作まで進めるAI（AIエージェント）では、人が意図しない商品の注文やファイルの削除を行うおそれも挙げられています。

偏りについては、学習したデータに特定の属性が多く含まれていると、出力が偏ることがあると書かれています。
例えば、過去10年の履歴書の多くが男性だったために、ある企業のAIの採用システムが女性を不利に扱うようになり、運用をやめた事例も載っています。

ガイドラインの本編は、AIの判断を人が信頼しすぎて自分で確かめなくなる「自動化バイアス」にも注意を促しています。
AIを使う側に求める事項としては、出力の精度とリスクの程度を理解して使うことや、AIの出力を特定の個人の評価の参考にするときは、AIを使っていることを本人に知らせることが挙がっています。

会社の側では、数字や固有名詞、社外に出す文書は、元の資料で確かめてから使うと決めておきます。
採用や人事評価のように人の評価に関わる場面では、AIを使ってよい工程と、最後に判断する人を前もって決めておく必要があります。
注文や削除のように取り消しにくい操作をAIエージェントに任せるなら、実行の前に人が承認する形にしておくと安心です。

生成AIのセキュリティと、会社が把握していないAI

残るのは、どのAIを、どんな環境で使っているかに関わるリスクです。

別添は、企業のルールが整っていないと、従業員が会社の管理の外で一般の利用者向けの生成AIを業務に使い、リスクの高い使い方をするおそれがあるとしています。
会社が把握していないこうしたAIの使い方は、シャドーAIと呼ばれます。
入れてよい情報の線引きも、法人向けのプランの設定や記録も、会社が契約したAIの中でしか働かないので、シャドーAIで使われた分には、ほかのリスクへの備えがどれもかかりません。

また、AIそのものを狙う攻撃もあります。
別添では、AIに読ませる文書などに指示を紛れ込ませる「間接プロンプトインジェクション」によって、AIに設定された制御を無視した出力をさせるリスクを挙げています。
外部のシステムと自動でつながるAIエージェントでは、弱いところを突かれて動きを操られ、社内のデータが外に送られるおそれもあるとしています。
AIで合成した声を使った詐欺や、AIでのマルウェアづくりのように、攻撃する側がAIを使う例も載っています。

会社の備えは、禁止だけに頼らず、会社が契約したAIを使いたい人がすぐ使える正規の道を用意することです。
あわせて、AIに読ませるデータと、AIエージェントに許す操作の範囲を絞り、AIの提供者が示すセキュリティ上の注意点を守ります。
把握できていない利用の見つけ方と正規の道の用意の仕方は、シャドーAI（野良AI）とは。禁止せずに見える化と正規の道で減らす対策にまとめています。

6つの備えの持ち主と社内ルール

リスクを種類に分けておくと、それぞれの備えを誰が持つかも分けて決められます。
推進担当の方からは、「6つのうち、どれを誰が持てばいいのか？」という声が上がります。
中堅企業なら、次のように割り振ると動きやすいと考えます（会社の体制によって変わります）。

経営層への説明では、この種類と持ち主に、起こり方と備えを並べた1枚の表があると、どこまで手が打ててどこが残っているかを一緒に確かめられます。
とはいえ、ガイドラインの別添が言うとおり、最初からすべてをそろえなくてよいので、自社の使い方で起こりやすい種類から手を付けます。

決めた備えは、社員に配る生成AIの社内ルールに書き込んでおきます。
項目の見本と作る順番は生成AIの社内ルールの作り方。ガイドラインの項目サンプルと守れる環境に、ルールが作りかけで止まる、作っても読まれないといったときの原因と手当ては「AIの社内ルールが整っていない」のページに書いています。

部署ごとの業務に当てはめたリスクの洗い出し

同じ生成AIのリスクでも、営業の提案書、人事の評価、開発のコードでは、出てくる種類も、確かめる人も変わります。

私たちのAI活用の伴走支援では、部署ごとにAIを使っている業務を一覧にし、6つのうちどのリスクが出るか、どこで人が確かめるかを、現場の方と一緒に決めていけます。

生成AIのリスクは、禁止ではなく確かめる人を決めて小さくする

生成AIのリスクは、6つの種類に分けると、起こり方と備えを1つずつ話せます。
使うのをやめるだけでは、会社が把握していないAIに使い方が移るので、入れるとき、使うとき、使う環境のどこで誰が確かめるかを決めておくほうが、リスクを小さくできます。

まずは、6つのうち持ち主が決まっていないものがいくつあるかを、経営会議の前に数えておくことをおすすめします。

参照した情報（2026年10月29日に確認）

• 総務省「AI事業者ガイドライン」掲載ページ

• 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」本編（PDF）

• 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」別添（PDF）

• IPA「情報セキュリティ10大脅威 2026」の発表

• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」