生成AIに入れてはいけない情報とは。社内ルールを3段階で線引きする

「この資料、AIに貼っていいんでしょうか」。
生成AIの活用が社内で広がるほど、推進担当のところにはこの手の質問が集まってきます。
一件ずつ個別に答えていると、それだけで担当者の時間が埋まっていきます。

ただ、聞くのが面倒になった人はそのうち自己判断で進めてしまいますし、起きる事故のほとんどは悪意ではなく「入れてはいけない情報の線引きを知らなかった」ことが原因になっています。
この記事では、生成AIに入れていい情報とダメな情報の線引きを、個人の注意力に頼らず組織のルールとして配る方法を整理していきます。

「気をつけましょう」では、事故は止まらない

情報の取り扱いを個人の注意に委ねている組織は少なくありません。
ただ、それだけでは事故が減らない理由が3つあります。

まず、判断の基準は人によって違います。
「顧客名くらいなら大丈夫」と考える人もいれば、「社外に出る可能性があるものは一切入れない」と考える人もいて、同じ組織の中に両方が同居しています。
基準が示されていないと、慎重な人はAIを使わなくなり、大胆な人のほうが事故を起こすという、いちばん困る組み合わせができあがります。

入力のほかに情報が外へ出る経路と、実際に起きた事例は、AIの情報漏洩はなぜ起きるか。事例と、禁止だけに頼らない対策にまとめています。

次に、忙しいときほど確認が飛びます。
判断に迷ったときの連絡先が決まっていなければ、「聞くより貼ってしまったほうが早い」が選ばれてしまいます。

もうひとつが、そもそも何が機密かを本人が知らないケースです。
中途入社の人や異動してきた人、業務委託のメンバーは、自社でどの情報がどの重さで扱われているかをそもそも知りません。
ここは注意力の問題ではなく、伝えていないという情報伝達の問題です。

つまり必要なのは「気をつける」という呼びかけではなく、誰でも同じ答えにたどり着ける判断の枠を配ることです。

情報は3段階に分けると、現場は自分で判断できる

実務で機能しやすいのは、「入れてはいけないものの一覧」ではなく、扱う情報を3段階に分ける形です。
禁止リストは項目が増えるほど誰も覚えなくなりますが、3段階に分けておけば現場は自分の手元の資料をそのまま当てはめて考えられます。

まず段階1は、そのまま入れてよい情報です。
すでに公開されている情報や自分で書いた文章、一般的な調べものや文章の書き方の相談などが当てはまります。
ここに当てはまるものは迷わず使ってよいと明示しておくことが大事で、線引きの目的は使わせないことではなく、安心して使える範囲を広く確定させることにあります。

段階2は、加工すれば入れてよい情報です。
顧客名や取引先が特定できる記述、取引条件、社内の数字、個人が特定できる記述などがここに入り、実務でいちばん多く、いちばん判断が止まりやすいのもこの段階です。
とはいえここを「禁止」に寄せてしまうと、業務の中心的なデータがまるごとAI活用の対象外になり、効率化の効果がほとんど出なくなります。

段階3は、加工しても入れない情報です。
APIキーやパスワードなどの認証情報、マイナンバーや保険証番号のような特定個人情報、未公開の決算数値や人事異動の情報、他社から秘密保持契約のもとで預かっているデータが当てはまります。
この段階は覚えられる数まで絞り込むのがコツで、5項目前後に収めておくと全社に浸透します。

段階2は加工の型と職種別の例があれば止まらない

線引きを配るときに一緒に渡す必要があるのが、段階2の情報を安全に扱うための加工の型です。
ここが空欄のままだと、現場は結局「使わない」を選んでしまいます。
加工の手段は大きく4つあり、固有名詞や数字の一部を伏せ字にする方法、実在の社名・人名を「A社」「Bさん」のように仮名に置き換える方法、実際の傾向を保ったまま数値や日付を架空のものに差し替える方法、詳細を渡さず構造や論点だけを要約して相談する方法です。

このとき運用ルールとして必ず添えたいのが、置換対応表の扱いです。
「A社が実際はどの会社なのか」という対応関係は自分の手元のファイルだけで管理してAIには入力せず、同じ対象を場面によって違う仮名で呼ばないようにします。
この2点を守るだけで、返ってきた回答を元の固有名詞に戻して社内で使える状態になります。

加工の型そのものは個人情報を含む文章をAIに渡す前に。マスキングを標準工程にするで個別に扱っています。

もう一点、忘れずに手を打っておきたいのが加工の手間です。
文章量が多いと伏せ字作業は見落としが出やすく、面倒さがそのまま貼ってしまう動機にもなります。
個人情報を自動で検出してマスキングする社内ツールを用意し、加工のコストを下げておくと、ルールが守られる確率は目に見えて上がります。
ルールと道具はセットで配るものだと思います。

3段階の表を配っただけでは、多くの人は自分の業務に引き寄せて理解してくれません。
そのため、研修や説明会では必ず職種別の具体例を出すようにしています。
危ないと感じる場面は職種によってまったく違い、同じ「顧客の情報」でも営業と人事と経理では手元にあるものの形が変わります。

営業であれば、提案書や商談メモをそのまま要約させる場面で、顧客名と取引条件が同時に入っているため加工なしで扱うと段階3に近い重さになります。
人事であれば応募書類や評価コメントの整理で、氏名・連絡先・評価の記述が並ぶいちばん慎重さが要る領域です。
経理であれば請求データや締め前の月次数値で、未公開の経営情報に触れます。
開発や情シスであればエラーログや設定ファイルをそのまま貼る場面で、認証情報が紛れ込んでいることに気づかないケースがあります。

自分の日常業務の例で聞いたときに初めて、「これは自分の話だ」と受け取ってもらえます。
逆に言えば、職種別の例を用意していない周知は、実施した扱いにはなっても効果はあまり期待できません。

ルールはA4一枚に収まり、判断者と例外の道もセットで決まる

配布物はA4で1枚に収めるのが現実的です。
3段階の表、加工の4つの型、迷ったときの連絡先の3点が入っていれば十分です。

同時に決めておきたいことが2つあります。

まずは判断者です。
部門ごとに一次判断をする人を置き、迷ったら情報管理や法務にエスカレーションする2段構えにしておくと、推進担当ひとりに質問が集中する状態を避けられます。

もうひとつが例外の道です。
禁止だけを示して迂回路を用意しないと、人は勝手に迂回します。
「この情報を扱いたい」という申請を受け付け、条件つきで許可する経路を細くでも開けておくほうが、実態としては統制が効きます。

迂回路が無い状態は生成AIのルールが守られない理由の1つで、相談先と申請の道の用意と合わせて書いています。

なお、使っているツールの契約形態によって扱える範囲は変わります。
個人向けの無料アカウントと法人契約、API経由の利用とでは前提が異なるため、「全社で使ってよいのはこのツールのこの環境」という指定まで含めて配ることをおすすめします。
この違いはAIに入力した情報は学習される？無料版・法人版・APIの違いを整理で整理しています。

配り方も段階に分け、全部を一度に出すと、どれから手をつければよいのか分からなくなります。
最初の2週間は、段階3だけを決めて周知します。
絶対に入れてはいけないものが5つ、これだけを全社に届ければ、事故の大半はここで止まります。

次の1か月で、段階2の加工の型とツールを配り、職種別の例を研修や部門会議に組み込みます。
ここまでで、現場が判断できる状態になります。
そのあとは継続的な運用です。

寄せられた質問のログを月次で棚卸しして3段階の表を更新し、新入社員や異動者のオンボーディングに組み込みます。

あわせて、把握できていない利用が残っていないかも見ます。
線引きを配っても個人アカウントでの利用が続いているなら、シャドーAI（野良AI）とは。禁止せずに見える化と正規の道で減らす対策の論点になります。

効果を測る指標としては、「これは入れてよいか」という問い合わせ件数が有効です。
運用が回り始めると質問の総数は減り、代わりに判断の難しい案件だけが上がってくるようになります。

線引きを決めるより、守れる環境を作るほうが難しい

ここまで書いてきたとおり、線引きを決めること自体は自社でも進められます。
難しくなるのは、決めたルールを本当に守れる環境まで用意する段階です。
どのツールをどの契約形態で全社に配るのか、情報システム部門とどう役割を分けるのか、加工用のツールを誰が作って保守するのか。
ここまで来ると、ガイドラインの文書づくりとは別の設計が必要になります。

私たちが提供しているAI推進の伴走支援でも、AI利用ガイドラインの策定と利用環境の整備は必ずセットで進めています。
同じところで止まっている場合は、進め方の参考になるかもしれません。

なお、ガイドライン策定の全体像は「生成AIの社内ルールの作り方。ガイドラインの項目サンプルと守れる環境」で整理しています。
本記事はその中の「何を入れてよいか」の部分を掘ったものです。

線引きは、個人のモラルではなく組織の設計で決まる

AIに入れていい情報とダメな情報の線引きは、個人のモラルの話ではなく組織の設計の話です。
扱う情報を3段階に分けて、段階3は覚えられる数に絞り、段階2を止めないための加工の型と道具を一緒に配ります。
そのうえで、判断者と例外の道まで決めておきます。

まずはA4 1枚の配布物を作り、段階3の5項目を全社に届けるところから始めるのが、いちばん費用対効果の高い一手ではないかと思っています。