組織のAI活用をAIポータルと伴走支援で加速

AIの回答はどこまで人がチェックすべきか。確認が必要な3つの場面

AIの回答はどこまで人がチェックすべきか。確認が必要な3つの場面

執筆:寺田昇平

AI Portalize株式会社 代表取締役/AI Digital Community 代表理事

仕組みとコンサルティング伴走支援の両面で、組織のAI活用の加速を支援。

AIの回答をどこまで人がチェックすべきかは、社内のルールを作るときに、どこかで決めなければならない論点です。
「AIの出力は必ず人が確認する」と1行で書くのは簡単ですが、これをそのまま守ろうとすると、AIを使う意味が薄れてしまいます。

かといって、何も書かずに現場に任せると、確認する範囲が人によってばらばらになります。
そこで使いやすいのが、「間違えたときに取り返せるか」で、人が見るものとそのまま使ってよいものを分ける考え方です。

ガイドライン全体の組み立ては、生成AIの社内ルールの作り方。ガイドラインの項目サンプルと守れる環境にまとめています。

今回は、確認の手順ではなく、どの出力を人が見るかという線引きに絞って整理します。
人が見るのは、社外に出るもの、お金が動くもの、法務に関わるものの3つで、これに加えて、採用や評価のような重要な人事の判断はAIの出力だけで決めないようにしておきます。

社内向けのメモの要約・自分用の下調べ・会議のたたき台のように社内で完結し後から直せるものはそのまま使ってよく、社外に出るもの・お金が動くもの・法務に関わるものは人が見る、という分け方を示した図。採用や評価はAIの出力だけで決めないことも添えている

「必ず人が確認する」と書くと、確認の手間がそのまま業務に戻ります

まず、「全部を人が確認する」というルールが、なぜ回りにくいのかを見ておきます。

AIに下書きや要約を任せても、出てきたものを毎回すべて人が読み直すなら、かかる時間は大きくは減りません。
確認の手間がまるごと業務に戻ってくるので、忙しい現場ほど、このルールは守られにくくなると思います。

また、ガイドラインには事故を防ぐだけでなく、現場を待たせないという役割もあります。
「これは確認が要るのか」と迷うたびに誰かに聞きに行き、その返事に1週間かかるようなら、現場は使うのをやめてしまいます。
全部を確認の対象にすると、この迷いがどの作業にも出てきます。

つまり、先に決めておきたいのは「確認するかどうか」ではなく、「どれを人が見るか」の線です。

線は「間違えたときに取り返せるか」で引きます

では、その線はどこに引けばよいのでしょうか?
AIが間違えやすいかどうかではなく、間違えたときに取り返せるかどうかで分けると、現場は迷わずに済みます。

AIの間違えやすさで線を引こうとしても、どの作業で間違えるかは前もって分かりませんし、ツールやモデルが変わるたびに見直しが要ります。
一方、間違えたときの影響は、出力をどこで使うかで決まるので、ツールが変わっても同じ線で判断できます。

社内で完結していて、後から直せるものは、そのまま使ってよい側です。
例えば、社内向けのメモの要約、自分用の下調べ、会議に持っていくたたき台がこれに当たります。
間違いがあっても、気づいた人がその場で直せば済みます。

反対に、社外に出るもの、お金が動くもの、法務に関わるものは、間違いに気づいたときには取り返しにくくなっています。
この3つは人が見る、と決めておきます。

社外に出るものは、送った時点で取り消せません

ここからは3つの場面を、何が取り返しにくいのかという点から順に見ていきます。
最初は、社外に出るものです。

提案書、顧客へのメール、問い合わせへの回答、Webサイトの記事やプレスリリースは、相手に届いた時点で取り消せません。
社名や数字が1つ違っているだけでも、訂正の連絡が要り、相手からの信頼にも響きます。

迷いやすいのが、社内向けに作った資料です。
社内の資料でも、顧客に転送されたり、提案書に貼り込まれたりするなら、社外に出るものとして扱います。
「最終的に誰の目に触れるか」で判断しておくと、線がぶれません。

人が見るときの手順そのものは、AIの回答をファクトチェックする5分の型。全社の標準動作にするで、出典・数値・固有名詞などを見る順番まで整理しています。

お金が動くものは、間違いがそのまま請求や支払いになります

次が、お金が動くものです。
ここでは、数字の誤りが次の工程へ流れていき、相手とのやり取りにまで届く点が取り返しにくさになります。

見積書、請求書、支払いや発注の金額、価格の表示は、AIの出した数字が相手とのやり取りにそのまま使われます。
一度請求や支払いが済んでしまうと、取り消しや返金の手続きに加えて、相手への説明も必要になります。

社内の集計でも、その数字が請求や予算の判断に使われるなら、お金が動くものに含めます。
ここも社外に出るものと同じで、「この数字がどこにつながるか」で見ると判断しやすくなります。

人の確認をどこまでAIの仕組みで補えるかは、ダブルチェックをAIに任せる設計。全件確認と人の役割を分けるで、取り返しがつくかどうかでAIの置き場所を変える考え方とあわせて書いています。

法務に関わるものは、判断の責任を人が持ちます

3つの場面の残りが、法務に関わるものです。
ここは間違いの大きさに加えて、「誰がどう判断したのか」が後から問われる領域です。

契約書の条文、利用規約や社内規程の文面、法令の解釈、個人情報や著作権の扱いは、AIの答えがもっともらしく見えても、確かめずに使うと、後で問題になったときに判断の筋道を説明しにくくなります。
AIにはリスクのありそうな箇所を指摘させ、採るかどうかは人が決める、という分け方が現実的です。

契約書のチェックにAIを入れるときの役割の分け方は、契約書チェックにAIを入れる。法務業務の権限設計と使いどころにまとめています。
専用の製品の違いは、契約書チェックAIの比較。LegalOn・OLGA・Lisse法務AI・MNTSQと、汎用のAIで足りる範囲で比べています。

法務の担当者がいない会社でも、どこまでを自分たちで判断し、どこから専門家に相談するかを先に決めておけば、現場は止まりにくくなります。

社外に出るもの(提案書・メール・記事)は届いた時点で取り消せず、最終的に誰の目に触れるかで判断する。お金が動くもの(見積・請求・発注)は誤りが請求や支払いになり、数字がどこにつながるかで判断する。法務に関わるもの(契約書・規約・法令の解釈)は判断の筋道が後から問われ、どこから専門家に相談するかを先に決めておく、という3つの場面を比べた図

法務に関わる出力を人が見る線は、実際の資料でAIの回答を確かめてみると感覚がつかめます。AIの出力を確かめる目を自分の業務で養う AIリテラシー研修では、受ける方の業務の資料を題材に練習できます。

採用や評価は、AIの出力だけで決めないと書いておきます

3つの場面とは別に、ガイドラインに書いておきたいのが人事の判断です。
採用や評価のような重要な人事の判断を、AIの出力だけで決めない、という一文です。

定番の条項ですが、ガイドラインを作るときに書き漏らされやすいところでもあります。
人事の判断は社内で完結しているように見えるので、ここまでの3つの線だけでは拾えないことがあります。
ただ、不採用や評価の結果は本人の働き方に直接関わり、後から「AIの出した結果が間違っていた」と分かっても、元には戻しにくい判断です。

海外の規制でも、ここは慎重に扱われています。
欧州委員会の説明では、EUのAI法は、採用の書類選別のように雇用や働く人の管理に使うAIを「高リスク」に分類し、使う側に人による監督を求めています。
この分野のルールは、2027年12月2日から適用される予定です。

もちろん、AIを人事で使うなという話ではありません。
応募書類の整理や面接メモの要約のような下ごしらえはAIに任せ、合否や評価を決めるところは人が持つ、と分けておけば、AIの出力は判断の材料として使えます。

応募書類の整理と面接メモの要約はAIに任せ、その出力を材料にして合否や評価を決めるところは人が持つ、という人事の判断での分け方を示した図

線はそのまま使ってよい側まで書き、迷った例を足していきます

最後に、ここまでの線引きをガイドラインにどう書くかを見ておきます。

書くのは、人が見る3つの場面と人事の一文に加えて、「それ以外の、社内で完結し後から直せるものは、そのまま使ってよい」という一文です。
人が見るものだけを書くと、書かれていないものに確認が要るのかどうかで、また現場が迷います。
現場を待たせないためには、そのまま使ってよい側まで書いておくことが欠かせません。

ガイドラインに書く一文として、社外に出るもの・お金が動くもの・法務に関わるものは人が見る、採用や評価のような重要な人事の判断はAIの出力だけで決めない、それ以外の社内で完結し後から直せるものはそのまま使ってよい、の5つを並べた図。そのまま使ってよい側を書いておくことを特に示している

運用を始めると、「社内の勉強会用の資料を、あとで社外のセミナーでも使うかもしれない」のような、線の上に乗る相談が出てきます。
こうした相談と、そのときに決めた扱いを残しておき、ガイドラインの例として足していきます。
例が増えるほど、現場は聞きに来なくても自分で判断できるようになります。

自社の業務に線を当てはめるところから、一緒に考えられます

どの出力が社外に出て、どの数字がお金につながるかは、会社ごとの業務の流れによって変わります。
同じ「社内向けの資料」でも、ある会社では社内で閉じていて、別の会社では顧客の手に渡っている、ということがあります。

当社のAI活用の伴走支援では、業務ごとに出力の行き先を確かめながら、人が見るものとそのまま使ってよいものを分け、ガイドラインの文面に落とすところまでを一緒に進めています。
「どこまで確認させればいいのか」で社内の議論が止まっているときは、声をかけてください。

人が見るものを絞ったほうが、確認は続きます

AIの回答をどこまで人がチェックするかは、間違えたときに取り返せるかで決めます。
社外に出るもの、お金が動くもの、法務に関わるものは人が見て、採用や評価の判断はAIの出力だけで決めないようにします。

それ以外の社内で完結するものは「そのまま使ってよい」と書いておくと、現場は迷わずに動けます。

まずは、いまのガイドラインにある「人が確認する」の一文が、どの出力を指しているのかを読み直してみてください。

すぐ使える業務アプリが300以上

開いてそのまま使えて、AIで自社用にも直せます。15の分野から、やりたい作業で探せます。業務アプリを見る

執筆:寺田昇平

AI Portalize株式会社 代表取締役/AI Digital Community 代表理事

仕組みとコンサルティング伴走支援の両面で、組織のAI活用の加速を支援。

keyboard_backspace

お知らせ・組織AI推進ノウハウ一覧

無料 自社に当てはめて知りたい方へ

読んだ内容を、

御社の数字

で確かめませんか。

利用データから、御社のAI活用がいまどこにいるのかを判定します。
同業他社との比較と、次にやることをお渡しします。

組織のAI活用力診断のメインビジュアル(ノートPCの利用データと結果表)

Related

関連記事

Service

サービス一覧

AI Portalizeの管理画面イメージ:AI活用数・効率化時間の見える化とチームへの広がり

AIツールが見つかる。社内に広がる。使われ方が見える。

組織のAIポータル「AI Portalize」

  • check_circle

    やりたいことで検索すると、業務アプリ300以上とナレッジ250本以上から見つかる

    check_circle

    社内で作ったツールやナレッジが共有され、よく使われるものが上に並ぶ

    check_circle

    誰が何をどれだけ使っているかが、集計の手間なしで分かる

デジタル系企業特化のAIコンサルティング&伴走支援のイメージイラスト

実務に組み込むまで伴走

組織のAI活用を加速「AIコンサル&伴走支援」

  • check_circle

    従業員が安心して使うためのガイドライン策定

    check_circle

    ドメイン知識が豊富なコンサルタント

    check_circle

    業務分解からAIワークフロー作成

    check_circle

    研修から実務への組み込みまで

法人向けAI研修のイメージ:受講者が自分の業務でAIを使いながら学ぶ研修の様子

自社の業務で、使える知識に

実務で使える知識を「法人向けAI研修」

  • check_circle

    いま使っているAIと受講者の業務を伺って、誰に・どのAIで・どの業務を題材にするかを提案

    check_circle

    Gemini・Claude・AIエージェントなど、8つの研修例と230以上のテーマ例

    check_circle

    基本はオンライン。研修の資料と録画もお渡し

デジタル系企業特化のAIコンサルティング&伴走支援のイメージイラスト

豊富な新規事業立ち上げ実績

AIを活用した
新規事業の立ち上げ支援

  • check_circle

    検討からサービス構築まで

    check_circle

    豊富な新規事業構築実績

    check_circle

    すでにあるAIボットなどを活用も可能

AI活用支援のビフォーアフター:迷っている状態からGemini等を使いこなす状態への変化

経営者・役員・AI担当向け

AIパーソナル
トレーニング

  • check_circle

    まだAI活用できていない状態でも大丈夫

    check_circle

    1回2時間のみからご利用いただけます

    check_circle

    実務で使える「今のAI活用」を学ぶ

    check_circle

    トップ層こそAIに詳しく

AIガイドライン作成+定着研修の紹介バナー:御社に合ったルールづくりから社内への定着まで

生成AIの社内ルールを一緒に作る

AIガイドライン作成+
定着研修

  • check_circle

    御社の現状をヒアリングしながら一緒に作成

    check_circle

    AIツールごとの仕組みや契約の違いを踏まえて線を引く

    check_circle

    従業員の方への定着研修までご支援

AIガイドライン作成+定着研修の紹介バナー:御社に合ったルールづくりから社内への定着まで

AIの答えに、自社の名前を

LLMO・GEO・AIO
対策

  • check_circle

    御社の現状をヒアリングしながら一緒に作成

    check_circle

    AIツールごとの仕組みや契約の違いを踏まえて線を引く

    check_circle

    従業員の方への定着研修までご支援

まずは、いまのAI活用の
状況をお聞かせください。

何から始めるか決まっていなくても、ご相談いただけます。

無料相談・お問い合わせ