AIの回答をファクトチェックする5分の型。全社の標準動作にする

AIが事実と異なる内容を、もっともらしい文章で返してくることがあります。
いわゆるハルシネーションで、ここに対するファクトチェックをどう型にするかという話です。
社内の注意喚起はたいてい「AIの回答は必ず確認しましょう」で終わりますが、この言い方では防げません。

何をどう確認するのか決めていないので、忙しい現場は確認したつもりで通すことになります。
では、何を確認すればいいのでしょうか？

ということで、検証を5分で終わる手順に分解して、全社の標準動作にする方法を整理していきます。
成果物の品質を組織でそろえる話の全体像はAIアウトプットの品質を組織でそろえる。標準化とレビュー体制にまとめてあります。

「気をつける」では防げない。誤りは5箇所に集まっている

注意喚起が効かない理由は、大きく2つあります。
まず、誤りが自然な文章の中に混ざり込みます。
文章全体が破綻していれば気づきますが、9割正しい文章に違う数字が1つ混じっていても、読んでも違和感がありません。
人間は不自然さを手がかりに疑うので、不自然さのない誤りは検出できません。

もうひとつが、確認にかかるコストが見えないことです。
「確認しましょう」と言われても、全部を裏取りするなら自分で調べたほうが早いと判断されるので、確認はそのまま省略されます。
つまり必要なのは注意喚起ではなく、確認する対象を絞って所要時間を計算できる状態にすることです。

全部を疑うのをやめて、誤りが出やすい箇所だけを見れば、5分で終わります。
実務で問題になる誤りは、ほぼ5種類に収まります。

出典であれば、存在しない資料名や記事名が挙がったり、URLの形をしているのに開けなかったりします。
数値であれば、統計の値や市場規模、料金、日付をまたぐ計算結果に誤りが出ます。
固有名詞であれば、会社名・製品名・人名・部署名が似た名前と混ざります。

日付と時系列であれば、「昨年」「最新」といった相対表現や、制度の改正時期、サービスの提供開始日でずれます。
言い回しであれば、断定してよくないことを断定していたり、法令や契約の解釈を確定的に書いていたりします。

この5つ以外、つまり文章の構成や説明の流れは、確認の対象から外して構いません。
確認しないと決めることが、確認を回す条件になります。

ファクトチェックは5分、5つの手順で終わる

先ほどの5つを、手を動かす順に並べ直します。
最初の1分で、出典を1つずつ開きます。
挙がっている出典を実際に開いて、存在するか・内容が合っているかを確認し、開けないものはその場で削除します。

次の2分で、数値を一次情報と照合します。
数字が入っている箇所を拾って出典元の数字と一致するかを見る工程で、ここに最も時間を割きます。
表の形で出させている場合の注意点は一覧や数値の出力を信頼できる形にする。AIの表出力の作法で扱っています。

さらに1分で、固有名詞を検索して確認します。
会社名・製品名をそのまま検索して表記が正しいかを見る工程で、表記の揺れ（株式会社の位置、カタカナ／英字）も確認します。

30秒で、日付と時系列を確認します。
相対表現を絶対日付に置き換えるだけの作業で、たとえば「昨年」を「2025年」に書き換えておくと、後から読む人の誤解が消えます。
最後の30秒で断定の強さを見て、法令・契約・医療・税務に関する記述が断定になっている箇所を「〜とされています」「専門家に確認が必要です」に直します。

合計5分です。
これを成果物を出す前の最後の工程として置きます。

社内に配るときは、この形にします。

□ 挙がっている出典を全部開いた（開けないものは削除した）
□ 数値を一次情報と照合した（照合できない数値は削除した）
□ 会社名・製品名・人名を検索して表記を確認した
□ 「昨年」「最新」などを絶対日付に書き換えた
□ 法令・契約・税務の記述が断定になっていないか見た

5項目より増やさず、10項目にすると使われなくなります。
各項目は「〜を確認する」ではなく「〜した」という完了形で書きます。
行動が終わったかどうかで判断できる形にしておくと、実行されます。

配布先は個人ではなく、業務フローの中になります。
報告書のテンプレートの末尾にこの5行を貼っておく、あるいは提出フォームのチェック欄にします。
目に入る場所に置くのが定着の条件です。

このチェックリストを社内ルールのどこに位置づけるかは、生成AIの社内ルールの作り方。ガイドラインの項目サンプルと守れる環境で、ルール全体の組み立てとあわせて整理しています。

照合できない数値は削除で守り、二重チェックは3基準で絞る

チェックリストの中でいちばん効くのは、照合できなかった数値を削除するという判断です。
現場はつい「たぶん合っているだろう」と残してしまいます。
残すか消すかの基準がないと判断が人によって変わるので、迷ったら消すと組織のルールにしておきます。
数値が1つ減って説明力が落ちるより、間違った数値が社外に出るほうが損失は大きいので、この優先順位を明示しておくと現場は迷いません。

そのうえで、どうしても数値が必要な場合は「自分で調べる」に切り替えます。
AIに再度聞き直しても同じ誤りが返ってくる可能性があるので、有効ではありません。
5分の型は作成者自身が回すものですが、そのうえで人がもう一度見るものは絞ります。

基準は3つで、社外に出るか、金額が動くか、人事に関わるかです。
このどれかに当たるものだけ、作成者以外が5分の型をもう一度回します。

全成果物を二重チェックにすると工程が詰まり、結果としてチェックなしで出るものが増えます。
対象を絞ることが、チェックを機能させる条件になります。

ただ、二重チェックの担当は同じ部門の誰かで構いません。
専門知識よりも、作成者以外の目であることのほうが効きます。

浸透は2つの指標で見え、参照範囲を狭めるほど検証は軽くなる

浸透したかを見る指標は2つです。
ひとつが差し戻し内容の変化で、レビューでの指摘が数値や固有名詞の誤りから構成や表現の話に移っていれば、型が機能している証拠です。

もうひとつがチェック欄の記入率で、テンプレートに置いた5行が埋まっているかどうかです。
埋まっていないなら、置き場所が業務フローと合っていません。
工程として組み込む話は校正・チェック工程を標準化する。誤字から論理矛盾・数値照合までで扱っています。

どちらも厳密に測る必要はなく、3か月ごとに数件見れば傾向は分かります。
運用の工夫としては、回答に出典が付くツールを社内標準にする手があります。
出典が示されれば、1分目の「出典を開く」が現実的な作業になります。
逆に出典が出ないツールでは、数値の照合を自分で検索し直すことになるので、5分では終わりません。

同じことは、社内文書を参照させる使い方にも当てはまります。
参照させる情報を社内の一次資料に限定すれば、そもそも誤りが混ざる余地が減ります。
検証コストを下げる最も効く手は、検証する側の努力ではなく、参照範囲のほうを狭めることです。

また、同じ5項目でも、業務によって危ない箇所は違います。
全部を同じ重みで見るより、部門ごとに重点を1つ決めたほうが実行されます。

営業・マーケティングは固有名詞です。
取引先の社名や担当者名の誤りは、それだけで信頼を損ないます。
提案書に出てくる会社名は必ず先方の公式表記に合わせます。

経理・財務は数値です。
金額・税率・期日について、照合できないものを残さない運用を徹底します。

人事は言い回しと制度の日付です。
労務に関する記述は、制度改正の時期がずれると誤りになり、しかも社員に直接影響します。

法務・総務は断定の強さです。
契約や法令の解釈を確定的に書いた文章が社内で回ると、それを前提に判断が進んでしまいます。

部門に配るときは、この重点を1行添えます。
「営業部は特に社名の表記を見てください」と書くだけで、チェックの精度が上がります。

運用が崩れるのは、だいたい同じ3つ

まず、網羅性を求めて項目を増やしてしまいます。
15項目にすると誰も使わなくなるので、あくまで5項目に絞ります。

次に、検証を個人の心がけに任せてしまいます。
「気をつける」で運用すると忙しい時期に必ず飛ぶので、テンプレートやフォームのほうに埋め込みます。

もうひとつが、検証までAIに任せて完結させてしまう点です。
同じように検証も任せると同じ傾向の誤りを見逃すので、出典と数値は人が開いて確認する部分として残します。

対外に出す文書ではさらに観点が増えるので、「AIが書いた感」を組織として許容しない。対外文章の品質基準を決めるもあわせて参考になります。

確認の手順をテンプレートや様式に埋め込むところは、私たちのAI伴走支援でも、ガイドラインづくりから定着のための研修まで、現場の担当者と一緒に進めています。

ハルシネーション対策は、注意喚起ではなく仕組みで守られる

ハルシネーション対策は、注意喚起ではなく手順の配布で決まります。
誤りは出典・数値・固有名詞・日付・言い回しの5箇所に集まるので、そこだけを5分で見る型にします。

チェックリストは5項目・完了形で書いて、業務フローの中に埋め込みます。
照合できない数値は削除すると決め、二重チェックは「社外・金額・人事」の3基準で絞ります。

検証コストを下げる最も効く手は、検証する側の努力ではなく参照範囲を狭めることです。
出典が付くツールを標準にして、参照させる情報を社内の一次資料に限定します。
自部門でよく作る成果物のテンプレートには、この5行がそのまま収まります。