AIに計算させない。数字を扱う業務での役割分担を組織ルールにする

請求金額の集計をAIに頼み、返ってきた数字をそのまま使ったところ、後から確認すると1件だけ計上が漏れていました。
こうしたAIの計算間違いによる事故は、利用が広がるほど増えていきます。
厄介なのは、返ってくる数字が「もっともらしい」ことです。
桁数も形式も自然で明らかな異常値でもないため、確認されないまま通ってしまいます。

数字を扱う業務でAIとどう役割分担するかを、組織のルールとして決める話をここで整理していきます。
回答そのものを検証する型はAIの回答をファクトチェックする5分の型。全社の標準動作にするにまとめてあります。

経理・請求まわりでの事故はこうして起きる

なぜ同じような事故が繰り返されるのでしょうか？
決まった型が、いくつかあります。

まず、集計の対象が漏れます。
数十行のデータを渡して合計を出させると一部が計算に入らないことがあり、合計値だけを見ても気づけません。

次に、条件の解釈がずれることです。
「今月分だけ」と指示したときの月の境界や「税抜き」の対象範囲がそうで、指示の解釈がずれても結果はもっともらしい数字で返ってきます。

3つ目は、途中の計算が省略される点です。
複数段の計算を頼むと途中の工程が飛ばされることがあり、最終値だけ見ていると分かりません。

4つ目は、再実行すると違う答えが出る点です。
同じデータで同じ依頼をしても違う数字が返ることがあり、検算すれば気づきますが検算しなければそのまま通ります。

共通しているのは、間違いが間違いらしく見えないことです。
だからこそ、「気をつけて確認する」という類の対策は機能しません。

原則：計算はAIに作らせたツールにやらせる

対策の中心になるのはこれです。
AIに直接計算させるのをやめ、AIには計算するツールのほうを作らせます。

具体的には、集計や計算を表計算の数式やスクリプトとして書いてもらい、それを実行して結果を得ます。
AIが書いた数式は人が読んで検証できますし、同じ入力に対して常に同じ結果を返します。

この置き換えには3つの効果があり、まずは再現性が出ます。
何度実行しても同じ結果になります。

次に、検証できることです。
数式やコードは目で読めるので、条件の解釈が合っているかを確認できます。
数字だけ返ってきた場合は、合っているかを確かめる手段がありません。

3つ目は、繰り返し使える点です。
一度作れば毎月使えますし、毎回依頼するより速くなります。
こうした小さなツールの作り方は「あったら便利」を1日で形にする。現場発ツールの作り方と社内配布で扱っています。

つまりこの原則は、正確性のためだけでなく業務としても効率的です。
この位置づけで社内に伝えると、制約ではなく作法として受け取られます。

任せてよい／いけないの判定と、前後の工程

AIに直接計算させてよいかどうかは、どう判断すればよいのでしょうか？
次の順番で判定します。

1つ目の問いが、その数字が社外に出るか、または金額が動くかどうかです。
該当するなら直接計算させず、ツールのほうを作らせます。
請求、見積、給与、税務、契約金額がここに入ります。

2つ目が、その数字が意思決定の根拠になるかどうかです。
該当するならこれも直接計算させません。
投資判断、人員計画、価格決定がこれにあたります。

どちらでもなく傾向をつかむためのものであれば、直接やらせて構いません。
「この売上データの傾向を教えて」「気になる変化はどこか」といった使い方で、正確な値ではなく見るべき箇所を見つけるために使います。

この3段の判定は現場でも迷いません。
「金額が動くか、判断の根拠になるか」を聞くだけで済みます。

役割分担を考えるうえで押さえておきたいのは、AIが不得意なのは計算そのものだという点です。
数字の前後の工程においては、むしろ強くなります。

前工程は、形式のばらつきを整える、表記を統一する、複数のファイルを同じ形にそろえる、必要な列だけを抜き出すといった作業です。
手作業だと時間がかかる部分ですし、計算そのものではないので安全に任せられます。
CSVまわりで止まる業務はCSVで止まる業務をなくす。文字化け・0落ち・突合の内製解決で個別に扱っています。

後工程は、集計結果を読んで異常を指摘させる、前月との差分の理由を推測させる、報告文にまとめるといったところで、ここも強い領域です。
レポート化まで含めるならデータ可視化を誰でもできる状態にする。分析レポートの自動生成が参考になります。

つまり実務の形は、前処理をAI、計算をツール、解釈と報告をAIという3段構成になります。
この形を配ると、現場は「AIで数字は扱えない」ではなく「扱い方がある」と理解します。

部門別の適用例と、1枚にまとめるルール

部門ごとに当てはめると、どう変わるのでしょうか？
経理では、請求書と入金の突合、経費の集計、月次の締めのすべてについて計算はツールに寄せます。
AIに任せるのは、フォーマットの違う請求書からデータを抜き出す前工程と、差異が出た項目の理由を推測する後工程です。
経理まわりの型は経理のAI活用を型にする。集計・照合・チェックの標準セットにまとめてあります。

営業管理では、予算と実績の管理・案件の集計・インセンティブの計算について集計はツールに寄せ、AIは案件情報の整形と進捗の異常を指摘する部分に使います。
人事労務では、勤怠の集計・残業時間・社会保険がありますが、ここは制度の解釈が絡むので計算に加えて条件の確認まで人が持ち、AIに任せるのは勤怠データの形式変換と規程の該当箇所を探す部分です。
マーケティングでは、広告の成果集計や費用対効果が意思決定の根拠になるので集計はツールで行い、AIには複数媒体のレポートを同じ形にそろえる前処理と変化の要因の仮説出しを任せます。

社内に配る形のほうも決めておきます。
書くのは4行で足ります。
金額が動く数字、社外に出る数字、判断の根拠になる数字は、AIに直接計算させず、数式やスクリプトを作らせてそれを実行する形にします。

傾向をつかむための概算は直接聞いてよいことにしますが、その数字をそのまま資料に載せないことだけは添えておきます。
前処理（形式の整え・抽出）と後処理（解釈・報告文）はAIに任せてよく、AIが書いた数式は条件の解釈が合っているかを人が読んで確認します。

これを既存の経理規程や業務手順書に、1項目として足します。
別のガイドラインを新設しないのがコツで、新しい文書を作ると読まれませんが、既存の手順書に足せばその業務をやる人の目に必ず入ります。

全社に向けたAI利用ルールそのものの組み立ては、生成AIの社内ルールの作り方。ガイドラインの項目サンプルと守れる環境に分けて書いているので、ここでは業務の手順書に足す1項目に話を絞っています。

読ませて解釈させる使い方と、数字が合わないときの切り分け

計算させないという原則だけを伝えると、どうなるでしょうか？
数字を扱う業務全般でAIが避けられてしまうことがあります。

確定した数字を読ませて解釈させる使い方は、むしろ最も価値が出る領域です。
月次の実績が固まったあとにその表を渡して、「前月と比べて大きく動いた項目と、考えられる要因を挙げてください」と聞くような使い方になります。
数字を作っているわけではないので計算の誤りは起きず、人が見落としがちな箇所を拾ってくれます。

複数部門の数字を並べて「他と傾向が違う部門はどこか」と聞く使い方も有効です。
異常の発見は計算ではなくパターンの読み取りなので、得意な領域に入ります。

社内に伝えるときは、「計算はさせない」と「読ませて解釈させるのは積極的にやる」を必ずセットにします。
片方だけを伝えると、数字を扱う部門がAI活用から降りてしまいます。

運用に入ると、「ツールで出した数字と手集計が合わない」という相談も来ます。
見る順番は3つです。

まず対象範囲を見ます。
期間の境界、対象の区分、除外する条件といったところで、合わない原因の大半はここにあります。
手集計側とツール側とで、どこまでを含めているかが違っています。

次に元データの状態を見ます。
重複行、空白行、形式の異なる値、全角と半角の混在といったもので、数式は正しくてもデータが揺れていれば結果は合いません。

最後に数式そのものを疑います。
順番としては、ここが3番目です。

この順番で見ると、たいてい対象範囲か元データの状態で決着します。
手集計側が間違っていることもあるので、どちらが正しいという前提を置かずに突き合わせます。
この切り分け手順も1枚にして、ツールと一緒に配っておくと相談の量が減ります。

よくある失敗

まず、「AIは計算が苦手」だけで話を終わらせてしまいます。
そう伝えると現場は数字を扱う業務全部でAIを使わなくなるので、前後の工程ではむしろ強い点まで伝えます。

次に、検算をルールにしてしまいます。
「必ず検算する」は実行されないので、検算が必要な状態自体をツール化で回避するほうが確実です。
3つ目が、AIが書いた数式を読まずに使う点です。
数式の条件の解釈がずれていることがあるので、結果ではなく条件を確認するのが正しい検証になります。

4つ目が、傾向をつかむために出した概算を、そのまま資料に載せてしまうことです。
用途が変わった時点で、数字の扱いのほうも変える必要があります。

私たちのAI伴走支援では、こうした役割分担をガイドラインに書き込むところから、計算を任せるツールの実装まで、現場の担当者と一緒に進めています。

計算はツールに、前後はAIに任せる

AIが返す数字は、間違っていてもまったく間違いらしく見えません。
「確認する」という類の対策が機能しないのは、そのためです。

原則は、AIに直接計算させず、AIに計算するツールを作らせます。
再現性が出て、条件を人が検証でき、繰り返し使えます。
正確性のためだけでなく、業務としても効率的です。

判定は2問で足ります。
「金額が動くか」「判断の根拠になるか」のどちらかに当たるならツール化し、当たらないなら直接聞いてよいということです。

実務の形は、前処理をAI・計算をツール・解釈と報告をAIの3段構成になります。
確定した数字を読ませて解釈させる使い方は、むしろ積極的にやったほうがいいはずです。

経理や営業管理の手順書に、この4行を1項目として足すところから始めてみませんか？