
生成AIのコストを削減する方法。作業の難易度でモデルを使い分ける運用のコツ
2026/09/07
執筆:寺田昇平
AI Portalize株式会社 代表取締役/AI Digital Community 代表理事
仕組みとコンサルティング伴走支援の両面で、組織のAI活用の加速を支援。
AI活用が進むと、使う量が増えるにつれて費用のほうも比例して増えていきます。
ところが、「使うのを控えてください」という話にはできません。
使うこと自体が、そもそもの目的だからです。
だから「同じ結果を、より安く得る」という方向で考えます。
今回は、生成AIのコスト削減を、作業の難易度による使い分けで進める話を書いていきます。
従量課金そのものの設計はAI利用の従量課金をコスト設計する。予算とガードレールの決め方にまとめてあります。

費用の前に、現場が自分でAIツールを作れる状態をどう整えるかから押さえたい場合は、社内AIツールの内製化。現場が自分で作れる組織にするまでが先に読む回になります。
使えば使うほどコストは増える
費用はどういう仕組みで増えていくのでしょうか?
まず構造を確認しておきます。
一言でいうと、費用は処理した量で決まり、渡した内容と返ってきた内容の合計で計算されます。
「使うものによって、単価が数倍から数十倍違う」のは、同じ処理を高性能なものでやるか軽いものでやるかで費用が変わってくるからです。
ところが高性能なものはそのぶん精度も高いので、安易に軽いほうへ寄せると今度はその精度が落ちます。
「精度が落ちて手戻りが発生すると、結果的に高くつく」ことがあるのは、安いものを使って結果が使えずやり直せば2回分の費用がかかるからです。
だからこそ「作業の難易度で使い分ける」、これがこの記事で書く対処の方向になります。
作業の難易度で使い分けると、回数が多い工程ほど効く
では、どこで軽いものと高性能なものを切り分ければよいのでしょうか?
考え方を整理します。
判断が要らない作業には軽いものを使い、判断が要る作業には高性能なものを使います。
前者は形式の変換、決まった項目の抽出、分類、要約といったところで、後者は文章の構成、複雑な分析、複数の要素を考慮した提案といったあたりです。
要点は「1つの業務のなかで使い分けること」で、業務全体を1つのもので処理するのではなく工程ごとに変えていきます。
例えば100件の問い合わせから傾向を出す業務であれば、各件を分類する工程は100回の処理になるので軽いものでやり、分類の結果から傾向と示唆を出す工程は1回の処理だけを高性能なものでやります。
この使い分けをするだけで費用が大きく変わるのは、回数が多いほうの工程が、そこで軽くなるからです。
ここが、いちばん効く原則です。
費用は「単価×回数」で決まるので、回数が多い工程の単価を下げるのがいちばん効いてきます。
回数が多い工程の特徴は、1件ずつ処理する、データの行数だけ実行される、自動化で定期的に走る、といったところです。
逆に回数が少ない工程は、高性能なもので構いません。
1回の処理であれば、単価が高くても総額は小さいからです。
判断の目安としては、月に100回以上実行される工程は単価を意識します。
それ未満の回数であれば、単価のほうは気にしなくて構いません。
また、回数そのものを減らす方向もあります。
全件を処理するのをやめて条件で絞ってから処理するということで、絞り込み自体は単純な条件でできるからです。
段階処理そのものはAIの精度が低いと言われる前に。段階処理を現場の標準手順にするにまとめてあります。
単純作業と判断業務は、精度を確認してから分ける
具体的には、どこまでを軽いものに任せてよいのでしょうか?
切り分けを書いておきます。
軽いものに任せてよいのは、形式の変換、決まった項目の抽出、分類、短い要約、翻訳、といったあたりです。
一方で高性能なものが必要になるのは、構成の設計、複数の情報を統合した分析、判断の材料の整理、長い文章の作成、です。
「精度の確認のほうは、必ずやります」、軽いものに任せた工程が実際に使える精度になっているかどうかを、10件ほど試してみて判断します。

AI関数で回す場合の勘所はスプレッドシートのAI関数で終わる業務・終わらない業務で扱っています。
具体的な組み方は、工程を分けてそれぞれに適したものを使い、間に条件で絞る工程を入れます。
例えば1000件のデータから注目すべきものを見つけて分析する業務であれば、条件で絞る工程は数式で判定するので費用はゼロで、1000件が100件になります。
次に100件を分類する工程は軽いものでやり、注目すべき10件を選ぶ工程も条件で判定できるならここも数式で行い、最後の10件を詳しく分析する工程だけ高性能なものでやる、という4段階になります。
この形にしておくと、1000件をまるごと高性能なものに通すのに比べて費用が大幅に下がります。
いちばん効くのは最初の絞り込みの工程で、費用のかからない条件での絞り込みを、とにかく最初に入れておく点です。

コストは月次で見える化し、効果は試算してから動く
管理はどう設計すればよいのでしょうか?
見ておくのは4つです。
総額は前月比で見て、部門別の内訳はどこで使われているかを見て、1件あたりの単価は総額を処理件数で割ったもの、工程別の内訳はどの処理に使われているかを表します。
この4つのうち最も重要な指標は1件あたりの単価で、総額そのものが増えていても件数が増えているだけなら問題はなく、1件あたりの単価が上がっている場合だけが設計の問題になります。
もう一つ、工程別の内訳のほうは改善の材料になります。
費用の大部分を占めている工程が分かれば、そこを軽くするという判断ができるからです。
さらに「上位3つの工程で、費用の8割」になることが多いので、そこだけを見直せば効果が出ます。

確認は、月1回・10分で終わる形にしておきます。
集計そのものが手作業だと、まず続かないからです。
見直しの効果を試算するときは、対象の工程について軽いものに変えた場合の費用を計算します。
ここでも「精度の確認」は必ずやり、10〜20件ほど試して結果が使えるかを確認します。
精度が落ちて手戻りが発生すると、結果的に高くつくからです。
効果の目安としては、回数が多い工程を軽いものに変えると、その工程の費用が数分の1にまで下がります。
もうひとつ、「絞り込みの工程を足す」と処理する件数そのものが減り、ここが最も効果の大きいところになります。
あわせて「出力の分量のほうも、指定しておきます」、「300字以内で」と一言指定するだけで返ってくる量が減り、指定がないとどこまでも長くなります。
この3つ、軽いものに変える、絞り込みを足す、出力の分量を指定する、で多くの場合は半分以下になります。
手段そのものの選び方は業務自動化はどのツールで作る?Gem・GAS・Canvasの判断基準にまとめてあります。
月次で見る項目を、毎月手作業で集めると続きません。利用率と前期比を集計の手間なしで見られる組織のAIポータルなら、部署ごとの利用の動きを毎月同じ形で確かめられます。
安くすること自体を目的にはしない
では、費用を下げること自体が目的になってよいのでしょうか?
そうではありません。
目的はあくまで業務の成果のほうで、精度が落ちて成果が下がるなら下げません。
費用が半分になっても、成果が半分になってしまえば意味がないからです。
もちろん、その見直しに使う時間もまた費用です。
月に数千円の費用を下げるために、数時間かけて設計を見直すというのは明らかに割に合いません。
判断の目安は、月の費用が数万円を超えていて、なおかつ特定の工程が半分以上を占めている場合です。
そういう場合に、そこだけを見直します。
それ未満の規模であれば、見直しの優先順位そのものは低くて構いません。
「使うのを控える」という方向にだけは、絶対にしません。
利用そのものが減れば、成果のほうも減るからです。

指標の設計そのものはAI推進担当者の情報収集と経営判断。リサーチとROIの設計、レポートの自動生成は分析レポートを自動生成する。数字を見る習慣を組織に埋め込むにまとめてあります。
失敗の型は、だいたい8つに集約されます。
すべての工程を高性能なものに通すこと、すべての工程を軽いものに寄せること、精度を確認せずに変えること、絞り込みの工程を入れないこと、出力の分量を指定しないこと、総額だけを見ること、「使うのを控える」方向に行くこと、小さい規模で見直しに時間をかけることです。
どれも、工程ごとに使い分けて10件試して精度を確認し、条件での絞り込みを先に入れて分量を指定し、1件あたりの単価を見て利用そのものは減らさず、規模に応じて優先順位を決めれば避けられます。
どの工程から見直すかの優先順位は、当社のAI伴走支援でも業務の洗い出しとあわせて扱い、現場の担当者と一緒に手を動かしながら決めています。
回数の多い工程から軽くすれば、費用は半分以下になる
費用は「単価×回数」で決まり、回数が多い工程の単価を下げるのが最も効きます。
切り分けは、判断が要らない作業には軽いもの、形式の変換、項目の抽出、分類、短い要約、翻訳を当て、判断が要る作業には高性能なもの、構成の設計、複数の情報を統合した分析、判断材料の整理、長い文章を当てます。
1つの業務のなかで、工程ごとに使い分けていきます。
さらにその間に、費用のかからない条件での絞り込みを入れておくのが、最も効果が大きいところです。
判断の目安は、月に100回以上実行される工程については単価を意識し、それ未満の回数の工程であれば単価は気にしなくて構いません。
見るのは4つで、なかでも1件あたりの単価が最も重要な指標です。
もう一つ、工程別の内訳のほうが改善の材料になり、上位3つの工程で費用の8割になることが多いからです。
効果が出るのは3つで、軽いものに変える、絞り込みを足す、出力の分量を指定する、という手です。
これで多くの場合、半分以下になります。
ただ、費用を下げること自体を目的にはしません。
精度が落ちて成果が下がるなら下げませんし、見直しに使う時間もまた費用です。
「使うのを控える」という方向には、絶対にしません。
まずは自社の費用の内訳を見て、上位3つの工程を特定してみると、削るべき場所は自然と絞り込めます。
すぐ使える業務アプリが300以上
開いてそのまま使えて、AIで自社用にも直せます。15の分野から、やりたい作業で探せます。業務アプリを見る
執筆:寺田昇平
AI Portalize株式会社 代表取締役/AI Digital Community 代表理事
仕組みとコンサルティング伴走支援の両面で、組織のAI活用の加速を支援。
お知らせ・組織AI推進ノウハウ一覧












