組織のAI活用をAIポータルと伴走支援で加速

生成AIのコストを削減する方法。作業の難易度でモデルを使い分ける運用のコツ

生成AIのコストを削減する方法。作業の難易度でモデルを使い分ける運用のコツ

執筆:寺田昇平

AI Portalize株式会社 代表取締役/AI Digital Community 代表理事

仕組みとコンサルティング伴走支援の両面で、組織のAI活用の加速を支援。

AI活用が進むと、使う量が増えるにつれて費用のほうも比例して増えていきます。
ところが、「使うのを控えてください」という話にはできません。
使うこと自体が、そもそもの目的だからです。

だから「同じ結果を、より安く得る」という方向で考えます。
今回は、生成AIのコスト削減を、作業の難易度による使い分けで進める話を書いていきます。
従量課金そのものの設計はAI利用の従量課金をコスト設計する。予算とガードレールの決め方にまとめてあります。

100件の問い合わせから傾向を出す業務を2つの工程に分けた表。各件を分類する工程は100回の処理なので軽いもので、分類の結果から傾向と示唆を出す工程は1回の処理だけなので高性能なもので行う

費用の前に、現場が自分でAIツールを作れる状態をどう整えるかから押さえたい場合は、社内AIツールの内製化。現場が自分で作れる組織にするまでが先に読む回になります。

使えば使うほどコストは増える

費用はどういう仕組みで増えていくのでしょうか?
まず構造を確認しておきます。

一言でいうと、費用は処理した量で決まり、渡した内容と返ってきた内容の合計で計算されます。
「使うものによって、単価が数倍から数十倍違う」のは、同じ処理を高性能なものでやるか軽いものでやるかで費用が変わってくるからです。

ところが高性能なものはそのぶん精度も高いので、安易に軽いほうへ寄せると今度はその精度が落ちます。

「精度が落ちて手戻りが発生すると、結果的に高くつく」ことがあるのは、安いものを使って結果が使えずやり直せば2回分の費用がかかるからです。
だからこそ「作業の難易度で使い分ける」、これがこの記事で書く対処の方向になります。

作業の難易度で使い分けると、回数が多い工程ほど効く

では、どこで軽いものと高性能なものを切り分ければよいのでしょうか?
考え方を整理します。

判断が要らない作業には軽いものを使い、判断が要る作業には高性能なものを使います。
前者は形式の変換、決まった項目の抽出、分類、要約といったところで、後者は文章の構成、複雑な分析、複数の要素を考慮した提案といったあたりです。
要点は「1つの業務のなかで使い分けること」で、業務全体を1つのもので処理するのではなく工程ごとに変えていきます。

例えば100件の問い合わせから傾向を出す業務であれば、各件を分類する工程は100回の処理になるので軽いものでやり、分類の結果から傾向と示唆を出す工程は1回の処理だけを高性能なものでやります。
この使い分けをするだけで費用が大きく変わるのは、回数が多いほうの工程が、そこで軽くなるからです。
ここが、いちばん効く原則です。
費用は「単価×回数」で決まるので、回数が多い工程の単価を下げるのがいちばん効いてきます。

回数が多い工程の特徴は、1件ずつ処理する、データの行数だけ実行される、自動化で定期的に走る、といったところです。
逆に回数が少ない工程は、高性能なもので構いません。
1回の処理であれば、単価が高くても総額は小さいからです。

判断の目安としては、月に100回以上実行される工程は単価を意識します。
それ未満の回数であれば、単価のほうは気にしなくて構いません。

また、回数そのものを減らす方向もあります。
全件を処理するのをやめて条件で絞ってから処理するということで、絞り込み自体は単純な条件でできるからです。
段階処理そのものはAIの精度が低いと言われる前に。段階処理を現場の標準手順にするにまとめてあります。

単純作業と判断業務は、精度を確認してから分ける

具体的には、どこまでを軽いものに任せてよいのでしょうか?
切り分けを書いておきます。
軽いものに任せてよいのは、形式の変換、決まった項目の抽出、分類、短い要約、翻訳、といったあたりです。

一方で高性能なものが必要になるのは、構成の設計、複数の情報を統合した分析、判断の材料の整理、長い文章の作成、です。
「精度の確認のほうは、必ずやります」、軽いものに任せた工程が実際に使える精度になっているかどうかを、10件ほど試してみて判断します。

軽いものに任せてよい作業と、高性能なものが必要な作業を分けた図。軽いものは形式の変換、決まった項目の抽出、分類、短い要約、翻訳。高性能なものは構成の設計、複数の情報を統合した分析、判断の材料の整理、長い文章の作成。軽いものに任せた工程は10件ほど試して精度を確認する

AI関数で回す場合の勘所はスプレッドシートのAI関数で終わる業務・終わらない業務で扱っています。

具体的な組み方は、工程を分けてそれぞれに適したものを使い、間に条件で絞る工程を入れます。
例えば1000件のデータから注目すべきものを見つけて分析する業務であれば、条件で絞る工程は数式で判定するので費用はゼロで、1000件が100件になります。

次に100件を分類する工程は軽いものでやり、注目すべき10件を選ぶ工程も条件で判定できるならここも数式で行い、最後の10件を詳しく分析する工程だけ高性能なものでやる、という4段階になります。
この形にしておくと、1000件をまるごと高性能なものに通すのに比べて費用が大幅に下がります。
いちばん効くのは最初の絞り込みの工程で、費用のかからない条件での絞り込みを、とにかく最初に入れておく点です。

1000件のデータから注目すべきものを見つけて分析する業務を4段階に分けた図。条件で絞る工程は数式で費用ゼロで1000件が100件になり、100件の分類は軽いもの、注目すべき10件の選定は条件で判定できれば数式、最後の10件の詳しい分析だけ高性能なもので行う。いちばん効くのは最初の絞り込み

コストは月次で見える化し、効果は試算してから動く

管理はどう設計すればよいのでしょうか?
見ておくのは4つです。

総額は前月比で見て、部門別の内訳はどこで使われているかを見て、1件あたりの単価は総額を処理件数で割ったもの、工程別の内訳はどの処理に使われているかを表します。
この4つのうち最も重要な指標は1件あたりの単価で、総額そのものが増えていても件数が増えているだけなら問題はなく、1件あたりの単価が上がっている場合だけが設計の問題になります。

もう一つ、工程別の内訳のほうは改善の材料になります。
費用の大部分を占めている工程が分かれば、そこを軽くするという判断ができるからです。
さらに「上位3つの工程で、費用の8割」になることが多いので、そこだけを見直せば効果が出ます。

月次で見る4つの数字。総額は前月比、部門別の内訳、1件あたりの単価、工程別の内訳。最も重要なのは1件あたりの単価で、総額が増えていても件数が増えているだけなら問題はなく、単価が上がっているときだけが設計の問題。工程別の内訳は改善の材料になる

確認は、月1回・10分で終わる形にしておきます。
集計そのものが手作業だと、まず続かないからです。

見直しの効果を試算するときは、対象の工程について軽いものに変えた場合の費用を計算します。
ここでも「精度の確認」は必ずやり、10〜20件ほど試して結果が使えるかを確認します。
精度が落ちて手戻りが発生すると、結果的に高くつくからです。

効果の目安としては、回数が多い工程を軽いものに変えると、その工程の費用が数分の1にまで下がります。
もうひとつ、「絞り込みの工程を足す」と処理する件数そのものが減り、ここが最も効果の大きいところになります。
あわせて「出力の分量のほうも、指定しておきます」、「300字以内で」と一言指定するだけで返ってくる量が減り、指定がないとどこまでも長くなります。

この3つ、軽いものに変える、絞り込みを足す、出力の分量を指定する、で多くの場合は半分以下になります。
手段そのものの選び方は業務自動化はどのツールで作る?Gem・GAS・Canvasの判断基準にまとめてあります。

月次で見る項目を、毎月手作業で集めると続きません。利用率と前期比を集計の手間なしで見られる組織のAIポータルなら、部署ごとの利用の動きを毎月同じ形で確かめられます。

安くすること自体を目的にはしない

では、費用を下げること自体が目的になってよいのでしょうか?
そうではありません。

目的はあくまで業務の成果のほうで、精度が落ちて成果が下がるなら下げません。
費用が半分になっても、成果が半分になってしまえば意味がないからです。

もちろん、その見直しに使う時間もまた費用です。
月に数千円の費用を下げるために、数時間かけて設計を見直すというのは明らかに割に合いません。

判断の目安は、月の費用が数万円を超えていて、なおかつ特定の工程が半分以上を占めている場合です。
そういう場合に、そこだけを見直します。
それ未満の規模であれば、見直しの優先順位そのものは低くて構いません。

「使うのを控える」という方向にだけは、絶対にしません。
利用そのものが減れば、成果のほうも減るからです。

費用を下げたいときの判断。月の費用が数万円を超え、特定の工程が半分以上を占めるならその工程だけ見直す。それ未満の規模なら優先順位は低くてよい。精度が落ちて成果が下がるなら下げない。使うのを控える方向にはしない

指標の設計そのものはAI推進担当者の情報収集と経営判断。リサーチとROIの設計、レポートの自動生成は分析レポートを自動生成する。数字を見る習慣を組織に埋め込むにまとめてあります。

失敗の型は、だいたい8つに集約されます。
すべての工程を高性能なものに通すこと、すべての工程を軽いものに寄せること、精度を確認せずに変えること、絞り込みの工程を入れないこと、出力の分量を指定しないこと、総額だけを見ること、「使うのを控える」方向に行くこと、小さい規模で見直しに時間をかけることです。
どれも、工程ごとに使い分けて10件試して精度を確認し、条件での絞り込みを先に入れて分量を指定し、1件あたりの単価を見て利用そのものは減らさず、規模に応じて優先順位を決めれば避けられます。

どの工程から見直すかの優先順位は、当社のAI伴走支援でも業務の洗い出しとあわせて扱い、現場の担当者と一緒に手を動かしながら決めています。

回数の多い工程から軽くすれば、費用は半分以下になる

費用は「単価×回数」で決まり、回数が多い工程の単価を下げるのが最も効きます。
切り分けは、判断が要らない作業には軽いもの、形式の変換、項目の抽出、分類、短い要約、翻訳を当て、判断が要る作業には高性能なもの、構成の設計、複数の情報を統合した分析、判断材料の整理、長い文章を当てます。
1つの業務のなかで、工程ごとに使い分けていきます。
さらにその間に、費用のかからない条件での絞り込みを入れておくのが、最も効果が大きいところです。

判断の目安は、月に100回以上実行される工程については単価を意識し、それ未満の回数の工程であれば単価は気にしなくて構いません。
見るのは4つで、なかでも1件あたりの単価が最も重要な指標です。
もう一つ、工程別の内訳のほうが改善の材料になり、上位3つの工程で費用の8割になることが多いからです。

効果が出るのは3つで、軽いものに変える、絞り込みを足す、出力の分量を指定する、という手です。
これで多くの場合、半分以下になります。

ただ、費用を下げること自体を目的にはしません。
精度が落ちて成果が下がるなら下げませんし、見直しに使う時間もまた費用です。
「使うのを控える」という方向には、絶対にしません。

まずは自社の費用の内訳を見て、上位3つの工程を特定してみると、削るべき場所は自然と絞り込めます。

すぐ使える業務アプリが300以上

開いてそのまま使えて、AIで自社用にも直せます。15の分野から、やりたい作業で探せます。業務アプリを見る

執筆:寺田昇平

AI Portalize株式会社 代表取締役/AI Digital Community 代表理事

仕組みとコンサルティング伴走支援の両面で、組織のAI活用の加速を支援。

keyboard_backspace

お知らせ・組織AI推進ノウハウ一覧

無料 自社に当てはめて知りたい方へ

読んだ内容を、

御社の数字

で確かめませんか。

利用データから、御社のAI活用がいまどこにいるのかを判定します。
同業他社との比較と、次にやることをお渡しします。

組織のAI活用力診断のメインビジュアル(ノートPCの利用データと結果表)

Related

関連記事

Service

サービス一覧

AI Portalizeの管理画面イメージ:AI活用数・効率化時間の見える化とチームへの広がり

AIツールが見つかる。社内に広がる。使われ方が見える。

組織のAIポータル「AI Portalize」

  • check_circle

    やりたいことで検索すると、業務アプリ300以上とナレッジ250本以上から見つかる

    check_circle

    社内で作ったツールやナレッジが共有され、よく使われるものが上に並ぶ

    check_circle

    誰が何をどれだけ使っているかが、集計の手間なしで分かる

デジタル系企業特化のAIコンサルティング&伴走支援のイメージイラスト

実務に組み込むまで伴走

組織のAI活用を加速「AIコンサル&伴走支援」

  • check_circle

    従業員が安心して使うためのガイドライン策定

    check_circle

    ドメイン知識が豊富なコンサルタント

    check_circle

    業務分解からAIワークフロー作成

    check_circle

    研修から実務への組み込みまで

法人向けAI研修のイメージ:受講者が自分の業務でAIを使いながら学ぶ研修の様子

自社の業務で、使える知識に

実務で使える知識を「法人向けAI研修」

  • check_circle

    いま使っているAIと受講者の業務を伺って、誰に・どのAIで・どの業務を題材にするかを提案

    check_circle

    Gemini・Claude・AIエージェントなど、8つの研修例と230以上のテーマ例

    check_circle

    基本はオンライン。研修の資料と録画もお渡し

デジタル系企業特化のAIコンサルティング&伴走支援のイメージイラスト

豊富な新規事業立ち上げ実績

AIを活用した
新規事業の立ち上げ支援

  • check_circle

    検討からサービス構築まで

    check_circle

    豊富な新規事業構築実績

    check_circle

    すでにあるAIボットなどを活用も可能

AI活用支援のビフォーアフター:迷っている状態からGemini等を使いこなす状態への変化

経営者・役員・AI担当向け

AIパーソナル
トレーニング

  • check_circle

    まだAI活用できていない状態でも大丈夫

    check_circle

    1回2時間のみからご利用いただけます

    check_circle

    実務で使える「今のAI活用」を学ぶ

    check_circle

    トップ層こそAIに詳しく

AIガイドライン作成+定着研修の紹介バナー:御社に合ったルールづくりから社内への定着まで

生成AIの社内ルールを一緒に作る

AIガイドライン作成+
定着研修

  • check_circle

    御社の現状をヒアリングしながら一緒に作成

    check_circle

    AIツールごとの仕組みや契約の違いを踏まえて線を引く

    check_circle

    従業員の方への定着研修までご支援

AIガイドライン作成+定着研修の紹介バナー:御社に合ったルールづくりから社内への定着まで

AIの答えに、自社の名前を

LLMO・GEO・AIO
対策

  • check_circle

    御社の現状をヒアリングしながら一緒に作成

    check_circle

    AIツールごとの仕組みや契約の違いを踏まえて線を引く

    check_circle

    従業員の方への定着研修までご支援

まずは、いまのAI活用の
状況をお聞かせください。

何から始めるか決まっていなくても、ご相談いただけます。

無料相談・お問い合わせ