全社規模のAIワークフロー運用におけるコスト設計と最適化

個人の業務効率化から一歩進んで、複数の処理を連携させた自動化を組む企業が増えてきました。

組織のデジタル化としては良い変化なのですが、この段階に入ると推進担当が新しく持っておくべき感覚があります。
「裏側でいくらかかっているか」に対するシビアな視点です。

個人で試しているうちは気にならなかった金額が、全社展開した途端に無視できない規模になる。
ここを押さえておかないと、月末の請求額でプロジェクトが止まりかねません。

今回は、全社規模のワークフロー運用におけるコスト設計を書いていきます。
自動化の手段とコストの全体像はAIによる業務自動化の全体像。手段の選び方とコスト設計にまとめてあります。

定額制と従量課金では、見る先が違う

普段使っているAIツールの多くは、1人あたり月額いくらという定額制です。
使っても使わなくても金額は変わらないので、「使うほど得」という感覚になります。
推進する立場としても、「どんどん使ってください」と言いやすい。

一方、高度な自動化の裏側では、使った分だけ費用が発生する従量課金の仕組みが動いています。
処理した情報量に応じて課金される形が一般的で、実行するたびにメーターが回ります。
気をつけたいのは、この2つが1つの仕組みのなかに同居することです。

現場が使っているのは定額制のツールでも、そこから呼び出している裏側の処理は従量課金、という構成はよくあります。
使う側にはその境目が見えていないので、コストの意識を現場に求めても意味がありません。
管理する側で構造を把握しておく必要があります。

この2つは、同じAIの利用でも考え方が逆になります。
定額制の世界の感覚のまま従量課金の仕組みを全社に配ると、想定の何倍もの請求が来ることがあります。
個人で単発のボットを作っている段階では数百円の話なので、この違いに気づかないまま進みやすいです。

どのツールで組むかによって、この課金の性質も変わってきます。
判断の軸は業務自動化はどのツールで作る？Gem・GAS・Canvasの判断基準が参考になります。

1回の処理の裏で、何が動いているか

具体的に見てみます。
例えば、企業名を入れると最新情報を調べて要約するボットを作ったとします。

ユーザーから見れば、名前を入れてボタンを押すだけです。
ただ裏側では、複数の外部サービスが連鎖して動いています。
検索のAPIを使って関連するURLを探し、それぞれのサイトから文字情報を取得し、集めた大量のテキストをAIモデルに送って要約させる。

つまり、結果が出るまでの数秒のあいだに、工程ごとに別々の課金が発生しているわけです。
しかも、それぞれ単価の基準が違います。
検索は回数で、テキスト取得はページ数で、要約は処理した情報量で課金されます。

もうひとつ、使うモデルの選択でも金額は変わります。
すべての工程に最上位のモデルを充てる必要はなく、「分類や判定のような単純な処理は軽いモデルで十分」なことが多いです。
工程ごとに必要な精度を分けて考えると、無理なく費用を下げられます。

ここで効いてくるのが、渡す情報量を減らす工夫です。
取得したテキストをそのまま全部送ると、費用も処理時間も膨らみます。
先に整理してから渡す設計にすると、コストと精度が同時に改善することがあります。
この考え方は膨大なデータを扱う際の中間データ作成と精度向上のアプローチで扱っています。

全社展開の前に、概算を出しておく

1回あたりの実行コストは、数円から数十円程度に収まることが多いです。
テストで数回試す分には、まったく問題になりません。

ただ、これを全社員が毎日使う状況を考えると話が変わります。
仮に1回20円の処理を100人が毎日1回使うと、月に4万円ほど。
これが3つのワークフローで動いていれば12万円です。

金額の是非ではなく、事前に見えているかどうかが問題になります。
そのため、全社展開の前に概算を出す習慣をつけておくことをおすすめします。

やることは単純で、1回の実行にかかる金額を測り、想定の利用人数と頻度を掛けるだけです。
見積もりを立てるときは、想定より多く使われる前提で置いておくほうが安全です。
便利な仕組みほど、当初の想定を超えて使われます。
想定の2倍が来ても耐えられる金額かどうかを確認しておくと、後から慌てずに済みます。

「テスト実行を10回ほどして、その間の請求額を実行回数で割る」。
測り方としては、これだけで十分です。
厳密な単価計算をするより、実測で出したほうが早くて確実です。

「精度より桁を外さないこと」が目的です。
投資としての判断の立て方はAI推進担当者の情報収集と経営判断。リサーチとROIの設計に整理してあります。

コストは絞るより、配分を変える

コストを抑える方法として、実行回数を制限するのは分かりやすい手です。
ただ、それは使わせないという話になるので、推進としては本末転倒になりかねません。
有効なのは、すべての対象に同じ重さの処理をかけないことです。
段階を分けて、絞り込んでから予算を投下します。

例えば、1万件のリストから有望な見込み客を探す処理を考えます。
全件に対して詳細な調査をかけると、費用は跳ね上がります。
そこで第一段階として、安価で高速なモデルで1万件をざっと判定し、見込みのありそうな100件に絞ります。

この入り口にはほとんど費用をかけません。
この絞り込みの精度が低いと、有望な候補を入り口で落としてしまうことになります。
そのため、第一段階では拾いすぎるくらいの条件にしておくのが定石です。

落とすより残すほうを優先して、第二段階で丁寧に判断させます。
第二段階では、残った100件に対してだけ詳細な検索と分析を行います。
同じ予算でも、どこに配分するかの設計次第で成果はまったく変わります。

段階を分ける発想は、コストだけでなく精度にも効きます。
一度に全部やらせず処理を分けるという考え方はAIの精度が低いと言われる前に。段階処理を現場の標準手順にするにまとめてあります。

運用には、監視と上限をあらかじめ組み込む

設計だけでなく、動き始めたあとの運用も決めておきます。
裏側の処理は誰も見ていないところで動くので、「異常な回数が走っていないか」に気づけないままになりがちです。
特に注意したいのが、想定外の入力で処理が繰り返し走るケースです。

件数の多いファイルがそのまま投入されたり、失敗した処理が自動で再試行を繰り返したりすると、短時間で費用が積み上がります。
1回の実行で扱える上限を仕組みの側で決めておくと、この種の事故はかなり防げます。

「最低限これだけは」と言えるものが3つあります。
まず、使っているサービス側で利用上限を設定すること。
多くのサービスには月額の上限やアラートの機能があるので、これを最初に入れておきます。

次に、「週に一度、消費額を見る」担当を決めること。
月末にまとめて見ると、手を打つ余地がなくなります。

裏側の処理が止まっても気づかれにくいという性質は、コストの面でも同じことが言えます。
詳しくはシステムを起点とした裏側でのAI自動処理の導入で扱っています。

もうひとつが、使われていないワークフローを止める判断です。
作ったものを残し続けると、誰も見ていない処理に費用が発生し続けることがあります。
定期的に実行回数を見て、使われていないものは停止する運用を入れておきます。

止めるときは、利用者への案内を先に出しておきます。
「誰も使っていない」と思っていた処理が、特定の部署の月次業務に組み込まれていることがあるからです。
停止予定を告知して反応がなければ止める、という手順にしておくと安全です。

ワークフローの実装と、その後の運用の決めごとは、当社のAI伴走支援でも現場の担当者と一緒に手を動かしながら進めています。

コストは抑えるものではなく、配分するもの

自動化が高度になると、AI活用は個人の便利ツールから費用の発生する投資活動へ性質が変わります。
定額制と従量課金では感覚が逆です。
1回の処理の裏で複数のサービスが連鎖して課金されている構造を、理解しておく必要があります。

全社展開の前には概算を出します。
実測した1回の単価に、想定の人数と頻度を掛けるだけで十分です。
目的は精度ではなく、桁を外さないことにあります。

「絞るより配分を変える」のが、コストを抑えるときの基本です。
安価な処理で絞り込んでから、残ったものに予算を投下する。

「使われていない処理に費用が流れ続けていないか」を直して、成果の出ているところへ回す。
この判断ができる体制になっているかどうかが、高度化した段階では効いてきます。

運用側では、上限設定、定期的な消費額の確認、使われていないワークフローの停止の3つを決めておきます。
体制としては、この判断を推進担当が単独で抱えない形にしておくのが安全です。

「この処理でどれだけ時間が減ったか」と並べて初めて、金額の妥当性は評価できます。
費用の一覧と削減時間の見立てを同じ資料に載せておくと、経営層との会話も早く進みます。

まずは社内で動いている自動処理をひとつ選び、1回あたりいくらかかっているかを実測してみましょう。