株式会社Cosmico Logo株式会社Cosmico
LLM
税理士
業務効率化
AI活用

LLMの限界と税理士事務所における「本当に合理化できる」使い方

2025年8月18日
LLMの限界と税理士事務所における「本当に合理化できる」使い方

近年、生成AI(LLM)を活用した業務効率化が各業界で注目されており、税理士事務所においても「仕訳をAIに作らせましょう」といったセミナーが盛んに行われています。私自身も講義の場で税理士の先生方から直接ご意見を伺う機会があり、「毎月の同じ作業を安定的に実行できるかどうか」が大きな関心事であることを実感しました。

LLMは繰り返し作業が苦手:揺らぎがもたらす課題

LLMは高度な文章生成や推論は得意な一方で、同じ作業を何度も「揺らぎなく」実行するのは不得意です。実際、通帳のスキャンデータを表形式に整える処理では、ある月は問題なく整形できたとしても、翌月は出力の体裁が微妙に変わってしまうことがあります。

現場の声

講義中にも「7月分はきれいに整ったのに、8月分は少し違っていた」という先生の声があり、まさに現場で直面する課題であると強く感じました。これはLLMの仕組み上避けがたい性質であり、安定性が求められる現場では注意すべき点です。

LLMを「プログラム生成ツール」として活用する合理的アプローチ

そこで有効な方法は、LLMを「直接の業務実行」ではなく「繰り返し作業を行うプログラムの生成」に活用することです。次のようなステップを踏むことで、現実的かつ合理的な運用が可能になります。

1. 通帳のスキャンデータを表形式に整形する

まずはLLMを活用して、OCR結果のテキストデータを表形式に整えます。この工程はLLMの得意分野であり、比較的安定した結果が期待できます。

2. 繰り返し処理をプログラム化する

次に、整形されたデータを基に、VBAやPythonなどで「毎月同じ作業を繰り返すプログラム」をLLMに書かせます。これにより、LLMの持つ「揺らぎ」を排除し、確実な再現性を担保できます。

3. 弥生会計用CSVを生成する

最終的に、1で作成した表データを2で生成したプログラムで処理し、会計ソフトにインポート可能なCSVデータを作成します。

この流れを構築することで、「LLMの強み」である文章処理やコード生成能力を最大限に活かしつつ、「現場が求める安定性」を両立させることができます。

「プロンプト沼」を避けるために

最近のLLM関連セミナーでは「プロンプトを工夫して仕訳を直接作成する」という取り組みも紹介されています。ただし、講義で聞いた先生方の声の中には「毎回プロンプトを変えないと安定しない」という悩みもありました。

プロンプト沼のリスク

これは、プロンプトの調整を延々と繰り返す「プロンプト沼」に陥るリスクを示しています。税理士業務の多くは再現性・安定性が極めて重要であり、それを重視するならば「プログラム化を前提とした活用」が望ましいと考えられます。

まとめ:LLMは「プログラム生成」で真価を発揮する

LLMを「そのまま業務に投入」するのではなく、「プログラムを自動生成するツール」として利用することこそが、税理士業務の合理化につながる近道です。講義での税理士の先生方の声を通じても、この方向性は現場に即した現実的な選択肢だと確信しています。

💡 重要なポイント

  • • LLMは繰り返し作業の安定性に課題がある
  • • プログラム生成ツールとして活用することで安定性を確保
  • • プロンプト沼を避けて効率的な運用を実現
  • • 現場のニーズに即した現実的なアプローチが重要

携帯電話などの進化と同じように、我々のような技術者がより日本の実務に即したものを提供できるよう、先生方と共に作成していければと思いました。

この記事をシェア