税理士のAIハルシネーション対策

税理士 AI ハルシネーションとは、生成AIが事実と異なる税務情報を、あたかも正しいかのように出力する現象を指します。税制は例外規定や経過措置が多く、AIが自信満々に誤った控除額や適用要件を提示するケースが報告されています。本稿では、税務分野でハルシネーションが起きやすい場面、発生する技術的な原因、事務所として構築すべき人的チェック体制、業務別の運用ルール、実際に誤情報を顧問先に伝えてしまった場合の対応までを、そのまま事務所の運用ルールに落とし込める粒度で整理します。

税理士 AI ハルシネーションとは何か・なぜ他業種より深刻か

税理士 AI ハルシネーションとは、生成AIが学習データにない、あるいは矛盾する内容を統計的なもっともらしさだけで生成し、結果として誤った税務情報を出力する現象のことです。単なる誤字脱字とは異なり、根拠条文や計算式まで具体的に、かつ自信ありげに提示されるため、専門知識のない担当者ほど誤りに気づきにくいという特徴があります。

他業種と比べて税務分野が深刻なのは、控除要件・非課税枠・経過措置に細かい例外が多く、しかも税制改正で数値や適用期限が頻繁に変わる点にあります。実際に「退職所得から特定の所得控除が引けるか」という質問に対し、AIが誤った回答を返した事例が報告されています。誤った回答をそのまま顧問先へのアドバイスとして流用すれば、過少申告加算税や延滞税といった実害に直結しかねません。AIの回答は「もっともらしい下書き」であって「確定した専門的判断」ではない、という前提を事務所全体で共有しておく必要があります。

税務分野でハルシネーションが起きやすい3つの場面

ハルシネーションが起きやすい場面とは、AIが学習データの古さや情報の少なさを、それらしい推測で補ってしまう状況のことです。税理士業務では特に次の3つの場面で注意が必要です。

税制改正直後の適用要件・数値：改正内容の周知が学習データに十分反映されていない時期は、旧制度の数値や適用済みの経過措置を「現行制度」として提示してしまうことがあります。改正情報のキャッチアップ方法はChatGPTで税制改正キャッチアップでも扱っています。
通達・個別通達に基づく判断：法令本文には明記されておらず、通達や質疑応答事例で運用が定まっている論点は、AIが一般論で埋め合わせて回答しやすい領域です。
具体的な数値の逆算・端数処理：控除額の按分計算や端数処理のルールなど、細かい計算過程をAIに任せると、途中式は正しそうに見えても最終値がずれることがあります。

これら3つの場面に共通するのは、「AIが自信を持って断定的に答える」割に、根拠となる一次情報を明示できていないケースが多いという点です。回答の口調の自信度と正確性は比例しないという理解が、チェック体制の出発点になります。

ハルシネーションが起きる技術的な原因

ハルシネーションの技術的な原因とは、生成AIが次に来る単語を確率的に予測する仕組み上、事実確認のプロセスを内部に持たないことにあります。AIは「正しい情報を検索して答える」のではなく、「学習した文章パターンから統計的にもっともらしい続きを生成する」動作をしているため、事実と矛盾する内容でも文章としては自然に成立してしまいます。

主な原因は次の3つに整理できます。

学習データの鮮度不足：モデルの学習時点以降に改正された税制は、最新情報として反映されていない場合がある。
少数事例・専門的論点でのデータ不足：一般的な話題に比べ、専門的な個別通達や実務慣行に関する記述はデータ量が少なく、推測で補われやすい。
検索連携なしでの回答生成：外部の信頼できるデータベースを参照せず、モデル内部の知識だけで回答する設定の場合、最新性・正確性の担保が弱くなる。

3の対策として、RAG（検索拡張生成）の仕組みを使い、法令データベースや事務所内のナレッジベースを検索させたうえで回答を生成させる方法があります。外部の信頼できる情報源を根拠として提示させることで、事実に基づかない回答を減らす効果が期待できます。ただし、RAGを導入しても検索元の情報が古い、あるいは検索結果の解釈自体を誤るケースは残るため、人的確認を省略できる技術ではありません。

税理士事務所が構築すべき人的チェック体制

人的チェック体制とは、AIの出力を業務に使う前に、根拠の有無と内容の正確性を人間が確認する仕組みのことです。税理士法第41条の2は税理士に対して使用人等への監督義務を課しており、AIの出力を最終的に確認する責任は所内の人間に残ります。実効性のあるチェック体制は、次の4段階で設計します。

出典要求のルール化：AIに回答させる際は、根拠となる法令条文・通達番号・URLを併せて出力させるようプロンプトで指示する。出典が示せない回答は「未確認情報」として扱う。
一次情報での裏取り：AIが提示した条文番号・数値は、国税庁サイトやe-Gov法令検索などの一次情報で必ず突き合わせる。ワンクリックで確認できるよう、事務所のナレッジベースに一次情報へのリンク集を整備しておくと効率的である。
ダブルチェックの担当区分：顧問先に提示する前に、AIの回答を作成した担当者以外の職員または税理士本人が内容を確認する。特に金額に関わる回答は、独立した第三者チェックを必須とする。
チェックリストの明文化：「出典・根拠は明示されているか」「論理に矛盾はないか」「改正の反映時期は最新か」といった確認項目をチェックリスト化し、確認履歴を残す。

たとえば顧問先30社規模の事務所では、税務相談の下調べにAIを使う際、担当者が回答を鵜呑みにせず一次情報のリンクを併記してから所内共有する運用に切り替えたところ、誤情報が顧問先に届く前に所内で訂正できた例が複数あったといいます。チェック体制は「AIを使わない」のではなく「AIの出力を必ず人が検証してから使う」という運用に転換することが要点です。

業務別の対策例

業務別の対策とは、税務相談・議事録作成・提案書作成など業務の性質に応じてチェックの粒度を変える運用のことです。すべての業務に同じ厳格さでチェックをかけると現場の負荷が高くなりすぎるため、リスクの大きさに応じてメリハリをつけます。

税務相談・個別判断：金額や適用要件に関わる回答は必ず一次情報で裏取りし、税理士本人の最終確認を必須とする。AIの回答はあくまで論点整理のたたき台として扱う。
税制改正のキャッチアップ：改正情報の要約にAIを使う場合も、施行日・経過措置の有無は必ず官報・国税庁発表と突き合わせる。
決算書コメント・提案資料：定型的な分析コメントの下書きは許容範囲が広いが、数値の根拠となる計算過程は必ず会計データと突き合わせて確認する。
顧問先向けメール・案内文：文面のたたき台作成は比較的リスクが低いが、税制の説明を含む場合は内容面のチェックを省略しない。

チェックの濃淡をあらかじめ決めておくことは、税理士のAI活用とセキュリティで扱った守秘義務対応とあわせて、事務所のAI利用ガイドラインに明記しておくと運用が安定します。ガイドライン全体の設計方法は税理士 AI ガイドラインの作り方で詳しく解説しています。

誤情報を顧問先に伝えてしまった場合の対応

事故発生時の対応とは、AIの誤情報に気づかないまま顧問先に伝えてしまった際に、被害を最小化するための初動手順のことです。チェック体制を整えていても、事故の可能性をゼロにはできません。

速やかな事実確認と訂正連絡：気づいた時点で速やかに一次情報で正誤を確認し、誤りがあれば顧問先へ訂正の連絡を行う。
影響範囲の特定：誤った情報に基づいて申告書を作成・提出していないか、他の顧問先にも同様の誤りを伝えていないかを確認する。
原因の記録：どのAIツール・どのプロンプトで、どのような誤情報が生成されたかを記録し、再発防止策の検討材料とする。
チェック体制の見直し：同種の誤りが繰り返し起きる場合は、該当業務のチェック手順自体を見直す。

記録を残すことは、税理士法第41条の2が求める監督義務の履行を対外的に説明できる状態を維持するためにも重要です。

よくある質問

Q1. ハルシネーションが起きにくいAIツールを選べば安心ですか?

RAGや検索連携を備えたツールは相対的に誤情報が減る傾向がありますが、完全になくすことはできません。どのツールを使う場合でも、一次情報での裏取りとダブルチェックの運用は省略できないと考えておく必要があります。

Q2. 小規模事務所でもチェック体制は必要ですか?

所員数名の事務所でも、AIの回答を鵜呑みにして顧問先に伝えるリスクは同じように存在します。まずは「金額・適用要件に関わる回答は必ず一次情報を確認する」というルール一つだけでも明文化し、入所時に共有することから始めるのが現実的です。

Q3. ハルシネーション対策とAI利用ガイドラインはどう違いますか?

AI利用ガイドラインは入力禁止情報や承認フローなど利用全般の統制を定める文書であり、ハルシネーション対策はその中の「出力の正確性を担保する」部分に特化した運用です。両者は一体で設計するとルールが重複せず、職員にも伝わりやすくなります。

まとめ｜税理士 AI ハルシネーション対策は「出典確認」と「ダブルチェック」を仕組み化する

税理士 AI ハルシネーション対策の要点は、AIの回答を確定した専門的判断として扱わず、出典要求・一次情報での裏取り・担当者以外によるダブルチェックを業務フローに組み込むことにあります。税制改正直後や通達に基づく個別判断など、誤情報が起きやすい場面を事前に把握し、業務ごとにチェックの濃淡をつけて運用すれば、AIの効率化効果を保ちながら誤情報のリスクを構造的に下げられます。

ラクゼイでは、税理士事務所専用に設計したAI導入伴走を提供しています。仕訳業務・月次レポート作成・顧問先対応の自動化に関心がある場合は、無料相談または画面サンプルをご覧ください。

税理士のAIハルシネーション対策｜誤情報リスクを防ぐチェック体制の作り方