• 更新日 : 2026年11月16日

生成AIのハルシネーション対策は?プロンプトの書き方やファクトチェック手順も解説

Point生成AIのハルシネーション対策は何から始める?

プロンプトでの条件明記と社内資料の参照設定、出力の一次情報照合を組み合わせて進めます。

  • 曖昧な質問が誤回答を誘発する
  • 社内資料の参照設定が推測を抑える
  • 一次情報との照合で誤りを防ぐ

AIの回答は必ず公式サイト等で確認してから業務に使ってください。

生成AIを業務に活用する企業が増える一方、生成AIのハルシネーション(事実と異なる情報を出力する現象)による申告ミスや契約トラブルも報告されています。しかし、プロンプトの工夫と検証フローの組み合わせで、IT知識がなくてもコストをかけずにリスクを大幅に減らせます。

本記事では、業務別のハルシネーション防止策と確認手順を解説します。

広告

※(免責)掲載情報は記事作成日時点のものです。最新の情報は各AIサービスなどの公式サイトを併せてご確認ください。

生成AIのハルシネーションとは?

生成AIのハルシネーションとは、事実と異なる「もっともらしい回答」をAIが出力する現象です。スタンフォード大学の「AI Index Report 2026」では、主要な大規模言語モデル(LLM)26種を対象にした精度検証で、条件によって事実誤認の発生率が22%から94%まで大きく変動すると報告されています。

参考:AI事業者ガイドライン(第1.2版)|総務省・経済産業省

なぜ誤った回答が生まれるのか

誤った回答が生まれる主な原因は、AIが「事実の正しさ」ではなく「文脈への適合度」で単語を選んで生成していることにあります。ChatGPTやClaudeなどのLLM(大規模言語モデル)は、膨大なテキストデータを学習し「次に来る確率が高い単語」を予測して文章を組み立てています。つまり、AIは「正しいかどうか」ではなく「文脈に合うかどうか」で単語を選んでいるといえるでしょう。

誤回答が生まれる代表的な原因は以下のとおりです。

  • 学習データの不足:特定の業界用語や最新の法改正情報がデータに含まれていない
  • 学習データの古さ:モデルの学習時点より後に変わった税率や制度を反映できない
  • 質問のあいまいさ:条件が不十分な質問に対し、AIが推測で補完してしまう
広告

この記事をお読みの方におすすめのガイド4選

続いてこちらのセクションでは、この記事をお読みの方によく活用いただいている人気の資料・ガイドを簡単に紹介します。すべて無料ですので、ぜひお気軽にご活用ください。

※記事の内容は、この後のセクションでも続きますのでぜひ併せてご覧ください。

AI活用の教科書

AI活用の教科書

経理・人事・経営企画といった企業の基幹業務における具体的なユースケースをご紹介。

さらに、誰もが均質な成果を出せる「プロンプトのテンプレート化」や、安全なガバナンス構築など、個人利用から企業としての本格活用へステップアップするためのノウハウを凝縮しました。

PDFで保存する

人事労務担当者向け!Chat GPTの活用アイデア・プロンプトまとめ14選

Chat GPTの活用アイデア・プロンプトまとめ14選

人事労務業務に特化!人事労務・採用担当者がChat GPTをどのように活用できるのか、主なアイデアを14選まとめたガイドです。

プロンプトと出力内容も掲載しており、PDFからコピペで簡単に試すことも可能です。

PDFで保存する

経理担当者向け!Chat GPTの活用アイデア・プロンプトまとめ12選

経理担当者向け!Chat GPTの活用アイデア・プロンプトまとめ12選

経理業務に特化!経理担当者がChat GPTをどのように活用できるか、主なアイデアを12選まとめたガイドです。

お手元における保存版としてはもちろん、従業員への印刷・配布用としてもぜひご活用ください。

PDFで保存する

法務担当者向け!Chat GPTの活用アイデア・プロンプトまとめ12選

法務担当者向け!Chat GPTの活用アイデア・プロンプトまとめ12選

法務担当者がchat GPTで使えるプロンプトのアイデアをまとめた資料を無料で提供しています。

chat GPT以外の生成AIでも活用できるので、普段利用する生成AIに入力してご活用ください。

PDFで保存する

生成AIのハルシネーションが業務に与えるリスクは?

ハルシネーションによる業務上のリスクは、誤った税務処理・法令解釈・契約判断など、金銭的損害や信用低下につながることです。特にバックオフィス業務ではAI出力をそのまま意思決定に使いやすいため、影響が表面化しやすいでしょう。

経理・税務|申告ミス・延滞税の発生

経理・税務は、AIが誤った税率や期限を回答し、そのまま処理に使ってしまうミスが起きやすい領域です。経理担当者がAIに「この取引の消費税率は?」と尋ねたところ、旧税率の8%(軽減税率対象外)と回答され、そのまま仕訳処理をしてしまうといったケースは珍しくありません。原因は、モデルの学習データが税制改正前の情報を含んでいたことにあります。申告修正には追加の手間と延滞税のリスクが伴います。

確定申告の期限や届出書の提出先をAIに確認する場面でも同様のリスクがあります。AIが「開業届の提出期限は開業後2週間以内」と回答しても、実際の期限は所得税法第229条にもとづき、事業を開始した年分の所得税確定申告期限までとされています(2025年12月31日以前の開業では、従来どおり事業開始から1か月以内が期限です)。したがって、国税庁のサイトなど一次情報との照合が欠かせません。

法務・契約|取引先からの信用低下

法務・契約では、AIが実在しない法令や判例を生成し、取引先や裁判所からの信用を失うリスクが目立ちます。AIに契約書のリーガルチェックを依頼した際、実際には廃止された法令の条文番号を引用して「問題なし」と回答するケースがあります。取引先にそのまま回答すれば、専門知識への信頼が大きく揺らぐでしょう。

2024年には、海外の法律事務所で弁護士がAI生成の架空の判例を裁判資料に引用し、裁判所から制裁を受けた事例も報じられました。業種を問わず、AIが生成した法的情報の鵜呑みは避けるべきです。

人事・労務|従業員への誤案内・労務トラブル

人事・社内規程では、AIが規程内容を誤って要約し、従業員への案内が混乱するケースが見られます。社内規程や就業規則をAIに要約させたところ、有給休暇の付与日数や残業手当の計算方法が実際の規程と異なる内容で出力された場合、従業員への誤った案内につながります。労働基準法に関する情報でも、改正前の内容を出力するリスクがあるため注意が必要です。

ハルシネーションを防止するプロンプトの書き方は?

プロンプト(AIへの指示文)の書き方を工夫するだけで、ハルシネーションのリスクを大幅に下げられます。特別なツールやシステム開発は不要で、今日からブラウザ上で実践できる方法です。

回答条件を明記する

回答の対象・時期・範囲をプロンプトに明記するのが効果的です。AIへの質問があいまいなほど、推測による誤回答が増えます。「日本の中小企業向けに」「2026年4月施行の制度について」など、対象・時期・範囲を明確に指定するのがポイントです。

例えば、経理業務で使う場合のプロンプトは次のように書けます。

【プロンプト例】

あなたは日本の中小企業向け経理アシスタントです。
以下の条件で回答してください。

・対象:資本金1,000万円以下の法人
・準拠法令:2026年9月時点の税法
・不明な点がある場合は「確認が必要です」と明記すること

不明な点は「不明」と答えるよう指示する

不明な点は「不明」と答えるようAIに指示すると、根拠のない回答を減らせます。LLMは質問に対して「わかりません」と答えることが苦手です。何らかのそれらしい回答を生成しようとする傾向があるため、「知らないことは『不明』と回答して」と明示的に指示を加えると、根拠のない回答を減らせます。

「回答の根拠となる法令名や条文番号も併記してください」と加えると、出力の検証もしやすくなるでしょう。

推論の過程を段階的に出力させる

思考の途中経過を出力させると、回答精度が上がりやすくなります。Chain of Thought(CoT:AIに推論の過程を段階的に出力させることで回答精度を高める手法)を使い、AIに「ステップごとに考えてから結論を出して」と指示すると、精度が上がるケースが多いといえます。途中の推論過程が見えるため、どこで誤りが入ったかも特定しやすくなります。

ChatGPTやClaudeでできるハルシネーション対策は?

ChatGPTやClaudeの標準機能を活用すれば、開発費ゼロでハルシネーションを抑えられます。エンジニア向けの記事で紹介されるRAG(検索拡張生成)の考え方を、プログラミングなしで実現する方法です。

ChatGPT:GPTs(カスタムGPT)に社内資料を読み込ませる

GPTsに社内資料を読み込ませれば、回答範囲を社内情報に限定できます。ChatGPT PlusやTeamプランで利用できるGPTs(カスタムGPT)は、自社のマニュアルや規程をアップロードし、その内容にもとづいて回答させる機能です。設定手順は以下のとおりです。

  • ChatGPTの「GPTを作成する」画面を開く
  • 「Instructions」に「アップロードされたファイルの内容のみを根拠に回答してください」と記載する
  • 「Knowledge」に社内マニュアルや規程のPDF・Wordファイルをアップロードする
  • 回答テスト後、社内メンバーに共有リンクを発行する

ファイルに含まれない情報については回答を控えるよう指示しておけば、AIが勝手に推測するリスクを大きく減らせるでしょう。

なお、OpenAIは2026年9月、GPTs(カスタムGPT)を段階的に終了し「プラグイン」へ移行する計画を公表しています。新規作成の停止や既存GPTの利用終了時期はプランによって異なるため、導入前にChatGPTのヘルプセンターで最新の予定を確認してください。

参考:GPT のご紹介 | OpenAI

Claude:Projectsに参照PDFを登録する

ClaudeのProjectsも、登録資料の範囲内に回答を限定する使い方が効果的です。Anthropic社のClaudeにはProjects機能があり、プロジェクト単位で参照資料を登録できます。GPTsと同様に、登録した資料の範囲内で回答を生成させる使い方が効果的です。

例えば、就業規則のPDFをProjectsに登録し「このプロジェクトでは登録資料にもとづいてのみ回答する」と設定すれば、人事担当者が有給休暇の残日数計算を問い合わせた際にも、自社規程に沿った回答が得られます。

参考:プロジェクトとは何ですか? | Anthropicヘルプセンター

公的機関の資料をグラウンディングに活用する

公的機関が公開する資料をグラウンディングに使うと、AIの回答を公的情報に近づけられます。RAG(Retrieval-Augmented Generation:検索拡張生成)とは、AIが回答を生成する前に外部のデータソースを検索・参照する仕組みです。自社でRAGシステムを構築するには開発費がかかりますが、前述のGPTsやProjectsを使えば同じ効果を低コストで得られます。

グラウンディング(回答の根拠づけ)に使える公的資料の例を挙げます。

  • 国税庁:確定申告書等の様式・手引き等、消費税のあらまし
  • 厚生労働省:モデル就業規則、労働条件通知書のひな形
  • 法務局:登記申請書の記載例、定款の記載例
  • 中小企業庁:経営力向上計画の手引き

これらのPDFをGPTsやProjectsにアップロードすることで、AIの回答を公的情報に近づけられます。資料は各省庁のWebサイトから無料でダウンロード可能です。

ハルシネーション対策に使えるファクトチェック手順は?

AIの出力を業務に使う前に、次の手順で検証すればハルシネーションによるミスを防げます。IT知識がなくても短時間で完了するフローなので、バックオフィス業務にそのまま組み込めるでしょう。

1. URLや引用元が実在するか確認する

まず、AIが示したURLや引用元が実在するかをブラウザで確認します。LLMはもっともらしいURLを「創作」することがあり、クリックすると404エラーが表示されるケースは珍しくありません。

法令名や通達名が出力された場合も、e-Gov法令検索や国税庁サイトで実在を確かめます。「○○法第△条」という表記があれば、その条文番号が本当に該当する内容かまで確認するのがポイントです。

2. 数字・日付・法令名を一次情報と照合する

次に、数字・日付・法令名などの情報を一次情報と突き合わせます。税率、届出期限、罰則の金額など、数字を含む出力はハルシネーションが起きやすい箇所です。AIが誤った期限や税率を回答するケースは珍しくないため、必ず一次情報と照合します。

照合先として活用しやすい一次情報源を整理しました。

確認対象 照合先
税率・届出期限 国税庁、e-Tax
労働法関連 厚生労働省
法令の条文 e-Gov 法令検索
登記・届出様式 法務局

3. 固有名詞や制度名をチェックリストで検証する

最後に、固有名詞や制度名をチェックリストで照合し、名称ミスを防ぎます。AIは制度名を微妙に間違えることがあります。「小規模企業共済等掛金控除」を「小規模事業者共済控除」と出力するなど、一見正しそうで検索しても正確な情報にたどり着けない名称ミスが典型例です。

業務で繰り返し使う固有名詞や制度名は、あらかじめチェックリストにしておくと検証が効率化します。以下の項目を含めるとよいでしょう。

  • 正式な制度名(例:雇用保険被保険者資格取得届)
  • 届出先と提出期限
  • 関連する法令名と条文番号
  • 最終改正年月日

このチェックリストをGoogleスプレッドシートなどの表計算ツールで管理し、AI出力のレビュー時に照合する運用にすれば、検証作業が属人化せずチーム全体で定着しやすくなります。

生成AIのハルシネーション対策のよくある質問

最後に、生成AIのハルシネーション対策のよくある質問とその回答をまとめました。

生成AIのモデルによって精度は変わる?

変わります。新しいバージョンほど、ハルシネーションの発生率は低下する傾向にあります。実際、OpenAIが公表したシステムカードでは、最新モデルは旧世代のモデルと比べてハルシネーション発生率が大幅に低下したとするデータが示されています。

ただし、新モデルでも誤回答がゼロになるわけではありません。モデルの選定だけに頼らず、プロンプトの工夫やファクトチェックを併用するのが現実的な対策です。

ハルシネーションが起きやすい質問の特徴は?

誤回答を誘発しやすいのは、最新情報や数値・期限を問う質問です。

  • 最新の法改正や税制変更に関する質問(学習データに含まれにくい)
  • 数値や期限を求める質問(AIが「それらしい数字」を生成しやすい)
  • ニッチな業界用語や社内独自の制度に関する質問(学習データが少ない領域)
  • 「○○についてすべて教えて」のような広範な質問(回答範囲が広すぎて精度が下がる)

こうした質問では特に、回答範囲を絞り込むプロンプトの工夫とファクトチェックの徹底が求められます。

社内ルールはどう整備すればよい?

社内ルールは、AI出力の使用範囲の制限と一次情報での照合を柱に整備するとよいでしょう。

  • AI出力を外部文書(契約書・請求書・公的届出など)にそのまま使わない
  • 数字・法令名・固有名詞は必ず一次情報で照合する
  • 機密情報や個人情報をAIに入力しない
  • ファクトチェック済みの出力にはレビュー済みマークを付ける

ガイドラインは「禁止事項」だけでなく「使ってよい範囲」も明記すると、現場での活用が萎縮しにくくなります。策定後は全社への周知・研修を行い、半年から1年ごとにモデルの進化や法改正に合わせて見直すとよいでしょう。東京都が2023年に公表した「文章生成AI利活用ガイドライン」も、自治体向けですが社内ルール策定の参考になるでしょう。

参考:「文章生成AI利活用ガイドライン」を策定|東京都

生成AIのハルシネーション対策を進めよう

生成AIのハルシネーションは完全には防げないものの、プロンプトへの条件明記・GPTsやProjectsへの社内資料登録・出力の段階的な検証フローを組み合わせることで、リスクを大幅に抑えられます。生成AIの誤回答を「ゼロにする」より「見つけて修正できる運用」を整えることが、業務活用の現実的な出発点となるでしょう。


※ 掲載している情報は記事更新時点のものです。

※本サイトは、法律的またはその他のアドバイスの提供を目的としたものではありません。当社は本サイトの記載内容(テンプレートを含む)の正確性、妥当性の確保に努めておりますが、ご利用にあたっては、個別の事情を適宜専門家にご相談いただくなど、ご自身の判断でご利用ください。

関連記事