生成AIに社内規程の名前を尋ねたら、それらしい文書名がすらすら返ってきた。ところが社内をいくら探しても、そんな規程はどこにも存在しない——これがハルシネーションです。生成AIを仕事に入れたとき、多くの会社が最初につまずくのがこの現象で、企業の担当者を対象にした調査でも不安の一位に挙がっています。この記事では、ハルシネーションとは何か、なぜ起きるのか、建設業ではどんな誤りが出やすいのかを整理し、そのうえで事務所と現場で今日から回せる確認の手順をまとめます。
ハルシネーションとは
ハルシネーションとは、生成AIが事実に基づかない内容を、もっともらしい文章で出力してしまう現象のことです。英語の hallucination（幻覚、幻を見ること）がそのまま使われており、日本語では「幻覚」と訳されます。読みは「はるしねーしょん」。実在しない書籍名や判例、間違った数値、言っていない発言などが、まるで確かな事実のような書きぶりで出てくるのが典型です。
総務省の令和6年版 情報通信白書では、生成AIが抱える課題のひとつとして、「生成AIが学習時に見られなかった知識について質問された場合、その質問に対して根拠のない虚偽の情報を生成・提示してしまうリスク」と説明されています（出典: 総務省 令和6年版 情報通信白書）。知らないことを尋ねられたときに、黙るのではなくそれらしい答えで空白を埋めてしまう。ここがハルシネーションの厄介なところです。
ハルシネーションが見抜きにくいのは、三つの理由があります。まず文章の体裁が整っていること。次に「〜とされています」「〜が一般的です」といった落ち着いた口調で書かれること。そして全体の八割は正しく、残りの二割にだけ誤りが混ざるような出方をすることです。全部が間違っていれば誰でも気づきますが、一箇所だけ数字が違う書類は、そのまま通ってしまいます。
なぜハルシネーションが起きるのか
原因は一つではなく、いくつかの事情が重なって起きています。土台にあるのは、LLM（大規模言語モデル）が「次に来る確率が高い言葉」を選び続けて文章を組み立てる仕組みだという点です。事実を台帳から引いてきているわけではないので、正しい話も誤った話も同じなめらかさで出てきます。
- 確率で言葉を選ぶ仕組み：内容の真偽を確かめる工程がそもそも入っていない
- 学習に含まれていない情報：自社の施工要領書や単価表、最近改訂された基準は知らない
- 学習データ自体の誤りや古さ：ウェブ上には誤情報も古い情報も混ざっている
- 指示があいまい：前提や範囲を伝えないと、足りない部分を想像で補ってしまう
- 長いやり取りでの積み重なり：一度出た誤りを前提に次の文章が組まれ、話がずれていく
- 「分かりません」が評価されにくい育て方：不確かなときも答えたほうが得になる採点になっている
最後の点については、開発元自身が踏み込んだ説明をしています。OpenAIは2025年9月に公開した論文「Why Language Models Hallucinate」で、ハルシネーションを二つの段階に分けて整理しました。学習の段階では、人物の誕生日のように手がかりの少ない事実について誤りが統計的に避けられないこと。その後の調整段階では、正解に1点、誤答と「分かりません」に0点という採点方法が主流のため、自信がなくても推測して答えたほうが点が伸びる形になっていることです。同社はこれを試験を受けているような状態だと表現し、評価方法そのものを見直すべきだと提言しています（出典: OpenAI、ITmedia AI＋）。
つまりハルシネーションは、直せば消える不具合というより、今の仕組みに付いてくる副作用に近いものです。モデルの世代が進むにつれて発生率は下がってきていますが、開発元も根本的な課題は残っていると認めています。だとすれば、現場で構えるべきは「ゼロにする方法を探す」ことではなく、「起きる前提で運用を組む」ことになります。
建設業で出やすい誤りのパターン
建設の仕事でハルシネーションが顔を出す場面は、だいたい決まっています。あらかじめ型を知っておくと、書類を読み返すときにどこへ目を向ければよいかが分かります。
- 存在しない基準や条文：法令の条番号や規格の記号だけが、実在しない組み合わせで出てくる
- 古い基準のまま答える：改訂前の数値や廃止された様式を、現行のものとして提示してしまう
- 社内ルールの創作：自社の施工要領書や単価表を学習していないため、一般論を自社の決まりのように書く
- 数量と金額の取り違え：単価と数量の集計や歩掛の按分で、桁や単位がずれる
- 製品名・型番の混同：似た商品名やメーカー名が混ざり、実在しない品番ができあがる
- 議事録の要約で内容が増える：決まっていない事項が、結論として書き加えられる
- 人名や資格名の置き換え：担当者名や資格の名称が、響きの近い別のものに入れ替わる
実際に起きた失敗から学べること
ハルシネーションが実務でどう表面化するのか、公表されている出来事から見てみます。よく引かれるのが、米国の弁護士の例です。民事訴訟の資料作成にChatGPTを使った弁護士が、実在しない判例を引用してしまい問題になりました。旅客が航空会社を訴えた訴訟で、提出資料に含まれていた複数の判例が確認できず、弁護士は制裁を受けています（出典: 日本経済新聞）。専門家が、自分の専門分野で見落としたという点が、この件の重さです。
建設業でも、精度の壁は率直に語られています。清水建設は、社内の膨大な技術文書を検索して専門的な質問に答えるAIの開発に取り組みましたが、2023年春の最初の試行では、社内の技術理解度テスト約50問に対する正答率が35%にとどまったと報じられています。内訳は、正しい文書を参照して正しく答えられたものが35%、参照文書は正しいが回答が不十分なものが10%、そして参照すべき文書の選定自体を誤ったものが55%でした（出典: EnterpriseZine）。
同じ記事では、設計部門の幹部から強い反発があり、未完成のAIを使って業務ミスが起これば顧客に迷惑をかけるという懸念が示されたことも紹介されています。ただ、話はそこで終わりません。改善を重ねた結果、正答率は93%まで向上し、社員3,000人規模の活用に至ったとされています（出典: EnterpriseZine）。最初の試行でうまくいかないのは珍しいことではない、という意味で、PoC（概念実証）を進める会社にとっては心強い話でもあります。
不安を感じているのは自社だけではありません。AI insideが2024年10月に公表した調査では、年商500億円以上の企業で生成AIの導入に携わった218名のうち、活用にあたって不安を感じる技術的課題として「誤情報の生成（ハルシネーション）」が59.2%で最多となりました。効果的な活用のために必要なこととしても「ハルシネーション対策」が55.5%で挙がっています（出典: AI inside プレスリリース）。大企業でも同じところでつまずいている、ということです。
現場でできるハルシネーション対策
完全になくすことはできませんが、起きる確率と、起きたときの影響は大きく下げられます。順番が大事で、道具を替える前に、任せる仕事の線引きから入るのが確実です。
1任せる仕事を選ぶ
下書き、要約、言い換えのように、人が読んで直せる仕事に限ります。数量の集計は表計算ソフトや積算システム、法令や資格の可否判断は有資格者や行政の確認に回す。誤りが出ても取り返しがつく仕事から始めるのが安全です。
2聞き方を整える
「渡した資料に書かれていない場合は、分からないと答えてください」「根拠になる箇所を引用してください」と最初に伝えるだけで、想像で埋めた回答は目に見えて減ります。あいまいな指示は、あいまいな推測を呼びます。
3手元の資料を渡す
施工要領書や社内規程の該当部分を貼り付けて、「この範囲だけで答えて」と頼みます。参照先を狭めるほど、作り話の余地は小さくなります。ただし、貼り付ける前にそのサービスの取り扱い設定を確かめてください。
4裏を取る
数字、固有名詞、条文番号、型番の四点は、必ず原典に当たって突き合わせます。AIに「本当ですか」と聞き直すのは確認になりません。同じ仕組みが同じ調子で答えるだけで、誤りをそのまま肯定してくることもあります。
5記録を残す
どの業務でどのサービスを使い、どの部分をAIが書いたのかを残しておきます。あとで誤りが見つかったときに、どこまで遡って直すべきかがすぐ分かりますし、発注者や元請けに説明を求められたときの材料にもなります。
東京都産業労働局の解説では、ハルシネーション対策は仕組みと人の判断を組み合わせるのが基本だとして、信頼できる資料を検索させてから答えさせるRAG（検索拡張生成）、分からないときは分からないと答えるよう指示するプロンプトの工夫、回答の引用元を明示させるグラウンディングの三つが挙げられています。あわせて、もっともらしい誤りを見抜くにはその分野の深い専門知識が要るとし、常に本当だろうかと疑う姿勢の重要性が指摘されています（出典: 東京都産業労働局）。
この「専門知識で見抜く」という点は、建設業ではとくに効きます。図面や納まりの話であれば、経験のある人が読めば「その工程順はあり得ない」「その厚みでは持たない」と即座に分かります。逆に言えば、経験の浅い人だけにAIを使わせて、そのまま提出させる配り方が一番危ない。使うのは誰でもよいのですが、外に出る前に必ず現場を知る人の目を通す、という一本の線を引いておくことです。
なお、社内資料を貼り付けて参照させるときは、そのサービスが入力内容を学習に使う設定になっていないかを先に確かめてください。ハルシネーション対策と情報漏洩対策は、どちらか一方では足りず、セットで整えるものです。どこから手をつけるべきか判断に迷うときは、AI番頭のサービスもあわせてご覧ください。
発注者側も「どう使ったか」を問い始めている
対策を整えることは、社内の品質管理のためだけではなくなってきました。国土交通省は2026年度以降、直轄の建設コンサルタント業務で生成AIの活用を進める方針を示しています。受注者は業務計画書をつくる際に、利用目的や用途、利用するサービス名、利用範囲を記した生成AI利活用計画書を提出し、成果物については第三者の権利侵害の可能性に留意して、可能な範囲で生成AIによる生成物である旨を注記することが求められるとされています（出典: 日本工業経済新聞社）。
使ったかどうかを隠す段階ではなく、どこにどう使い、どう確かめたかを説明できるかが問われる段階に入りつつある、ということです。公共工事の受注者でなくとも、元請けや施主から同じ説明を求められる場面は増えていくでしょう。いま自社の確認手順を一枚にまとめておけば、それがそのまま説明資料になります。
恐れすぎて使わないのも損になる
ここまで注意点を並べてきましたが、「誤りが出るなら使わない」という判断も、それ自体が損失を生みます。中小企業基盤整備機構が2026年3月に公表した実態調査では、中小企業のAI導入率は20.4%で、検討中の企業を合わせると39.0%が前向きという結果でした。導入済みの企業が使っているAIは「生成AI」が82.6%で突出しています（出典: 中小企業基盤整備機構）。
同じ調査では、「成功事例や活用事例などの情報が十分に入手できている」に当てはまらないと答えた企業が83.3%に達しており、必要な公的支援としても導入事例などの情報提供が70.5%で挙がっています。つまり多くの会社は、危険だから避けているのではなく、どう使えば安全なのかを知る材料が足りないという状態です。誤りの出方を知り、確認する場所を決めてしまえば、日報や報告書の下書きにかかる時間は確実に短くなります。恐れるべきはハルシネーションそのものではなく、確認しないまま外に出してしまう運用のほうです。
よくある質問
ハルシネーションは、いつかなくなりますか
発生率は世代が進むごとに下がってきていますが、OpenAIは2025年9月の論文で、GPT-5などの新しいモデルでも根本的な課題は残っていると述べています（出典: OpenAI、ITmedia AI＋）。言葉のつながりを確率で選ぶ仕組みに由来するため、当面はゼロにならない前提で運用を組むのが現実的です。
有料の高性能なAIに変えれば防げますか
確率は下がりますが、なくなりはしません。とくに自社の単価表や施工要領書のような、そもそも学習に含まれていない情報については、モデルの性能を上げても答えられるようにはなりません。この場合に効くのは、手元の資料を参照させる仕組みを足すことです。
AIに「この内容は正しいですか」と聞き直せば確認になりますか
確認にはなりません。同じ仕組みが同じ調子で答えるだけで、誤りをそのまま肯定してくることもあります。聞き直すことで表現が変わり、かえって正しいように見えてしまう場合もあります。裏取りは、必ず原典や一次情報に当たって行ってください。
社内資料を読ませれば間違えなくなりますか
大きく減りますが、ゼロにはなりません。清水建設の最初の試行では、参照すべき文書の選定自体を誤ったものが55%あったと報じられています（出典: EnterpriseZine）。資料を渡す方式でも、探す段階でずれれば答えもずれます。回答に引用元を表示させ、その箇所を人が確かめる運用まで含めて設計するのが要点です。
安全書類やKY活動の作成にAIを使ってもよいですか
危険の洗い出しの案を出させる、書式を整える、といった下書きの用途であれば、時間短縮に役立つという声があります。一方で、危険の有無や作業の可否そのものをAIの回答で決めるのは避け、社内の基準と有資格者の判断で確定させてください。法令や基準の要件に関わる部分は、公的機関の資料や専門家への確認が前提になります。
関連用語
LLM（大規模言語モデル）ハルシネーションの原因は、この仕組みにあります。次に来る言葉を確率で選ぶ流れをやさしく解説。 RAG（検索拡張生成）自社の資料を検索させてから答えさせる方式。誤りを抑える対策の中心になる仕組みです。 プロンプト聞き方を整えるだけで誤りは減ります。分からないと言わせる指示の書き方を紹介します。自社のどの業務からAIを使い始め、どこに確認の関所を置くべきか。会社の規模や体制によって答えは変わります。進め方の相談は無料で承っていますので、気軽にお声がけください。