生成AIが存在しない判例や条文をもっともらしく出力すること（ハルシネーション）は、もはや驚くべきことではありません。法律事務所の面談では「架空判例が出るのは当たり前。問題は、どうエビデンスを付けて、どうチェックするか」という言い方で出てきます。

▶ あわせて読みたい：AI導入は何から始める？最初に選ぶ業務の見極め方【業務棚卸し・優先順位表】

結論から言います。ハルシネーションは防ぐものではなく、前提として織り込むものです。事務所のルールは次の一文に集約されます。

「一次情報と照合できない記述は、書面に載せない」

この記事では、この一文を実際の工程に落とします。AIの出力にエビデンスを付ける方法、誰がどの段階で何と照合するかのチェック体制、検証記録の残し方の3つです。ここで決めた工程は、書面の下書き、証拠整理、契約書レビューのすべてで共通して使います。

なぜ「防ぐ」発想では運用が回らないのか

「AIには判例を聞かない」「出力は全部疑う」という発想は正しいようで、実務では2つの問題を生みます。

1つは、全部疑うとAIを使う意味がなくなり、結局使われなくなることです。もう1つは、「全部疑う」は工程ではないので、忙しい時に確認が省略され、そこで事故が起きることです。

海外では、AIが生成した架空判例をそのまま書面に引用した弁護士が制裁を受けた事例が複数報じられています。共通するのは「弁護士が最終確認する」というルールは存在したが、何と照合するかが決まっていなかった点です。

運用は「疑う」ではなく「照合する」で設計します。

原則：AIに判例を探させない

最初に決めるべきは、AIの役割の限定です。

• やらせないこと：この事案に使える判例を探す、条文番号を答えさせる
• やらせること：弁護士が既に持っている判例・条文・証拠と、主張の組み立てを突き合わせる

複数の文書を突き合わせて正確性を確認する作業は、AIが得意な領域です。一方、記憶の中から判例を取り出す作業は、AIが最も間違えやすい領域です。この2つを分けるだけで、架空判例が書面に載る経路の大半が塞がります。

判例の探索は、判例データベースや法務特化型のツール（出典が一次情報に紐づくもの）で行い、その結果をAIに渡して整理させる、という順番にします。

▶ 関連記事：AIエージェントに任せてはいけない仕事とは？会社で決める判断基準を解説

エビデンスの付け方：出力1文ごとに一次情報を紐づける

AIの出力を書面に使う場合、次の単位でエビデンスを付けます。

「出典が付けられない記述」は、原則として削るか、弁護士が自分の判断として書き直します。AIの出力のまま残さないことがルールです。

AIに「出典タグ」を付けさせる

実務上、有効なのはAIへの指示の段階で「各段落の末尾に、根拠にした資料（渡した判例・条文・証拠）の番号を付けよ」「渡していない資料に基づく記述はその旨を明記せよ」と指定することです。出力の段階で出典の有無が可視化され、照合の工数が下がります。

ただし、AIが付けた出典タグ自体も間違えます。タグは照合の入口であって、照合の代わりではありません。

チェック体制：誰が・どの段階で・何を照合するか

「弁護士が最終確認する」は体制ではありません。次の3点を決めて初めて工程になります。

1．照合の段階を2回に分ける

• 一次照合：下書きの段階で、出典タグと一次情報の一致を確認する（パラリーガル・事務局・若手弁護士が担当できる）
• 最終照合：書面確定前に、法的評価の妥当性と引用の適切さを確認する（担当弁護士）

一次照合を機械的な作業として分離することで、担当弁護士は最終照合に集中できます。

2．事務所規模別の担当

一人事務所では「同じ人が同じ日に書いて確認する」ことが最大のリスクです。時間を空ける、または出典存在確認だけでも事務局に分離する工夫で、見落としを減らします。

3．照合をAIに補助させる部分

照合そのものもAIに一部渡せます。

• 出力から判例・条文・証拠番号の引用箇所を機械的に抽出させ、照合リストを作る
• 渡した証拠と出力の記述に矛盾がないか突き合わせさせる（複数文書の突合）

ただし、判例データベースでの存在確認だけは人が行います。ここをAIに任せると、架空の判例を架空の根拠で「確認済み」にする可能性があります。

検証記録を残す

照合したことを記録に残します。目的は3つです。

• 依頼者や裁判所から問われた時に、確認工程を説明できる
• 事故が起きた時に、どの工程で漏れたかを特定できる
• 「AIの出力をそのまま使った」という疑いに対し、事務所の運用を示せる

記録は簡単で構いません。書面ごとに「照合日・照合者・照合した出典の一覧・削除または修正した記述」をメモに残す程度で十分です。

よくある質問

Q. 法務特化型のAIなら架空判例は出ませんか

出典が一次情報に紐づく設計のツールは、汎用AIより大幅にリスクが低いです。ただし、要旨の要約や適用の判断で誤ることはあります。ツールの種類にかかわらず、照合工程は省略しないでください。特化型と汎用型の使い分けは別記事で扱います。

Q. 依頼者情報を含む書面の照合は、どの環境で行いますか

一次照合で証拠や書面をAIに渡す場合は、守秘義務の段階3（閉じた環境）の条件を満たす必要があります。線引きは別記事を参照してください。

Q. 確認工程に時間がかかり、AIを使う意味がなくなりませんか

下書きに使う時間と照合に使う時間を比べると、照合の方が短く、かつパラリーガル・事務局に分離できます。実務では「下書きを書く時間」の大半がAIに移り、「照合する時間」が弁護士の主な作業になります。これが「処理からお膳立てへ」の転換です。

まとめ

• ハルシネーションは前提。防ぐのではなく「一次情報と照合できない記述は載せない」で運用する
• AIに判例を探させず、既に持っている判例・条文・証拠との突合に限定する
• 出力1文ごとに判例・条文・証拠番号を紐づけ、出典が付かない記述は削るか書き直す
• 一次照合と最終照合を分け、事務所規模に応じて担当を決める
• 検証記録を残す

この検証工程を前提に、次は訴状・準備書面の下書きの手順です。

検証工程の設計について相談する

ご相談はこちら：AI導入支援サービス／お問い合わせ