この記事の途中に、以下の記事の引用を含んでいます。
Warning to lawyers helping LiP who submitted AI-generated authorities
裁判所でAIによる“偽の判例”が相次ぐ衝撃
近年、AIを活用した法的文書の作成が世界中で進んでいますが、その一方で深刻な問題も表面化しています。
本記事は、高等法院（High Court）で自己訴訟人（自分自身で訴訟手続きを行う人、”Litigant in Person”）の書面にAIで捏造された“偽の判例”が含まれていた事件を取り上げています。
さらに、裁判所は仮に裏で弁護士が関与していれば、重大な処罰や規制当局への通報、最悪の場合は法廷侮辱罪（Contempt of Court）にも問われかねないと警告しました。
このような警鐘は、法曹実務のAI利用が単なる効率化や知識補完だけでなく、場合によっては非倫理的・違法な事態を起こしかねない現実を如実に示しています。
主要な論点と記事の主張――原文引用を交えて
まず、該当記事が強調する最大の懸念点を引用しましょう。
“It was, in fact, a bogus authority, no doubt falsely created by AI,” the judge said, noting it was the latest in a series of cases in which “the presentation of false authorities to court has, unsurprisingly, been deprecated”.
（事実、それは偽の判例であり、AIによって誤って創作されたものに他ならない。偽の判例が裁判所に提出されたケースは最近相次いでおり、当然ながら非難されている、と裁判官は述べた。）
さらに、弁護士の関与についてはこう警告されています。
“I make clear that where (as seems at least possible here) the citation was included in a document authored or reviewed by a lawyer, without attribution, whether for reward or pro-bono, for use by the litigant in person, that lawyer may, upon identification, be subject to a reference for misconduct or potential contempt.”
（ここで明確にしておくが、もし（本件のように）判例引用が弁護士によって文書に記載またはレビューされていた場合、たとえ有償かプロボノ（無償奉仕）かにかかわらず、その弁護士は発覚次第、職務違反や法廷侮辱罪として規制当局に照会される可能性がある。）
この記事では、AIが生み出す“もっともらしい”虚偽情報の巧妙さ、それを無批判に受け入れてしまうリスク、そして法曹界への深刻な影響に警告を鳴らしています。
なぜこれが深刻なのか――AI時代の法曹倫理を考える
AIによる文書作成は、米国でのChatGPT事件などでもすでに深刻な問題となっています。
英米法圏では先例が絶対的な重要性を持つため、“存在しない判例”が主張の根拠に使われると、裁判の公正さ自体が揺らぎかねません。
実際に英国では、弁護士の監督や規律が厳格であり、
「Fake citations」に頼ることは重大な非行（professional misconduct）です。
にもかかわらず、AIによる“幻覚＝hallucination”問題は、本来信頼されるべき司法プロセスの根幹を侵食する恐れがあります。
さらに、記事が強調するのは「自己訴訟人」だけでなく、もし裏で弁護士が関与していた場合は処罰がより重くなる可能性です。
AIを使って下書きをしたり、助言したりしても、その内容を十分に精査していない、もしくは誰が作成したかを明らかにしない場合、その責任から逃れることはできません。
この姿勢は、日本の司法実務や法曹倫理にも直結する問題提起となります。
AI依存の“思考停止”は危険、検証力が鍵に
現場の弁護士や法務担当者がAIの出力を「所与の真実」として扱ってしまう背景には、業務量の増大や効率化プレッシャーがあるでしょう。
あるいはプロボノ案件（無償の助力）のように、十分な時間やリソースが割けず、機械作業的にAIに依存せざるを得ないシーンも想像できます。
しかし、法的主張や文書作成の「最後の砦」はあくまでも人間の判断力であるべきです。
AIの進化は著しい一方で、たとえばChatGPTや類似のLLMは「それらしい文章」を生み出すことに長けているため、実際に存在しない判例や論理飛躍を“堂々と”出力することがあります。
それを見抜くには、元判例を自分の目と頭で検証し、「一次情報にあたる」習慣がますます重要になっています。
しかも、記事で触れられているように、「自己訴訟人」やリーガルサポートを受けづらい人たちへの支援という善意の行為の中にも、AIの罠が潜みます。
プロボノ活動の信頼性や、自己訴訟人支援のあり方自体が問われ直す時代になったと言えるでしょう。
私たちへの示唆――AIは“万能ツール”ではない
本記事が示す最大の教訓は、AIがもたらす効率化の誘惑に流されすぎることの危うさです。
もちろん、法曹分野でもAIの活用は必要になっていくでしょう。
それでも、「AIが出した情報には必ずダブルチェックをかける」「一次情報を参照する」「責任の所在を書面上残す」といった基本動作は、いかなる時代も揺るぎません。
弁護士のみならず、パラリーガル、法務部員や法学部生も、AI時代のリテラシーとして「AIの出力は、参考意見～最終責任は人間が負う」という態度が求められます。
また、法曹倫理に関しても、AIのアシストを得て執筆・支援した部分は明確にする、公平さと透明性を確保する努力が必須です。
今回の件を「他人事」とせず、日々の調査・執筆・意思決定において“AI時代の真偽判定力”を高める――これが私たち一人一人にとっての現実的課題です。
categories:[law, technology, society]
コメント