• 1
• 2
• 3
• 4
• 5

生成AIに騙される弁護士が相次いでいる（写真：Salivanchuk Semyon/shutterstock）

2枚の画像を見る

　先日、米国で弁護士が生成AIを用いて作成した訴訟の書面に架空の判例が掲載されていたことが判明した。2023年に同様の事件が起きたばかりだが、なぜ生成AIに騙される弁護士が後を絶たないのだろうか。（小林 啓倫：経営コンサルタント）

制裁金を科されたテキサス州の弁護士

　先ごろ米国で、弁護士が生成AIチャットボットを用いて作成した訴訟書面に架空の判例が掲載されていたことが判明し、連邦裁判所が約1万5000ドルの制裁金を科すよう勧告するという事件が起きた。

　そう聞いて、ずいぶん昔の話をするんだな、と思った方もいるだろう。筆者もこのニュースを聞いたとき、てっきり2023年にニューヨーク州で起きた事件のことかと思っていた。しかし、この事件とはそれとは別物だ。

　今回はテキサス州で起きたものであり、発生したのは2024年10月29日のこと。この日、ラファエル・ラミレスという名の弁護士が、自分が担当するある被告人に関する意見書を、インディアナ州南部地区連邦地方裁判所テラホート支部に提出した。その意見書の中に、存在しない判例が引用されていたのである。

　今年2月に公開された報告書によると、裁判所はこの判例の存在を確認できなかったため、ラミレス弁護士に対して正しい判例情報を提出するよう指示した。ところが、ラミレス弁護士はこの要請に応えられず、さらに裁判所が調査したところ、ラミレス弁護士は他の2つの文書でも存在しない判例を引用していたことが判明した。

　ラミレス弁護士は「判例を見つけることができなかった」と釈明する通知を裁判所に提出している。その通知の中で、彼は引用が誤りであったことを認め、以前引用した判例を撤回し、裁判所と相手方弁護士に混乱をもたらしたことを謝罪した。

　裁判所は、この件でラミレス弁護士に制裁金を科す方針を示し、2025年1月3日に聴聞会を開催。この場にラミレス弁護士が出席し、そこで彼は初めて、生成AIを使用して書面を作成したことを認めたのである。

　彼はAIが架空の判例と引用を生成する能力があることを知らなかったと説明した上で、AI使用に関する教育プログラムを受講したことも報告し、悪意をもって行動したことはないと強調した。

　しかし裁判所はこの釈明を認めず、2月21日に報告と勧告を発行。ラミレス弁護士に対して1万5000ドル（3件の違反それぞれに5000ドル）の制裁金を勧告し、さらに専門職規則違反に関する審査のため、首席判事に事案を付託した。

　仮に首席判事が懲戒機関（インディアナ州の弁護士懲戒委員会など）に転送するのが望ましいと判断した場合、ラミレス弁護士はさらなる罰を受ける可能性もある。

　問題の書面作成に使用された具体的なAIサービス名は明らかにされていないものの、ChatGPTのような生成AIチャットボットと見られている。そうだとした場合、やはり想起されるのは2年前のニューヨーク州での事件だ。この連載でも何度か取り上げているが、簡単に経緯をまとめておくと、次のようになる。