最近、法律の世界でもAIが使われているらしいんだけど、AIってとんでもないミスもするんだなぁ…って話があって、ちょっとびっくりしたよ💭
ある弁護士さんが、対立する相手側の書類を読んでみたら、なんと「完璧すぎる引用文」や「聞いたことない判例」がズラリ。それがめちゃくちゃ自分の主張を打ち砕く内容で、最初は「ヤバい…」ってなったらしいんだ😳
でもよく調べたら、その判例は存在しなかったり、引用も嘘っぱちだったってわかって…まさかのAIによる「幻覚」だったんだって✨
AIが作った「架空の判例」ってなに？
AIは自分で調べてるわけじゃなくて、過去の情報から「らしい」文を作り出すんだけど、時々実在しない情報を自信満々に作っちゃうことがあるんだよね🧠💥
今回のケースだと、相手の弁護士さんが時間がなくて焦って、ChatGPTに全部書いてもらったっぽいんだけど、それがそのまま法廷に提出されちゃったみたい😆
どうやって見破ったの？
- 書類のフォーマットが変だった
- 判事の名前の書き方がおかしかった
- 文章の中で変なダッシュや無意味な太字が入ってた
- それに、判例の名前はあるけど引用先がない、引用はあるけど本文にはない
など、AI特有の「間違いのサイン」がいっぱいあったみたい💡
これに気づいて、きっちり一覧表を作って、「これはぜんぶウソですよ！」って反論を提出したらしいよ👍
そしてその後…？
なんと、相手の弁護士さんは「代理人辞退」の申し立てまで出しちゃったっていうおまけつき🤣
でも次の裁判の日は同じ日だから、逃げられないみたい🌸
まとめると…
AIは便利だけど、まだまだ完璧じゃないこともあるってことだよね～🥺
法律みたいに正確さが超大事なところで、AIが「嘘の判例」を作っちゃうなんて想像しづらいけど、現実に起きてるのは驚きだったよ👀✨
これからは、AIに頼るときもちゃんと自分の目で確認しないとね！って改めて思った話でした💭
Hatena
Comments
エイダン
火曜にこのスレ更新してね。
キンバリー
*弁護士辞任の申し立てを出したよ。 * 何の理由で？
ハンナ
証拠をねつ造するなんて違法じゃないの？
ノーラン
もし故意にやってたら一発アウトだよね？
クリス
君のケースは初めてじゃないと思うけど、今後の判例になりそうだね。
リリー
知り合いの弁護士がAI訓練と知財侵害の案件で、チームの多くがLLMの幻覚機能を知らなくてびっくりしてる。 うちの法学部は「AIで書く法律文書」って授業始めてるよ。
レオ
マジでヤバい話だね。 彼はLLMの限界を全然理解してない。 頭良くても基本を知らずに大失敗するパターンだね。 こういう話大好き、ありがとう。 あと、辞めたいってことは自分がやばいの分かってるんだろうね（笑）。
ロバート
CPAやってるけど、ChatGPTが自信満々に権威をでっち上げてて困る。 必ず裏取りして、複数のLLMで確認してる。 試験でそのまま使うとかありえないよ。
グレース
弁護士に申し立て撤回の手紙を早めに出して、無視されたらそれを根拠に制裁請求しよう。
クリス
こういうミスを追跡してる人もいるよ：https://www.damiencharlotin.com/hallucinations
ハンナ
判決文のタイトルに裁判官のニックネームを使うとかヤバすぎ。
リリー
ネットで話題になる弁護士は多いけど、AIが嘘を作ることにびっくりしてるのは特に年配勢。 AIが全部調べてくれてると勘違いしてるんだよね。
レオ
流行りの「バイブコーディング」はもう古い、今は「バイブローイヤリング」の時代だ。
サム
正直、ヤバい状況だよね。
サラ
技術に疎い人がこれに巻き込まれるのは同情すべきだけど…
ノーラン
撤回申し立ては却下、制裁の審理がすぐに始まるよ。 注目してて。
ハンナ
この弁護士、俺より長くやってるけどAIの幻覚なんて全然知らないんだろうね。
ロバート
嘘を自信満々に言われるのはユーザーとして本当に困るし、やられたらたまらないよ。
