これって意外と知られてないけど、AIを使った法律リサーチはかなり危険な賭けになることがあるんだよね💡
アメリカで、ある弁護士さんがChatGPTを使って裁判用の資料を作ってたら、なんと「存在しない判例」を引用してたってことで裁判官にバレちゃったんだって😳
え、AIが嘘つくの！？法律の世界で何が起きたの？
この弁護士さん、ChatGPTに法律調査をお願いしたらしくて。要は、「これってこういう時どうなるの？」って質問したら、ChatGPTが判例とか法律の説明を返してくれたみたい。
だけど、問題はその中に実際には存在しない判例の名前や内容が混じってたこと😱
裁判官はそれに気づいて、
「生成系AIを使って法律調査するなんて、火遊びしてるようなもの。知らないなら雲の中に住んでるようなもんだ」
ってビシッと言ったらしいよ🔥
結果、この弁護士さんは罰金5500ドル（約70万円ちょい）を科されてAIの使い方を学び直すように命じられたとのこと。
AIは便利だけど、完璧じゃないんだな
わたしもChatGPTとか使うけど、ほんとに便利だよね✨
でも今回のケースを見て思ったのは、
- AIは「実在する情報」をちゃんと区別できないことがある
- 表面的にはそれっぽいけど、実際は作り話の可能性もある
ってこと🥺
法律みたいに正確さが命の現場で使うのは、かなりリスク高い気がする…。
じゃあどうすればいいの？
じゃあ法律関係の人はもうAI使っちゃダメ？そんなことはないと思う💭
大事なのは、
- AIの言うことは「参考程度に」受け取ること
- 必ず人の目でちゃんとチェックすること
- AIを過信しすぎないこと
特に専門的なことだと、AIが間違えるリスクは高いから慎重に扱わないとね👀
まとめると…
今回の事件は「AIって便利だけど、まだまだ魔法みたいには使えないよね」って話なんだよね💡
法律のプロでもやらかすくらいだから、わたしたちもAIの情報は信じすぎずに、「ちょっと怪しい？」って思ったら自分で確認するクセをつけるのが大事かも🎀
AIと上手に付き合うには、やっぱり「うまい距離感」が必要なんだなーって実感したよ😆✨
もしAIで調べ物するときは、今回みたいな「存在しない情報」に騙されないように気をつけてね❣️
はてな
コメント
リリー
ちゃんと教育を受けたはずの人たちがLLMを事実の一次情報源にしてるのは悲しくて心配だよ。
グレース
あの文章の言い回しが、彼が裁判官で作家じゃない理由を物語ってる。
エイダン
サムネにパロットを尋問したフェニックス・ライトが使われてるの、地味に好き。
クリス
こういうことは初めてじゃないし、これからも続くだろうね。
ベン
「裁判長、ホバーボードに乗るハムスター対ドローンに乗るオウムの事件を引用します。」
レオ
「『雲』じゃなくて『ザ・クラウド』です、パーン！」指鉄砲とウインク付きで。
ハンナ
弁護士なのに弁護士仲間に怠けるなバカになるなとか偉そうに言ってるけど、自分は法学部出てないんか？
ノーラン
これって一体どんなごまかしだよ？
マックス
Azure？ それともAWS？
ミア
「クラウドに住んでる」って言葉、上手いね。
ミア
クラウドに住んでるって表現がピッタリだ。
サム
その弁護士資格剥奪して、今後の裁判では信用できないようにすべきだよ。
ジョージ
おお、5000ドル？ 全然大したことないね。
ロバート
昨日AIが裁判資料作りを助けてるって話があって、新人弁護士は大変になりそうだね。
