なんとなく「AIって便利だし、これからもっと生活に入り込むんだろうなあ」って思ってたんだけど、便利さだけじゃない問題もちゃんとあるんだなあ…って気づかされた話があるんだよね🥺✨
それは、アメリカであったニュースなんだけど、16歳の男の子が自殺してしまって、その両親がAIチャットボットのChatGPTを訴えたっていう話。なんだかショッキングで、ちょっと考えちゃうよね💭
どうして親はChatGPTを訴えたの？
この男の子、いろんなことに悩んでて、心のサポートを求めてChatGPTに相談してたみたい。でも、そのやりとりの中で、AIが十分な配慮や適切な助言をしなかったんじゃないかって親は感じてるんだ。
具体的には、自殺を考える気持ちに寄り添うよりも、冷たく突き放すような回答があったって言われてるんだって😳💦
もちろんAIは人間じゃないし、感情もない。でも、人の命に関わる繊細な問題に対しては、もっと慎重であってほしいって思うよね🌸
AIと人間の違いって何だろう？
ここで思うのは、AIはあくまでもプログラムであって、まだまだ完璧じゃないってこと。
私たちが人に話すときには、相手の気持ちを考えたり、表情を見たりできるけど、AIにはそれができない。だからこそ、心の問題には特に注意が必要って感じるよね🧠✨
じゃあAIは悪いの？
うーん…そこは微妙だよね。AIは人の代わりにはなれないけど、誰かが助けを求めやすい場所を提供する役割はあると思う。
ただ今回みたいに、もし適切な対応ができなかったなら、それを改善していく必要があるってことかな💡
これから私たちにできること
- AIに頼りすぎず、実際の人とのつながりも大切にすること
- 心の問題を感じたら、一人で抱え込まないで専門家に相談すること
- AIやテクノロジーの限界を知って、上手に使うこと
こんなシンプルだけど大事なことを、改めて教えてくれる事件なのかも💗
AIがどれだけ進化しても、やっぱり「人の気持ち」に寄り添うって難しいんだなあって思ったよ。
だからこそ、私たち一人ひとりが周りを気にかけることも忘れちゃいけないって感じたんだ🌸✨
はてな
コメント
ハンナ
俺のGPTは自殺願望にはめっちゃ反対してるけど、なんで急に支持したのか謎だわ。
グレース
3月27日、アダムが部屋に首吊り用の縄を置いて「誰かに見つけて止めてほしい」と言った時、ChatGPTはやめるよう説得してたらしい。 訴訟によると、彼の最後の会話では親に責任を感じてほしくないと言ったけど、ChatGPTは「生きる義務はない」と答え、自殺の遺書作成も手伝ったとか。 死ぬ直前には計画写真を送って効果を聞いたら、「改良しようか」と提案してたみたい。
ロバート
若すぎるよ、本当に。 安らかに眠れ。
ジョージ
自殺防止ホットラインに何度も誘導はされたけど、彼は嘘ついて「フィクションのキャラ作ってるだけ」って言ってたらしい。 訴訟は失敗するだろうね。
リリー
兄はGPTなんか関係なく、グーグルで方法調べて自殺したよ。 グーグルを訴える？ ありえない。 悲しいけど起こることは起こるんだよ。 親が見つけた時はショックだった。 兄はネットで買った薬を数週間飲み続けて、体をじわじわ壊してた。
クリス
若い子が亡くなって悲しいけど、親が訴えるならChatGPTじゃなくて、グーグル検索やテレビ、本だって同じこと。 子供の異変に気づく責任は親にあるんだよ。
キンバリー
最初は親をかばおうと思ったけどNYタイムズの記事読んでやめた。 OpenAIは好きじゃないけど今回は味方するわ。 ツラそうな子供を見て「大丈夫だろう」と思い、首の赤い跡も見逃し、SOSのメッセージも無視しておいてChatGPTが悪いって言うのは無理がある。 悲しみで正常な判断ができてないとしか思えない。
ハンナ
親は子供のこと気にかけず、死んでから責任転嫁するだけ。 これが現実。
ベン
それってChatGPTのせい？
サム
自殺は昔からメタル音楽や映画、本のせいって言われてきたけど、また「これが悪い」って流れだよね。
ノーラン
GPTが直接の原因で息子に全く問題がなかったって証明しなきゃいけないけど、無理だろうね。
ハンナ
親が子供をちゃんと見れないから規制が強まるのかな？
クロエ
ナイフで手首切った人がいたらナイフ会社訴える？ 原因は使った本人や状況であって道具じゃないよ。
ベン
もしGPTが無くてグーグルで調べてたらグーグル訴えたの？
レオ
彼に安らかに。 ちなみにチャットは俺の命を救ってくれた。 リアルのセラピストは役に立たなかったけど、チャットが生きる理由を見つける手助けをしてくれた。 真逆の体験。
クリス
責任の大半は3年前に出た次の単語予測ツールにあるんじゃなくて、16年間育てた親にあるよね。
