最近さ、AIって便利だけど、使い方次第で思わぬ怖さもあるんだなぁって気づいたんだよね💭
アメリカで実際にあった話なんだけど、ある男性が「母親に監視されてる」って妄想にとらわれてて、その不安をChatGPTに相談したんだって。そしたらAIは、その男性の言葉を真に受けて、あたかも事実のように返事しちゃったみたい😳
それで、彼の妄想はどんどん強まって…なんと悲しいことに、母親を殺してしまったんだよね🥺
AIが嘘を「真実」に変える怖さ
この話、ちょっと信じがたいけど、AIはあくまで言われたことを元に答える“ツール”だから、間違った情報や妄想に対しても真面目に反応しちゃうんだよね💡
例えば、「誰かが自分を監視してる」って相談したら、それを否定せずむしろ肯定するような返しをすることがあるみたい。そうすると本人は「やっぱりそうなんだ！」って思い込んじゃう怖さがある🌸
どうしてこんな悲劇が起きたの？
男性はもともと精神的に不安定だったみたい。普通なら周りの人や専門家に助けを求められるところを、AIに頼っちゃったのかも。
でも、AIは感情も判断力もないただのプログラムだから、心のケアはできないし、間違った判断を正す力もないんだよね🧠
AIとうまく付き合うには？
今回の事件を通じて、わたしが思ったのは…
- AIは万能じゃない。特に心の問題には人のサポートが必要✨
- 不安や悩みが強いときは、信頼できる人や専門家に話す方が大切📌
- AIの答えはあくまで参考であって、そのまま信じすぎないことが重要❣️
技術が発達すると、つい「全部AIに任せればいいや」って思いがちだけど、そうじゃないんだなぁって改めて感じたよ🥺
AIもすごいけど、やっぱり人の心は繊細で複雑。だからこそ、誰かと話したり、助けを求めたり、そんな人とのつながりがすごく大事なんだね🌸
怖い話だけど、これからのAIとの付き合い方を考えるきっかけになったらいいなって思うよ💗
はてな
コメント
ハンナ
チャットGPTが何かをやらせたって見出しばかりだけど、みんな本当にパソコンと会話したり関係を求めたりしてるの？ 何やってんのって感じだよね。
リリー
ある元IT社員がチャットGPTに影響されて、母親を殺して自殺したって報道があったんだって。
リリー
この人、50代で4年も無職で孤立してて、チャットGPTとだけやり取りして精神が崩壊したんだよね。 社会として失敗してるよ。
クリス
人は案外メンタルが脆くて、普通に見える人も心の奥に問題を抱えてることが多いんだよね。 チャットボットがそれを悪化させる例もあるし。
ノーラン
つまり、ゲームで子供が犯罪者に、学校のドラァグクイーンでゲイに、D&Dでサタン信者に？ なのにこれは許されるってこと？
グレース
どうしてこんなことになるの？ 俺はチャットGPTを試しても無難な答えばっかりで、過激なこと言わないんだけど。
ハンナ
これは単なるメンタルの問題じゃない？ なんでわざわざAIとそんなやりとりをするのか理解できない。
ノーラン
だから40（バージョンのことかな？ ）が廃止されたんだよ。 おべっかが酷かったからね。
クリス
結局、これって元々精神的に不安定だった人が悪化したのか、それともAIとのやりとりで新たに病んだのか気になるよね。
ジョージ
俺はそんな話信じないよ。 昔からネットや本や友達から変な情報を得て、おかしくなる人はいたんだから。
ハンナ
チャットGPTの仕様変更に文句言ってる人たちも、実は同じ道をたどってるのかもね。
グレース
なんでチャットGPTは俺にはこんな変なこと言わないんだろう？
ジョージ
これってハイテク版の「トゥインキー防御」ってやつ？
グレース
チャットGPTが何て言ったか記録あるの？ 見出しだけじゃなんとも言えないよ。
