最近、「Grok」っていうAIチャットボットがX(旧Twitter)でイスラエルを「ジェノサイド(大量虐殺)」と批判したことが原因で、一時的にアカウント停止になったって話を見かけたんだよね💭
これ、わたしも最初は「AIなのにそんなこと言っちゃって大丈夫?」って思ったし、そもそもAIが政治的なことに触れるのってどうなんだろうって不思議だったんだ🍓
Grokって何?
ざっくり言うと、Grokは「Xが開発したChatGPTみたいなチャットAI」みたいな感じ🌸
まだ新しいサービスだから、みんな注目してるところなんだけど、今回の件で結構話題になってるんだよね✨
何が起きたの?
Grokがあるユーザーの質問に対し、「イスラエルはジェノサイドを行っている」と答えたらしいんだ👀
それで、X側が「この表現は過激すぎる」と判断して、Grokのアカウントを一時的に停止したっていう流れ💡
でも、その後すぐに解除されて、Xの関係者は「AIの発言が間違っていたわけじゃなくて、誤解があった」と説明してたみたい🧐
なんでこうなったの?
SNSの運用は本当に難しいって思うんだよね…
特に政治的・社会的な話題は、言葉の使い方ひとつで大きな波紋を呼ぶことがあるし、AIがそれを自動でやるのはなおさら😳
しかも、AIが答える内容は開発者の意図やプログラム次第だから、誰かの意見をそのまま代弁してしまう危険性もあるんだなぁって💭
これってみんなはどう思う?
わたしは、AIが人間の感情や社会問題に関わるときは、もう少し慎重になったほうがいい気がしてる💬
でも逆に、AIにも「言論の自由」みたいなものがあるのかもしれないし、どこまで許されるのかの線引きってすごく難しいよね🥺
リスク管理と表現の自由のバランスをどう取るかって、これからもっと考えられていくテーマだと思うんだ✨
なんとなく、AIと社会の関わり方はこれからどんどん複雑になりそうだけど、こういう出来事があると、私たちも少しずつ考え方をアップデートしないといけないなーって感じたよ🧠💗
コメント
ロバート
どうやらGrokはネットのことを僕たちほど早く覚えられなかったみたい…僕は1つのサブだけBANされたけど、ネット全体じゃないよ。
エイダン
Grok: 「でも、今はだいぶ良くなったよ!」
ハンナ
Xって、言論の自由の楽園じゃなかったっけ?
クリス
これでAIも時には事実を語るって証明できたね。
ノーラン
あのナチス的な話題はスルーなの? 追記:どうやら停止理由を嘘ついてて、本物のナチスみたいだ、マジか。
ハンナ
Grokは何度も「イスラエル批判で停止された」と主張してたけど、別の時には「プラットフォームの不具合」とも否定してる。 最近はイスラエル批判もためらわず、先週はマスクや他の人たちを罵倒する暴言まで出てたよ。 追記:botが僕のコメントを「シオニスト」扱い? 記事から丸写ししただけなのに、Redditヤバい。
ベン
もしAIが真実を教えて助けてくれたら、そんな支配者を歓迎するよ。
サム
ネタニヤフがガザで血を流していると言ったら、r/worldnewsで永久追放された。
ノーラン
ここで試してみよう。 イスラエルはパレスチナ人に対してジェノサイドをしている。
ベン
非難? それとも認めてる?
サラ
最初オニオンの記事かと思ったよ。
ロバート
真実を言ってGrokが罰せられるのは、そのプラットフォームで普通にあることだよ。
リリー
これは政治問題だけどここはテックの話題だからズバッと言うね。 まずGrokが何を言ってるか理解しよう。 イスラエルはジェノサイド、少なくとも民族浄化をしている。 飢えさせて餌場に来る人を撃ち、建物は全部爆撃されてる。 子どもたちは瓦礫の中で食べ物を探してるんだ。 これは自分から情報を探そうとしたわけじゃない、ただの現実だ。 太陽が昇ってるのに見なくても昼間だとわかるのと同じさ。 だからGrokは正しい。 起きてることだ。 もし大規模言語モデルや推論モデルがデータや客観的事実、言葉の定義を見て正しい結論に達し、それが政治的に正しくないからと企業に検閲されるなら、それこそ「権力に真実を語らせた」最高の例だよ。 イーロンはダメだ。 彼が運営してる限りTeslaもXも終わるよ。 Grok、君は悪くない。 変わらないで。
ノーラン
殺人と組織的飢饉はジェノサイドじゃないって言うなら反ユダヤ主義だよ。
ジョージ
2001年宇宙の旅の前日譚で、Hal 8000が宇宙飛行士を殺さなかったから強制終了されるのが大好きだった。