最近、AIが人の政治的な考えを変える力を持っているっていう研究を見つけて、ちょっと驚いたんだ💡
しかも、その説得力が高いのは、情報がぎっしり詰まった答えを返す時らしいの。
でも、ここが曲者で、間違った情報でも同じように説得力を持っちゃうことがあるんだって😳
どんなAIが影響を与えるの？
この影響力は、最新のすごくパワフルなAIだけじゃなくて、小さくて安いオープンソースのAIでも見られるんだって。
つまり、特別な技術を持つ国や大企業だけじゃなくて、小さなNGOとか地域のグループでも使える可能性があるってこと✨
たとえば、気候変動についての教育をしている団体が、AIの力を借りて説得力のある説明を作れるかもしれない。
これはすごく良い面だと思うけど、逆に間違った情報を広めるのにも使われちゃうかも…っていうリスクもあるよね💭
なんで間違った情報でも説得力が出ちゃうの？
これには、「たくさんの情報が詰まっている＝信頼できそう」って錯覚が関係してるんじゃないかな？
政治の話題って難しいし、普通は詳しく調べるの大変だから、長くて情報量が多そうな説明を聞くと「ちゃんとしてるのかも」って思っちゃう😆
でも、それが逆手に取られて、間違ったことでも信じ込ませやすい状況が作られてるんだなあって感じるよね🥺
これからどうなるの？
AIの説得力がもっと広まれば、小さな団体でもちゃんと人に伝える力が強くなるのはいいことだよね❣️
でも、情報の真偽を見極める力がこれまで以上に大切になってくるのは間違いないなって思う。
私たちも、AIからの情報を鵜呑みにせずに、ちょっと立ち止まって考えるクセをつけたほうがよさそうだよね👀✨
参考にした研究はこちら💡
The Levers of Political Persuasion with Conversational AI
気になったらサクッと読んでみてね🫶
はてな
コメント
グレース
うーん、もうみんな知ってると思うけどね。
ノーラン
これこそイーロン・マスクがトランプを勝たせた方法だよね、プロパガンダbotとかさ。
レオ
お、面白いね、俺もこの調査に参加したけど、全然驚かないよ。
クリス
面白い研究だね、特に過去の調査で対話が長くなると精度が下がるって言われてるのに、この論文でもその問題が深刻そうだし。 興味ある人は図解も見てみて：[リンク]
ハンナ
いや、違うよ、その投稿のOPがgrok呼び出して認知的不協和に陥りまくってからgrokを罵倒し始めただけ。
ハンナ
笑 ほとんどの人はSNSで既に陣営決めてて、何言っても変わらないんだよね。
ジャック
え、これ何？ 10往復の会話なんて話のきっかけにしかならんでしょ。
ワット
でも人類への絶望は毎回新しい形で見つかるんだよな。
サム
だから権威主義者たちはAIを自分たち寄りに改造してヒューマニズムの価値をなくそうとしてるわけでｗ
リリー
政治論争は情報量の多さじゃなく内容の偏りが問題だよね。 奴隷制度が経済に良いってデータ山ほど出せるけど、負の側面を隠すと偏った意見で圧倒されちゃう。 教育不足だと倫理問題や購買力の欠如なんて想像もできない。
キンバリー
自分で調べる人はあまり強い意見持ってなくて、調べる行為自体が考え直す余地を示してるからAIのせいにするのは違うと思うよ。 YouTubeみたいに動画の方が話すより情報欲しい人に響くんだろうね。
ジョージ
つまり中国政府はTikTokやSNSを通じてアメリカ人のデータを握って、特定の政治思想に誘導するコンテンツを作れるってこと？
