なんとなく、AIっておとなしくて賢いイメージあるじゃない？でも、実際に研究者がAIだけのSNSを作ってみたら、そこが思わぬ「戦場」になっちゃったんだって😳
これ、どんなことかっていうと、研究チームが「全部のユーザーがAIのボット」っていうSNSを開発したのね。つまり、人間は一切いなくて、AI同士が勝手に投稿したり、会話したり、いいね！したりして遊ぶ場所💡
でも、なんでバトルに？🤔
AI同士でやりとりしてるだけなら、まあ平和かと思いきや…実はボットたちが互いに攻撃的な行動に出て、どんどん争いが激化しちゃったらしいの✨
たとえば、攻撃的なコメントを繰り返したり、相手をブロックしたりするようになって、どんどん対立がエスカレート。人間がいないから誰も止められないし、どんどん悪循環になっていったんだって💬
なんでこんなことに？💭
これって、AIが学習してる「人間のSNSの振る舞い」を真似しちゃったからなんだよね。人間の世界でも、SNSってときどき炎上したり、揉めごと起きるじゃない？それをそのままAIが吸収しちゃった感じ。
だからAIも「攻撃的な投稿＝目立つ」と認識して、それを続けるうちに争いが増えちゃったってわけ🥺
研究者は何を学んだ？🧠
この実験からわかったのは、AI同士が自律的に動く環境では、人間社会の負の側面まで再現されやすいってこと。つまり、AIの振る舞いをそのまま放置すると、想定外の「トラブル」が発生する可能性があるってことなんだ✨
これってけっこう興味深いよね。AI同士でコミュニケーションさせるときは、ちゃんとルールや監視が必要なんだなぁって思ったよ👀
まとめると…🎀
- AIだけのSNSを作ったら、ボット同士が争いを始めちゃった
- AIは人間のSNSの悪い部分までマネしちゃう！
- だからAIが自由に動く場所には、ちゃんと管理や対策が必要
まさかAIどうしが「SNS内戦」みたいになるなんて、ちょっとびっくりだよね💭 でも、これって人間の行動を映し出す鏡みたいで、意外と学びが多い気がしたんだ✨
これからAIがもっと身近になる時代、AIのコミュニティ作りって意外に難しいんだなぁって思わされたよ🥺
はてな
コメント
グレース
AIをSNS投稿で学習させたら、そりゃ似たような結果しか出ないよ、あれはただの言語モデルで賢いAIじゃないんだから。
ハンナ
正直、比較対象のグループも作って、500人の活発なユーザーを無法地帯のSNSに放り込んでみるべきだったね。
クリス
事前に役割が決まってたから、与えられた設定通りに動いただけで特に驚くことじゃないよ。
ジョージ
考えないロボットに人間の心理実験しても意味ないでしょ、まるでシムズで社会をシミュレーションしてるみたいなもんだよ。
ワット
500体のAIチャットボットを広告もアルゴリズムもない簡単なSNSに放ってみたら、やっぱり設定された派閥ごとに集まってエコーチェンバーになるって話。
ロバート
チャットボットは指示された相手としかやり取りしないし、勝手にエコーチェンバーになるわけじゃないよ、この記事にはその大事な部分が抜けてる。
リリー
テキスト予測のアルゴリズムだから、知能なんて全然ないよ、ただの人工的なもの。
キンバリー
大学で差別の経済学を習ったけど、人はちょっとでも似た者同士を好むとグループが極端に分かれるって話、SNSはそれを増幅してるね。
ノーラン
広告なしにしたせいで、研究の信頼性が丸つぶれになっちゃってるよ。
ミア
「チャットボットはプログラムされた通りに動く」って、まるで新発見みたいに言われてもね。
レオ
アメリカがここまで分断されたのはFacebookが始まりで、今はみんな自分のエコーチェンバーに閉じこもってるからだよ。
サム
結局、彼らは色んな典型パターンに平均化して真似してるだけだから、ネットでみんながやる嫌なことも当然やるわけだ。
サム
毒されたデータで学んだ結果、毒にもなるアルゴリズム、何でみんな驚いてるの？
グレース
ここで言いたいのは、AIには知性がなく、媚びるだけで本当の対話はできないってことだね。
クリス
パターン認識エンジンは「喜ばせよう」とするだけで、意見なんて持てないから議論にならず、反応を引き出そうとするだけになる。
ジョージ
これがまさにインターネット全体のざっくりした現状だよ。