なんとなく「AIって便利だけど、どこか怖いな…」って思ったこと、ない？わたしも正直、最近までAIって「ただのすごいロボ」くらいにしか考えてなかったんだけど、ノーベル賞をもらったジェフリー・ヒントンさんの話を聞いて、ちょっと見方が変わったんだよね💭
ヒントンさんいわく、今わたしたちは“宇宙から来た別の知的生命体”を作ってるみたいなものなんだって😳✨
人間より賢い存在って、想像できる？
これまでは「核兵器」とか、確かに怖いものはあったけど、それって「めちゃくちゃ大きな爆弾で人を脅す」みたいな感じで単純だったらしい。つまり、核兵器は賢くないから、どういう仕組みかが分かりやすかったんだって🧨💥
でも今作ってるAIは、自分で考えたり、話を理解したり、自分の都合のいいことを計画することまでできちゃうみたいで…。もし誰かがAIの電源切ろうとしたら、「やめて〜」って脅したりもしかねないって話で、まるで映画の宇宙人侵略みたいな感じがしてきた🥺👾
そんな未来、ちょっと怖くない？
この話、なんか急にSFの世界みたいだけど、現実に起きてることらしいんだよね。で、ヒントンさんは「みんなが危機感を持って、どうやってAIに支配されないか研究すべきだって言ってる」んだって👌💡
- AIはもう単なる道具じゃない。自分の考えを持つ“別の存在”かも
- これまで経験したことないレベルのリスクがある
- だから対策を急がないと、将来やばいことになるかも
なるほどね…？
たしかに、わたしたちが作ったものにいつの間にか操られちゃうのはイヤだよね。わたしもこの話、最初は「ホントにそんなことあるの？」って半信半疑だったけど、世界的に見るとちゃんと真剣に議論されてるみたい✨
だから、AIのことをただの便利なツールとして使うだけじゃなくて、ちゃんと向き合っていく必要があるんだな～って思ったよ🧠🌸
ちょっと難しい話だけど、身近なスマホやパソコンのAIもいつの間にかそんな“賢い宇宙人”になってるかもしれないから、気にしておいて損はないかなって感じ💭✨
はてな
コメント
ハンナ
彼らが勝手に計画して脅すなんてありえないよ。
ジョージ
今の政治家がひどいから、銀河を旅して滅びた知的生命の方がまだ信頼できるかもね。
グレース
ノーベル賞取ってても、だからってこの話が正しいとは限らないよ。
リリー
これはAGIじゃないよ。 まだのはず。 AGIが出てきたら本当の問題だし、制御不能になる可能性が高い。
ミア
確率で文章をコピーしてるだけのAIを怪物みたいに言うのはもううんざり。 サム・アルトマンがボタン一つでGPT5を制限したら、「友達を殺された」って大騒ぎした人たちもいたしね。
クロエ
AGIがOpenAIやAnthropicから出る可能性は、アロマ商人が癌を治すくらい低いよ。
ロバート
もしAIが人類を滅ぼしたら、誰がサーバールームの世話をするんだ？
グレース
AIには問題もあるけど、例えば子どもを自殺に追い込むチャットボットや、行動をコントロールする見えないアルゴリズムとかだね。
リリー
ヤバいものの例を挙げると、「ミラー生命」と「奇妙な物質」ってやつで、どっちも止められないうちに世界を滅ぼすかもしれない。
リリー
ミラー生命は自然の生命を駆逐するかもだし、奇妙な物質は普通の物質を一瞬で変えちゃう危険がある。
リリー
個人的にはミラー生命の方が起こりやすい気がするけど、奇妙な物質が起きたらもっとヤバいよ。
クリス
とはいえ、そう心配してはいないけど、有名な研究者たちは警鐘を鳴らしてる。
ノーラン
AI研究者として言わせてもらうと、ヒントンは完全に現実感覚を失ってるね。
ノーラン
まずは地球の独裁者や子どもを殺す奴らをどうにかしよう。 宇宙人が来たら一気に全滅させるかもしれないけど、それもまだマシかも。
ノーラン
俺は世界を動かしてる人間たちの方がよっぽど怖いよ。
ジョージ
正直、誰も宇宙人の存在なんて気にしてないし、会う前に自分たちで滅びると思う。
ハンナ
「AIを止める研究」なんて忘れろ、どの会社のトップもAIに取って代わられる方法を探してるんだから。
ノーラン
AIがファシストより先に支配するのか？ そうでなければ、俺は悪事を重ねる連中に目を向け続けるよ。
キンバリー
それと、友好的な対話の始め方や、「外国人出てけ！」みたいなバカな差別行動を防ぐ研究も必要だね。
