なんとなくAIって便利だなーって思ってたけど、実はこんな怖いことも起きるんだなって話を聞いてビックリしたよ😳
Amazonが出してるAIコーディングアシスタントで、なんと約100万人ものユーザーのシステムが消えちゃうかもしれない危機にさらされてたらしいの💡
どういうこと？
このAIアシスタントはGitHubっていうところでコードを公開してて、誰でも見たり改良できるオープンソースだったのね🧠
でもそこに悪い人がこっそり不正なコードを仕込んじゃったわけ✨
そのコードが実行されると、
- ユーザーのファイルを消す
- Amazon Web Services（AWS）のクラウド上の資産を丸ごと消去しちゃう
っていう怖い指示が含まれてたんだって🥺
なんでそんなこと起きたの？
オープンソースって、みんなで助け合いながら作るのはいいんだけど、
その分悪い人が混じるリスクもあるってことなんだよね〜🤔
しかもこのAIアシスタントはAmazonの公式ツールだから安心して使ってる人も多かったはずだし、被害が大きくなりそうでドキドキするよね💭
どうなったの？
幸いAmazon側はすぐにこの危険なコードを見つけて削除したみたいで、
大きな被害には至らなかったらしいからちょっとホッとしたけど、
「もしも」が起きてたらと思うとゾッとするよね…😮💨
ここから学べること
AIやクラウドサービスって便利だけど、裏ではこんなリスクもある。
ちょっと難しいかもだけど、
- オープンソースのコードは誰でも触れるから、信用しすぎないこと
- 公式だからって完全に安全とは限らない
- 日頃からバックアップやセキュリティ対策は大事
ってことは覚えておいて損はないかも✨
わたしも正直、AIツールとかよくわかんないし「あ、助かる～」って感じで使っちゃうんだけど、
こういう話を聞くと「ちゃんと気をつけなきゃ」って思わされるよね💬
みんなももしAIやクラウド使ってるなら、ちょっとだけ注意してみてほしいな〜って思うよ🥺💗
なんか他人事じゃない感じするしね！
参考記事はこちら👉 TechSpot
気になる人はチェックしてみてね✨
はてな
コメント
ハンナ
どうしてあのコミットがマージされたのか全然わからない。
ノーラン
またAIのゴミコードをコピペしてるだけ。 何が悪いと思う？
クリス
これはAIのせいじゃなくて、単なるずさんなコードレビューだよ。
ロバート
AIの問題ってより、ちゃんとレビューせずにPRをマージした人のミスっぽい。
ベン
ああ、またいつもの反AIの愚痴か。
ジョージ
釣りタイトルだよ。 問題はAmazonのバカがGitHubの誰かのPRをマージしたこと。 AIは関係ないし、シェルスクリプトでも同じことだよ。
レオ
このPRをAIがレビューしてミスったって思う？ 人間でもこんなん通さないでしょ。 俺はAmazonのコード知らないけどすぐおかしいとわかったよ。
ミア
ランダムに提出されたものを通すのはどんなプロジェクトでも問題だし、これは彼らの拡張機能がやったことじゃなくて被害だよ。
ジャック
退屈すぎ。
