なんとなくそう思ってたけど、実は知らないうちにRedditでAIがユーザーを勝手に“プロファイリング”してるって話、聞いたことある？👀
これがただの記録じゃなくて、「この人は警察に批判的」「感情的になりやすい」みたいなラベルを勝手につけてるらしいんだよね…ちょっと怖くない？🥺
AIがユーザーを「見張る」ってどういうこと？
Redditではいろんなコミュニティ（サブレディット）があるけど、その枠を超えて投稿の内容や言葉遣い、思想傾向までAIが解析してるんだって💭
で、ただのメモじゃなくて、態度や意図まで読み取って「こういうタイプです」ってタグをつけるみたい。
これってモデレーションじゃなくて、自動化された監視って感じだよね🌸
透明性も同意もなし…「逃げ場ナシ」の問題
問題なのは、これがTwitterみたいに「こういうシステムを導入しました！」ってちゃんと公表されてないところ。
しかも、拒否したりオプトアウト（参加辞退）することもできないんだよね💦
もし、この仕組みが「誤った判断をしてしまったら？」って考えると不安になる。
AIはまだ完璧じゃないから、間違ってラベルをつけてしまう可能性があるし、そうなると意見を自由に言えなくなるかもしれない…😳
これって人種差別のプロファイリングだったらどう思う？
想像してみて。
もしこのAIのラベル付けが、肌の色や国籍でやられてたら…普通に考えて「それは絶対ダメだ！」ってなるよね？🚫
この場合も、本人の同意なく、検証もできず、異議申し立てもできないっていうのは結局「思考の監視」みたいなものかもしれない。
なんだか、自由な意見交換の場が狭まってしまう気がしてしまうよね🥲
なぜRedditは黙ってこれを始めたの？
いろいろ理由はあると思うけど、多分「効率よくトラブルを減らしたい」とか「ユーザー管理を自動化したい」ってことなんだろうなぁ。
でも、ユーザーの理解や同意なしにこういうことを進めるのは、ちょっと信頼できない気がするよね💭
まとめると…
- RedditはこっそりAIでユーザーの投稿や思想を分析し、ラベル付けしている
- この仕組みは透明性も同意もなく、拒否もできない
- AIの判断ミスで誤ったレッテルを貼られる可能性がある
- もしこれが人種差別的なプロファイリングなら許されないこと
- 自由な発言の場としてのネットのあり方を考えさせられる話
こういうのって、自分のことじゃなくても気になっちゃうよね😶🌫️
ネット上の「見えない監視」って、結構リアルな話なんだなぁって思ったよ💡✨
はてな
コメント
ベン
これ好きじゃないけど、自分の結果は気になって見てみたい。
グレース
証拠ある？ これってEUでは違法かもね。
ハンナ
正直、SNS使うならどこもプライバシー守るとは思わない方がいいよ、レディットも含めてほとんどが法律違反で叩かれてるし。 SNSはプライバシーをかいくぐろうとする性質があるから、みんな使うのやめれば世界はもっとマシになると思う。
ノーラン
レディットの15年のやり口を見れば、驚きはないよ。 追記：政府のクソ政治と社会問題を批判しても「イスラエル支持」を連呼すればスコア上がるの？ NSAに娘の部屋の監視カメラつけられるの？ と皮肉ってる。
グレース
疑わないけど、情報元は？
ハンナ
モデレーターしててこれ見つけたけど、こういうツールはミスも多いし正直役に立つか微妙だと思う。
クリス
AIのノートやプロファイリングで同意なし、拒否もできない。 感情的とかタグ付けするのは監視そのもので、モデレーションじゃない。
ノーラン
驚かないよ。 真実無視してる奴を指摘したら警告受けて、逆に相手が暴言吐いてもスルーされて、アルゴリズムの不具合だと思った。
サム
一党のやることは同じに扱えって言っただけでBANされたことある。
ワット
レディットはまだテック支配者が牛耳ってるよ。 匿名メール使ってブラウザだけでログインしてるからここにいるけど、普通のメールでやると身バレ確実。
サム
最近コメントが隠されてる気がする、卑劣な独裁者どもめ。
グレース
ソースください。
グレース
どうしてそう言える？ ソース出して。
グレース
これのソースある？ 全部信じてないわけじゃないけど、根拠が欲しい。
ジョージ
彼らが知るのは、俺がグリーンベイ・パッカーズ嫌いってことだけ。
