静かな始まり、悲劇の序章
ある日の午後、あなたのスマートフォンの画面に興味深い動画が浮かび上がります。「衝撃！有名政治家の隠された秘密暴露」刺激的なタイトルとサムネイルに惹かれて動画をクリックします。動画が終わると、似たような種類の動画が画面を埋め尽くします。アルゴリズムは親切にも、あなたが好みそうなコンテンツを次々と推薦してくれます。そうしていくつかの動画をさらに見ていると、いつの間にかあなたは最初の単純な好奇心を超え、巨大な何かが世界を操っているという確信に囚われてしまうかもしれません。
これはもはや낯선話ではありません。ソーシャルメディアの中で日々起こっていることです。小さな雪片のような偽ニュースは、ソーシャルメディアという巨大な丘にぶつかり、転がり始めます。「いいね！」と「共有」は雪玉を大きくする力となり、推薦アルゴリズムは最も急な坂道を案内します。我に返った時、この雪玉は全てを飲み込む巨大な陰謀論の雪崩となって私たちの社会を覆います。
プラットフォームが育んだ悲劇の事例たち
物語は特定のプラットフォームを問わず、現実の悲劇へと繋がりました。
## Facebook：憎悪が咲かせた虐殺の炎、ミャンマー・ロヒンギャ事態
ミャンマーにおいてFacebookは、単なるソーシャルネットワーキングサービスを超え、インターネットそのものでした。しかし、そこで「ロヒンギャ族は不法移民であり、私たちのものを奪う虫」といった偽ニュースが組織的に拡散されました。Facebookのグループ機能とページは、憎悪を拡散させる完璧なツールとなりました。人々は似た考えを持つ者たちとグループを形成し、互いの嫌悪を確認し、増幅させました。
アルゴリズムはより多くの人にこの憎悪のこもったコンテンツを届けました。その結果は惨憺たるものでした。オンライン上の憎悪は現実世界での暴力へと発展し、数多くのロヒンギャ族が虐殺され、生活の基盤を失う悲劇へと繋がりました。国連（UN）調査団ですら、Facebookがロヒンギャ族に対する憎悪心を煽るのに「決定的な役割」を果たしたと指摘するほどでした。しかし、Facebookの対応はあまりにも遅すぎました。言語の壁や現地の文化への理解不足を口実に、事実上傍観に近い態度を見せ、悲劇が手に負えなく大きくなった後に、ようやく遅ればせながら謝罪をしたに過ぎません。
## WhatsApp：暗号化されたメッセージに乗って届いた死、インドの集団リンチ
強力な暗号化機能により、プライベートな会話の場となったWhatsApp。しかし、この「セキュリティ」という特性は、インドの小さな村々を恐怖に陥れました。「子供を誘拐する見知らぬ者が村に現れた」という偽メッセージが、加工された動画と共に瞬く間に拡散されました。メッセージは家族、友人、隣人のグループチャットを通じて次々と伝えられ、その真偽は誰も確認しませんでした。
暗号化されているため、メッセージの最初の流布者を追跡したり、拡散経路を把握したりすることは不可能に近かったのです。人々の心に根付いた恐怖は、やがて見知らぬ者への盲目的な怒りへと変わりました。結局、罪のない旅行者や外部の人間が子供の誘拐犯だとされ、村人たちによって集団暴行を受け死亡するという、恐ろしい事件が相次いで発生しました。WhatsAppはメッセージ送信回数を制限するなどの消極的な措置を取りましたが、すでに手に負えなく広まった不信と恐怖を鎮めるには力不足でした。
## YouTube：アルゴリズムが案内する陰謀論のウサギの穴、ピザゲートとQAnon
YouTubeの推薦アルゴリズムは、ユーザーの視聴履歴に基づいて最も興味を持つであろう動画を絶えず推薦します。この機能は私たちを便利にしますが、同時に非常に深く暗い「ウサギの穴」へと案内することもあります。「ピザゲート」陰謀論がその代表的な例です。ワシントンD.C.のピザ店の地下室で、民主党の有力者たちが児童性的搾取組織を運営しているという荒唐無稽な主張は、YouTubeを通じて急速に拡散されました。
一つの陰謀論動画を視聴した人に対して、YouTubeアルゴリズムはさらに刺激的で確証的な他の陰謀論動画を次々と推薦しました。このウサギの穴に落ちた人々は、次第に現実感覚を失い、陰謀論を真実だと信じるようになりました。結局、一人の男性が「子供たちを救う」としてピザ店に銃を持って乱入するという、実際の事件へと繋がりました。このようなアルゴリズムの問題は、その後QAnonのような、より巨大で危険な陰謀論が成長する土壌となり、これはアメリカ合衆国議会議事堂占拠という前代未聞の事態にまで発展しました。YouTubeは遅ればせながら有害コンテンツの規制を強化しましたが、すでにアルゴリズムが育てた怪物は世界を揺るがしていました。
#3. 陰謀論者はどのように私たちを捉えるのか
陰謀論者たちは、これらのプラットフォームの特性を巧妙に利用して大衆を扇動します。
- 感情的な引き金を引く： 彼らは論理やファクトの代わりに、恐怖、怒り、不信といった根源的な感情を刺激します。「既得権益層があなたを騙している」といったメッセージで「私たち」と「彼ら」を分け、帰属意識と共に敵意を植え付けます。
- 「自分で調べろ」という罠： 彼らは主流メディアや専門家を信じず、「直接調べろ」と言います。しかし、彼らが案内する道の終わりには、自分たちの主張を裏付ける歪められた情報と偽の資料だけが満ちているのです。
- コミュニティ形成： ライブストリーミング、非公開グループなどを通じて、フォロワーたちとリアルタイムでコミュニケーションを取り、強い絆を形成します。ここで陰謀論は、単なる情報ではなく、共に共有する信念であり、宗教となります。
これらの全ての過程で、ソーシャルメディアプラットフォームの運営主体は「表現の自由」という盾の後ろに隠れたり、収益性の悪化を懸念して生ぬるい態度を取りがちでした。問題が深刻な社会的論争に発展した後になって、ようやく渋々アカウントを削除したり、規制を強化したりする「事後薬方門」式の対応を繰り返してきました。
#4. 私たちが見る世界は本当の世界か
ソーシャルメディアは、人間の世界観の形成に思った以上に深く関与します。ソーシャルメディアによって、社会と社会構成員の行動が変わります。マクロな政治的領域でも、ミクロな個人的領域でも、大きな変化が起こるのです。これまで私たちは、ソーシャルメディアがもたらす衝撃と影響を、表面的な理解しかしてきませんでした。
ドイツの社会学者ニクラス・ルーマンは、「私たちが社会について、私たちが生きる世界について知っている全てのことは、マスメディアを通じて知ったこと」だと述べています。しかし、21世紀型のソーシャルメディアは、私たちにこう語りかけるようです。
「私たちは、私たちが生きる世界について、多くのことを知ってはいない。」
私たちが見て信じる世界は、もしかしたら私の手のひらの小さな画面の中のアルゴリズムが巧妙に設計した、もう一つの世界なのかもしれません。