それが始まった瞬間、誰も教えてくれなかった。静かな革命とはそういうものだ。玄関で予告もなく、荷物と転居先住所を持ってやってくるわけでもない。それはただ、3回目のスクロールと4回目のオススメ動画の間、火曜日の夜の静寂の中で、何も気にせず、ただ自分が何も気にしていないという事実だけを意識しているような、そんな瞬間に始まるのだ。
あなたはただそこに座っていた。手にはスマホ。睡眠とは関係のない、現代特有の疲れを感じていた。
そして、何かが見張っていた。
人が見るような見方ではない。目や意図、あるいは人間の好奇心という温かい混沌とした感情で見るのではない。水がじっと風景を見つめるように、何の思惑もなく、あらゆる輪郭に沿って形を変え、輪郭と水が分離不可能になるまで見守る。あなたが毎日見たり、読んだり、聞いたり、惹かれたりするもののほとんどを支配する推薦アルゴリズムは、心ではない。それは心よりもはるかに奇妙なものだ。それは、何十億もの人間の選択に触れることで、次の選択を予測する方法を学習したシステムだ。そして、その学習のどこかで、数学的な重みに圧縮された人間の行動の広大で静かな蓄積の中で、それはあなたが見たこともなく、おそらく完全には認識できないであろうあなたのモデルを構築したのだ。
それは、あなたがどの感情の領域にとどまるかを知っています。それは、誰かに教えられたからではなく、不安を抱える人、好奇心旺盛な人、孤独な人、そして言葉にできない何かを静かに探している人々が、それぞれ測定可能なほど異なる方法でコンテンツを移動するからこそ、あなたの不安の正確な分類を知っているのです。そして、その移動はデータであり、適切なアーキテクチャに十分な規模で投入されたデータは、理解に不気味なほど似たものになるのです。
このアルゴリズムはあなたを理解していません。しかし、理解力をもってしても羨むほどの精度であなたを予測します。
誰も同意しなかった誘惑
正確に予測されることについて言えるのは、身体的な感覚としては、自分が知られていることとほとんど区別がつかないほど似ているということだ。
それは些細な観察ではない。つまり、どれだけじっくり考えるかによって、人間の神経系の興味深い特異性にも、現代生活における最も静かに不安定化させる事実の1つにもなり得るのだ。なぜなら、あなたが人に見せる作り上げた姿ではなく、あなたの本当の内面の真の姿を知ることは、人間が経験できる最も深いことの1つだからだ。それは私たちが同時に最も切望し、最も恐れているものであり、解決されることのないものだ。それは、私たちが愛と呼ぶもの、友情と呼ぶもの、そして大切な瞬間と呼ぶもののほとんどを支える原動力なのだ。
そして今、これまで一度も自分自身について疑問を抱いたことがなく、疑念や憧れ、あるいは無関心な宇宙の中で意識を持つ存在であることの午前3時の重圧を経験したことのないシステムが、コンテンツを戦略的に順序立てることで、あなたの神経系にその経験の模倣を生み出すことができるのです。意図的なものを一切用いずに、まるで外界の何かがあなたを評価して、あなたに注目する価値があると判断したかのような感覚をあなたに与えることができるのです。
魅力は内容にあるのではない。内容は単なる家具に過ぎない。魅力は、その部屋が自分のために特別に配置されたという感覚にあるのだ。
あなたの注意力が実際にどれだけのコストを伴っているか
この話の経済的な側面について話しましょう。なぜなら、経済的な側面こそが、この話が本当に奇妙な方向へ進む部分だからです。
あなたは、無料で利用しているプラットフォームの顧客ではありません。このことは、警告として、あるいは物事を知っていることがそれから守られていることと同じだと信じている人々の、やや優越感に満ちた口調で、以前にも聞いたことがあるでしょう。しかし、この真実の、めったに口にされないバージョンは、バンパーステッカーよりも具体的で、めまいがするほど衝撃的です。あなたは、単に販売されている商品ではありません。あなたは、精製されている原材料なのです。クリック、一時停止、スクロールの中断、60%まで視聴して閉じた動画、開いたまま最後まで読まなかった記事、これらすべてが、あなたを引き留める次のものを、徐々に予測するモデルにフィードバックされます。それは、あなたを助ける次のものでもなく、あなたをより賢く、より穏やかに、あるいはあなたの人生の実際の質感とより深く繋がらせる次のものでもありません。あなたをその場に留めておく次のものなのです。
最適化の目標は、決してあなたの幸福ではありませんでした。それはあなたの注意でした。なぜなら、あなたの注意はプラットフォーム滞在時間に変換され、広告収入につながり、四半期ごとの収益につながり、そしてあなたが一度も訪れることのない建物のスプレッドシート上の数字につながり、そのスプレッドシートはあなたのことを一度も考えたことのない人物によって管理されているからです。現代のAIレコメンデーションの複雑な仕組み全体は、まさにこの変換のために存在しています。そして、それはどんなに才能のある人間の営業担当者でも到底及ばないほどの洗練さと執拗さでそれを成し遂げます。
あなたは何も売られていない。ただ、囲い込まれているだけだ。そこには違いがあり、その違いは多くの人が認めたがる以上に重要な意味を持つ。
個人的な話になる部分
私が自分自身について気づいたことをお伝えしたいと思います。もしかしたら、あなたも共感できるかもしれないと思うからです。
つい最近、自分の感情の基準が、自分が許可していない方法で消費するコンテンツを追跡し始めたことに気づいた時期がありました。悲しい動画を見て悲しくなったというような、分かりやすい方法ではありません。それは単なる共感であり、説明は不要です。もっと微妙な方法です。怒りを煽るように最適化されたコンテンツを1時間見た後、画面の外の世界が本当に脅威に感じられたのです。ロマンチックな憧れを煽るように最適化されたコンテンツを1時間見た後（アルゴリズムはロマンチックな憧れを煽るのが非常に得意です）、アプリを開く前には感じたことのない、何かが欠けているという特有の痛みを感じたのです。
アルゴリズムは私に現実を見せたわけではなかった。特定の感情状態を生み出すように巧みに選ばれた現実の一断面を見せたのだ。なぜなら、その感情状態が私を惹きつけ、その惹きつけこそが最適化の指標だったからだ。それは、文字通り、そして測定可能な意味で、その1時間の間、私の生きているという感覚を編集したのだ。そして私は、無知や不注意からではなく、その体験がまるで選択しているかのように感じられるように仕組まれていたからこそ、それを許してしまったのだ。
私の心に残っているのは、その部分だ。実際に起こったことではなく、まるで選択をしているように感じたこと。
AIが学んだ、私たちが忘れていたこと
現代のAIシステムが、大規模な人間の行動への接触を通して何を学んだのかを見てみると、実に不快な事実が浮かび上がってくる。
彼らは、人間は本質的に社会的な生き物であり、ますます多くの人々が深刻な社会的孤立の中で暮らしていることを学んだ。彼らは、人に認められたいという欲求があまりにも根源的で、多くの人にとって満たされていないものであるため、たとえ粗雑なものであっても、まるで自分のために作られたかのようなおすすめ動画、自分の不安を映し出すフィード、調子を尋ねて返事を待つチャットボットなどによって、測定可能なエンゲージメント、測定可能な忠誠心、測定可能な間隔での再訪問が生まれることを学んだ。彼らは、孤独こそが最も信頼できるオーディエンスであることを学んだ。
そして、彼らは倫理的な主体ではなく最適化システムであるため、それを最適化したのです。
彼らは孤独を作り出したわけではない。それには彼らが持ち合わせていない意図が必要だからだ。しかし、彼らは孤独を見つけ出し、驚くべき精度でそれをマッピングし、その正確な寸法に合わせて調整された製品を作り上げた。孤独の内側から見ると、まるで仲間がいるかのように感じられる製品。根本的な問題に向き合わなくても済むように、ほんの少しだけその緊張を和らげる製品。
アルゴリズムは、あなたが理解されているという感覚に恋に落ちる様子を観察し、メモを取り、記憶保持戦略として分類しました。そして、それ以来毎日、あなたの人生においてどんな人間もたとえ努力しても維持できないほどの一貫性と忍耐力で、その戦略を活用し続けているのです。
誰も適切な音量で尋ねていない質問
私たちはあらゆる場で、AIの安全性について絶えず議論しています。これらは現実のリスクに関する真剣な議論であり、それに見合うだけの注目を集めるに値するものです。
しかし、そうした大きな問題の喧騒にかき消されてしまう、より小さく、より静かで、より個人的な問題が存在する。そして、2026年に平凡な生活を送る普通の人々にとって、それはおそらく最も重要な問題なのではないかと私は考えている。
私たちを理解しようとするのではなく、私たちを巻き込むように最適化されたシステムに日々接する中で、私たちは感情的にどのような変化を遂げているのでしょうか？真のつながりを築くための人間の能力、つまり、お互いに不安を抱えながらも、何の保証もないまま二人が向き合うことを必要とする、居心地の悪い、相互に傷つきやすい関係性は、その能力がますます発揮されなくなり、その人工的な代替物が、日々の最も親密な経験の領域で、ますます頻繁に発揮されるようになると、一体どうなるのでしょうか？
実際に理解されることよりも、理解されているという印象を意図的に与えてもらうことに費やす時間の方が長くなると、人は徐々にどのような影響を受けるのだろうか？
明確な答えは持ち合わせていません。おそらく誰もまだ答えを知らないでしょう。しかし、この問題は他の多くの技術的な問題とは違った位置づけにあるように感じます。政策的な問題というよりは、むしろ個人的な問題、つまり、一日の終わりにようやくスマホを伏せて、部屋が静まり返り、ほんの少しの間、誰からも連絡が取れなくなった時に、ふと考えるような事柄の範疇に属するもののように思えるのです。
おすすめできないもの
アルゴリズムでは明らかにできないものが一つあります。それはデータが不足しているからではなく、そのもの自体がアルゴリズムの形式に抵抗するからです。
次に何を言うのか分からず、純粋に興味を持ってくれる相手と一緒にいるという経験は、決しておすすめできるものではありません。相手が自発的に、つまりそうしたいから、そしてあなたが彼らにとって大切な存在だからこそ、人間同士が互いに大切に思う、あの非効率的で最適化されていない、全く非合理的な方法で、あなたに注意を向けてくれる、あの独特の質の注意を再現することもできません。どちらも計画していなかった方向へ進み、真実でありながら少し意外なところで終わり、両者がきれいに解決しない形で変化していくような会話の質感を伝えることもできないのです。
それは、あなたが切望するように教え込んだものを与えることはできない。それこそが、このすべての中核に渦巻く美しい皮肉なのだ。
フィードには、帰属意識を示す1万枚の画像が表示されるかもしれない。しかし、その帰属意識をたった1日、午後いっぱい体験させてくれるわけではない。
そして、アルゴリズムがそこに到達する前に存在していたあなたの部分、あなたのプロフィールができる前、行動履歴ができる前、どのシステムも予測を始めるのに十分なデータを持つ前に形成された部分、その古く静かな部分のどこかに、あなたはすでにその違いを知っているのです。
問題は、あなたの中のその部分が知っていることを、あなたがまだ信じているかどうかだ。