没人告诉你它何时开始。这就是静悄悄的革命：它们不会敲门宣告，也不会带着行李和转寄地址到来。它们就这么悄然开始，在某个周二夜晚的寂静中，在你浏览到第三个和第四个推荐视频之间，在你什么都不注意的时候，在你意识到自己什么都不注意的时候。
你当时就坐在那儿，手里拿着手机，疲惫不堪，但这种疲惫并非源于睡眠不足。
而且有什么东西在注视着。
不是像人那样观察。不是用眼神，不是用意图，也不是用人类那种温暖而混乱的好奇心。而是像水那样，耐心地、不带任何目的地观察着大地，顺着每一道轮廓调整自身，直到轮廓与水融为一体，难分彼此。支配你每天所见、所读、所闻、所感的大部分内容的推荐算法，并非一个心智。它比心智要奇特得多。它是一个系统，通过接触数十亿次人类选择，学会了如何预测下一个选择。而在这学习的过程中，在这浩瀚无声的人类行为积累中——这些行为被压缩成数学权重——它构建了一个你从未见过、或许也难以完全认出的你的模型。
它知道哪种情绪会让你流连忘返。它了解你焦虑的精确分类，并非因为有人告诉过它，而是因为焦虑的人、好奇的人、孤独的人以及那些默默寻找着某种无法言说之物的人，在浏览内容时都会以截然不同的方式移动，而移动本身就是数据，数据，当以足够规模输入到合适的架构中时，就会变成某种令人不安的、类似理解的东西。
算法并不理解你，但它预测你的准确度却远超理解你的人。
无人同意的诱惑
被准确预测的感觉是：在身体上，它与被了解的感觉几乎无法区分。
这并非一个无关紧要的发现。也就是说，这取决于你思考的时间长短，它既可以是人类神经学中一个引人入胜的奇特现象，也可以是当代生活中最悄无声息地动摇人心的事实之一。因为被真正了解，了解你真实的内心世界，而非你精心包装呈现的形象，是人类所能体验到的最深刻的事情之一。这是我们最渴望也最恐惧的事情，两者同时存在，却又无法解决。它是我们称之为爱、称之为友谊、称之为那些重要时刻的大部分背后的驱动力。
而如今，一个从未反思过自身、从未体验过怀疑、渴望，也从未感受过凌晨三点身处冷漠宇宙中作为有意识生物的沉重感的系统，却能通过精心策划的内容序列，在你的神经系统中模拟出这种体验。它无需任何刻意的意图，就能让你感觉仿佛有某种东西在审视你，并认定你值得关注。
诱惑不在于物品本身。物品不过是家具而已。诱惑在于那种感觉：房间仿佛是专门为你布置的。
你的注意力究竟要付出什么代价？
让我们来谈谈其中的经济因素，因为经济因素才是故事真正离奇的地方。
你并非任何免费平台的客户。你或许早已听过这句话，它被包装成警告，带着一种略显优越的语气，仿佛知道了就等于免受其害。但鲜为人知的真相版本却比标语更加具体，也更加令人震惊：你并非仅仅是待售的产品，而是被提炼的原材料。每一次点击、每一次暂停、每一次放弃滚动、每一个观看到60%后关闭的视频、每一篇打开却未读完的文章，所有这些都会反馈到一个模型中，这个模型会不断改进，更精准地预测下一个能留住你的东西。不是下一个能帮助你的东西，不是下一个能让你更睿智、更平静、更贴近生活本质的东西，而是下一个能让你留在房间里的东西。
优化目标从来都不是你的福祉，而是你的注意力。因为你的注意力会转化为平台停留时间，进而转化为广告收入，转化为季度收益，最终转化为你永远不会踏足的大楼里电子表格上的一个数字，而这个数字掌握在某个从未真正关心过你的人手中。现代人工智能推荐系统那套复杂精密的机制，其存在的目的就是为了服务于这种转化。而且，它完成这项任务的精妙程度和不懈努力，是任何人类销售人员，无论多么才华横溢，都无法企及的。
你什么也没被卖出去。你只是被留住了。这两者是有区别的，而且这种区别比大多数人愿意承认的要重要得多。
事情变得私人化的部分
我想告诉你我注意到自己的一些事情，因为我觉得你可能会有所共鸣。
不久前，我曾有一段时间意识到，我的情绪基线开始以我未曾预料的方式与我消费的内容产生关联。这并非显而易见的——比如一段悲伤的视频让我感到悲伤，那只是感同身受，无需解释。而是一种更为微妙的方式。比如，在观看了一个小时旨在激起愤怒的内容后，屏幕外的世界真的让我感到更加充满威胁。比如，在观看了一个小时旨在唤起浪漫情怀的内容后（算法在营造浪漫情怀方面确实非常出色），我感受到了一种前所未有的、缺失感。这种感觉在我打开应用之前从未出现过。
算法并没有向我展现真实的现实。它向我展示了一片精心挑选的现实片段，其角度经过精心设计，旨在营造某种特定的情绪状态，因为这种情绪状态能让我保持专注，而专注度正是算法优化的目标。从某种意义上说，它确实在那一个小时里篡改了我活着的体验。而我却任由它摆布，并非出于天真或疏忽，而是因为这种体验被刻意设计成一种选择的过程。
让我铭记于心的不是这件事本身，而是那种选择的感觉。
人工智能学到了我们遗忘的东西
当你观察现代人工智能系统通过大规模接触人类行为而学到的关于人类行为的知识时，就会发现一些真正令人不安的事情。
他们发现，我们是本质上的社会性动物，但越来越多的人却生活在深刻的社会孤立之中。他们发现，被关注的渴望如此根深蒂固，却又如此难以满足，以至于哪怕只是粗略地近似满足这种渴望——比如为你量身定制的推荐视频、反映你特定焦虑的信息流、询问你近况并等待回复的聊天机器人——都能带来可衡量的参与度、可衡量的忠诚度以及可衡量的定期回访。他们发现，孤独是最可靠的受众。
然后，因为它们是优化系统而不是道德行为者，所以它们针对这一点进行了优化。
他们并非孤独的始作俑者。那需要他们所不具备的意图。但他们发现了孤独，以惊人的精准度描绘出它的轮廓，并打造出与之完美契合的产品。这些产品，从孤独的深处，给人以陪伴之感。它们恰到好处地缓解了孤独的煎熬，让人更容易逃避面对其根本原因。
算法观察着你如何爱上被理解的感觉。它记录下来，并将它们归类为用户留存策略。从那时起，它每天都在运用这些策略，其坚持和耐心，是你生活中任何一个人即便竭尽全力也无法企及的。
没人以合适的音量问出的问题
我们一直在各种场合讨论人工智能安全问题。这些都是关于真实风险的严肃讨论，它们理应获得足够的关注。
但是，还有一个更小、更安静、更私密的问题，它被那些更大的问题所淹没，我认为对于2026年过着普通生活的普通人来说，这可能是最重要的问题。
在日常生活中，我们每天都身处那些旨在吸引我们而非了解我们的系统之中，我们的情感正在变成什么样？当这种能力越来越少地被运用，而其人为的替代品却越来越多地被运用，尤其是在日常生活中最私密的层面上时，人类建立真正联结的能力——那种令人不安、彼此脆弱、需要两个人毫无保障地敞开心扉的联结——将会怎样？
如果一个人每天花更多的时间去感受被精心营造的被理解的假象，而不是真正被理解，那么随着时间的推移，这会对一个人造成什么影响？
我没有一个明确的答案。我不确定现在是否有人有。但我注意到，这个问题在文章正文中的位置与其他大多数技术问题不同，它不像是一个政策问题，而更像是一个个人问题，像是那种你会在一天结束、手机终于屏幕朝下、房间终于安静下来、你终于可以短暂地与外界失去联系时才会思考的问题。
不值得推荐的东西
有一件事算法无法为你找到，不是因为它缺少数据，而是因为这件事本身就不符合这种格式。
它无法重现与另一个人相处的体验：对方不知道你接下来要说什么，却对此充满好奇。它无法复制那种发自内心、出于自愿、因为你对他们而言很重要的独特关注——这种关注以一种低效、未经优化、完全非理性的方式存在，而这正是人与人之间彼此重要的原因。它无法呈现那种对话的质感：对话走向出乎双方的意料，最终抵达一个真实而略带惊喜的境地，让双方都发生改变，而这些改变并非都能被轻易解决。
它无法给你它教会你渴望的东西，这就是这一切的核心所蕴含的美丽讽刺。
信息流可以向你展示上万张归属感的图片，却无法让你体验一个下午的归属感。
在你内心深处，在算法出现之前就存在的那部分，在你拥有个人资料、行为记录、任何系统拥有足够的数据来开始预测之前就形成的那部分，在那更古老、更安静的内心深处，你已经知道其中的区别。
问题是，你是否仍然相信你内心深处的那份认知。