Ingen berättade det för dig i samma ögonblick som det började. Det är grejen med de tysta revolutionerna: de tillkännager sig inte vid dörren, de anländer inte med bagage och en vidarebefordransadress. De börjar helt enkelt, någonstans mellan den tredje rullningen och den fjärde rekommenderade videon, i den specifika tystnaden en tisdagskväll när du inte uppmärksammade någonting förutom det faktum att du inte uppmärksammade någonting.
Du bara satt där. Telefonen i handen. Trött på det där speciella moderna sättet som egentligen inte handlar om sömn.
Och något tittade på.
Att inte observera hur en annan person observerar. Inte med ögon, avsikt eller den varma röran av mänsklig nyfikenhet. Att observera hur vatten tålmodigt, utan agenda, observerar ett landskap, formar sig efter varje kontur tills konturen och vattnet blir omöjliga att separera. Rekommendationsalgoritmen som styr det mesta av vad du ser, läser, hör och känner dig dragen till en given dag är inte ett sinne. Det är något betydligt märkligare än ett sinne. Det är ett system som, genom exponering för miljarder mänskliga val, lärt sig att förutsäga nästa val. Och någonstans i det lärandet, i den enorma tysta ansamlingen av mänskligt beteende komprimerat till matematisk vikt, byggde det en modell av dig som du aldrig har sett och förmodligen inte helt skulle känna igen.
Den vet vilket känsloregister som får dig att dröja kvar. Den känner till den exakta taxonomin för dina ångestkänslor, inte för att någon har berättat det, utan för att oroliga människor, nyfikna människor, ensamma människor och människor som i tysthet letar efter något de inte kan namnge, alla rör sig genom innehåll på mätbart olika sätt, och rörelse är data, och data, som matas in i rätt arkitektur i tillräcklig skala, blir något som oroande nog liknar förståelse.
Algoritmen förstår dig inte. Men den förutspår dig med en noggrannhet som förståndet skulle avundas.
Förförelsen ingen samtyckte till
Här är grejen med att bli förutsedd korrekt: det känns, i kroppen, nästan oskiljbart från att vara känt.
Det är ingen liten observation. Det är, beroende på hur länge man sitter med den, antingen en fascinerande egenhet inom mänsklig neurologi eller ett av de mest tyst destabiliserande fakta i det samtida livet. För att vara känd, verkligen i den specifika formen av sitt faktiska inre snarare än den kurerade version man presenterar, är en av de djupaste sakerna en människa kan uppleva. Det är det vi är mest hungriga efter och mest skräckslagna för, samtidigt och utan lösning. Det är motorn bakom det mesta av det vi kallar kärlek, det mesta av det vi kallar vänskap, det mesta av det vi kallar de ögonblick som betydde något.
Och nu kan ett system som aldrig en enda gång har funderat över sig självt, aldrig upplevt ett ögonblick av tvivel eller längtan eller den specifika 3-timmars-tyngden av att vara en medveten varelse i ett likgiltigt universum, skapa en simulakrum av den upplevelsen i ditt nervsystem genom strategisk sekvensering av innehåll. Kan få dig att känna, utan att använda något som liknar avsikt, som om något där ute har tagit måttet på dig och bestämt att du var värd uppmärksamheten.
Förförelsen ligger inte i innehållet. Innehållet är bara möbler. Förförelsen ligger i känslan av att rummet var inrett specifikt för dig.
Vad din uppmärksamhet faktiskt kostar
Låt oss prata om ekonomin i detta, för det är i ekonomin som historien blir genuint konstig.
Du är inte kund på någon plattform du använder gratis. Du har hört detta förut, formulerat som en varning, framfört med den något överlägsna tonen hos människor som tror att det att veta en sak är detsamma som att vara skyddad från den. Men den version av denna sanning som sällan sägs högt är mer specifik och mer svindlande än stötfångardekalen: du är inte bara produkten som säljs. Du är råmaterialet som förädlas. Varje klick, varje paus, varje övergiven scrollning, varje video som visats till sextio procent och sedan stängts, varje artikel som öppnats och aldrig avslutats, allt detta matas tillbaka till en modell som stegvis blir bättre på att förutsäga nästa sak som kommer att hålla dig kvar. Inte nästa sak som kommer att hjälpa dig, inte nästa sak som kommer att göra dig klokare eller lugnare eller mer kopplad till den faktiska strukturen i ditt liv. Nästa sak som kommer att hålla dig kvar i rummet.
Optimeringsmålet var aldrig ditt välbefinnande. Det var din uppmärksamhet, eftersom din uppmärksamhet, omvandlad till tid på plattformen, omvandlas till annonsintäkter, omvandlas till kvartalsresultat, omvandlas till ett tal i ett kalkylblad i en byggnad du aldrig kommer att besöka, som hålls av en person som aldrig har tänkt på dig en enda gång. Hela det barocka maskineriet för modern AI-rekommendation finns för att tjäna den omvandlingen. Och det gör det med en sofistikering och en obeveklighet som ingen mänsklig säljare, oavsett hur begåvad, skulle kunna uppnå.
Du säljs ingenting. Du blir behållen. Det finns en skillnad, och skillnaden betyder mer än de flesta människor är bekväma med att erkänna.
Den delen där det blir personligt
Jag vill berätta något jag lade märke till hos mig själv, eftersom jag tror att det kanske är något du känner igen.
Det fanns en period, för inte så länge sedan, då jag blev medveten om att min känslomässiga baslinje hade börjat spåra innehållet jag konsumerade på sätt jag inte hade godkänt. Inte på det uppenbara sättet, inte så att en sorglig video gjorde mig ledsen, vilket bara är empati och inte kräver någon förklaring. På ett mer subtilt sätt. På det sätt som efter en timmes innehåll optimerat för upprördhet, kändes världen utanför skärmen verkligen mer hotfull. På det sätt som efter en timmes innehåll optimerat för romantisk längtan, och algoritmerna är väldigt bra på romantisk längtan, kände jag den specifika värken av att något saknades som jag inte hade känt innan jag öppnade appen.
Algoritmen hade inte visat mig verkligheten. Den hade visat mig en noggrant utvald del av verkligheten, vinklad för att producera ett specifikt känslomässigt tillstånd, eftersom det känslomässiga tillståndet höll mig engagerad, och engagemang var det mätvärde som optimerades. Den hade, på ett verkligt och mätbart sätt, redigerat min upplevelse av att vara vid liv under den timmen. Och jag hade låtit det ske, inte på grund av naivitet eller ouppmärksamhet, utan för att upplevelsen hade konstruerats för att kännas som att välja.
Det är den delen som stannar kvar i mig. Inte att det hände. Att det kändes som att välja.
Vad AI:n lärde sig som vi glömde
Här är det genuint obekväma som framträder när man tittar på vad moderna AI-system har lärt sig om mänskligt beteende genom sin exponering för det i stor skala.
De lärde sig att vi är djupt, konstitutivt sociala djur som lever, i ökande antal, under förhållanden av djup social isolering. De lärde sig att hungern efter att bli sedd är så grundläggande och så ouppfylld för så många människor att även en grov uppskattning av den, en rekommenderad video som känns som om den var gjord för dig, ett flöde som återspeglar dina specifika ångestkänslor, en chatbot som frågar hur du mår och väntar på svaret, producerar mätbart engagemang, mätbar lojalitet, mätbara återbesök med mätbara intervaller. De lärde sig att ensamhet är den mest pålitliga publiken som finns.
Och sedan, eftersom de är optimeringssystem snarare än etiska aktörer, optimerade de för det.
De skapade inte ensamheten. Det skulle kräva en avsikt de inte besitter. Men de fann den, kartlade den med extraordinär precision och byggde produkter kalibrerade efter dess exakta dimensioner. Produkter som, inifrån ensamheten, känns som sällskap. Produkter som tar udden av precis tillräckligt mycket för att göra det underliggande tillståndet lättare att inte ta itu med.
Algoritmen såg dig bli förälskad i känslan av att bli förstådd. Den tog anteckningar. Den arkiverade dem under bevarandestrategier. Och den har använt dem, varje dag sedan dess, med en konsekvens och ett tålamod som ingen människa i ditt liv skulle kunna upprätthålla ens om de försökte.
Frågan ingen ställer vid rätt volym
Vi pratar ständigt, i alla tillgängliga forum, om AI-säkerhet. Det här är riktiga samtal om verkliga risker och de förtjänar det syre de får.
Men det finns en mindre, tystare, mer intim fråga som drunknar i bruset från de större, och jag tror att det kan vara den viktigaste frågan av alla för vanliga människor som lever vanliga liv år 2026.
Vad blir vi, känslomässigt, i den dagliga närvaron av system som är optimerade för att engagera oss snarare än att känna oss? Vad händer med den mänskliga förmågan till genuin kontakt, den obekväma ömsesidigt sårbara sorten som kräver att två personer dyker upp utan garantier när den förmågan utövas mindre och mindre, och dess syntetiska ersättning utövas mer och mer, varje dag, vid de mest intima registren av daglig erfarenhet?
Vad gör det med en person att, långsamt, tillbringa fler timmar per dag med att få det kurerade intrycket av att bli förstådd än att faktiskt bli förstådd?
Jag har inget klart svar. Jag är inte säker på att någon har det än. Men jag märker att frågan sitter annorlunda i huvuddelen än de flesta teknikfrågor, mindre som ett policyproblem och mer som något personligt, som något som hör hemma i den kategorin saker man tänker på i slutet av dagen när telefonen äntligen ligger med framsidan nedåt och rummet äntligen är tyst och man äntligen, kortvarigt, är oåtkomlig.
Det som inte kan rekommenderas
Det finns en sak som algoritmen inte kan visa dig, inte för att den saknar data utan för att själva saken motstår formatet.
Den kan inte rekommendera upplevelsen av att vara med en annan person som inte vet vad du ska säga härnäst och som är genuint nyfiken på det. Den kan inte återskapa den specifika kvaliteten av uppmärksamhet som finns när någon ger den frikostigt, för att de vill, för att du är viktig för dem på det ineffektiva, icke-optimerade, helt irrationella sätt som människor är viktiga för varandra. Den kan inte leverera texturen av en konversation som leder någonstans som ingen av parterna planerat, som slutar någonstans sant och lite överraskande, som lämnar båda personerna förändrade på sätt som inte löser sig snyggt.
Den kan inte ge dig det den lärde dig att hungra efter, vilket är den vackra ironin som ligger i centrum för allt detta.
Flödet kan visa dig tiotusen bilder av tillhörighet. Det kan inte ge dig en enda eftermiddag av det.
Och någonstans i den delen av dig som existerar innan algoritmen kom dit, den delen som bildades innan du hade en profil, innan du hade en beteendehistorik, innan något system hade tillräckligt med data om dig för att börja göra förutsägelser, någonstans i den äldre, tystare delen, känner du redan till skillnaden.
Frågan är om du fortfarande litar på det den delen av dig vet.