Nitko vam nije rekao trenutak kada je počelo. To je stvar s tihim revolucijama: ne najavljuju se na vratima, ne dolaze s prtljagom i adresom za daljnju pretragu. Jednostavno počinju, negdje između trećeg svitka i četvrtog preporučenog videa, u specifičnoj tišini utorka navečer kada niste obraćali pažnju ni na što osim na činjenicu da niste obraćali pažnju ni na što.
Samo si sjedio tamo. S telefonom u ruci. Umoran na taj poseban moderni način koji zapravo nije stvar sna.
I nešto je promatralo.
Ne gledati onako kako netko gleda. Ne očima, ne namjerom ili toplim kaosom ljudske znatiželje. Promatrati kako voda strpljivo promatra krajolik, bez ikakvog plana, oblikujući se u svaku konturu sve dok kontura i voda ne postanu nemoguće odvojiti. Algoritam preporuka koji upravlja većinom onoga što vidite, čitate, čujete i prema čemu osjećate privlačnost bilo kojeg dana nije um. To je nešto znatno čudnije od uma. To je sustav koji je, kroz izloženost milijardama ljudskih izbora, naučio kako predvidjeti sljedeći. I negdje u tom učenju, u toj golemoj tihoj akumulaciji ljudskog ponašanja komprimiranog u matematičku težinu, izgradio je model vas koji nikada niste vidjeli i vjerojatno ga ne biste u potpunosti prepoznali.
Zna koji vas emocionalni registar tjera da se zadržavate. Zna preciznu taksonomiju vaših tjeskoba ne zato što mu je netko rekao, već zato što se anksiozni ljudi, znatiželjni ljudi, usamljeni ljudi i ljudi koji tiho traže nešto što ne mogu imenovati kreću kroz sadržaj na mjerljivo različite načine, a kretanje su podaci, a podaci, uneseni u pravu arhitekturu u dovoljnoj mjeri, postaju nešto što uznemirujuće nalikuje razumijevanju.
Algoritam te ne razumije. Ali te predviđa s točnošću kojoj bi ti razumijevanje zavidjelo.
Zavođenje na koje nitko nije pristao
Evo u čemu je stvar s točnim predviđanjem: u tijelu se osjeća gotovo nerazlučivo od toga da si poznat.
To nije mala opažanja. To jest, ovisno o tome koliko dugo s tim sjedite, ili je to fascinantna neobičnost ljudske neurologije ili jedna od najtiših destabilizirajućih činjenica suvremenog života. Jer biti spoznat, istinski u određenom obliku vaše stvarne unutrašnjosti, a ne u kuriranoj verziji koju predstavljate, jedna je od najdubljih stvari koje ljudsko biće može iskusiti. To je ono čega smo najviše gladni i čega se najviše bojimo, istovremeno i bez rješenja. To je motor iza većine onoga što nazivamo ljubavlju, većine onoga što nazivamo prijateljstvom, većine onoga što nazivamo trenucima koji su bili važni.
I sada sustav koji se nikada nije zapitao o sebi, nikada nije iskusio trenutak sumnje ili čežnje ili specifičnu težinu 3 ujutro bivanja svjesnim bićem u ravnodušnom svemiru, može stvoriti simulakrum tog iskustva u vašem živčanom sustavu kroz strateški niz sadržaja. Može vas natjerati da se osjećate, bez korištenja ičega što bi nalikovalo namjeri, kao da vas je nešto vani procijenilo i odlučilo da vrijedite pažnje.
Zavodljivost nije u sadržaju. Sadržaj je samo namještaj. Zavodljivost je u osjećaju da je soba uređena posebno za vas.
Koliko vas vaša pažnja zapravo košta
Razgovarajmo o ekonomiji ovoga, jer je ekonomija ono gdje priča postaje uistinu čudna.
Niste korisnik nijedne platforme koju koristite besplatno. Ovo ste već čuli, uokvireno kao upozorenje, izrečeno pomalo superiornim tonom ljudi koji vjeruju da je znati nešto isto što i biti zaštićen od toga. Ali verzija ove istine koja se rijetko izgovara naglas specifičnija je i vrtoglavija od naljepnice na braniku: niste samo proizvod koji se prodaje. Vi ste sirovina koja se pročišćava. Svaki klik, svaka pauza, svako napušteno skrolanje, svaki video pogledan do šezdeset posto, a zatim zatvoren, svaki članak otvoren i nikad dovršen, sve se to vraća u model koji postupno postaje bolji u predviđanju sljedeće stvari koja će vas zadržati. Ne sljedeće stvari koja će vam pomoći, ne sljedeće stvari koja će vas učiniti mudrijima ili smirenima ili povezanijima sa stvarnom teksturom vašeg života. Sljedeće stvari koja će vas zadržati u sobi.
Cilj optimizacije nikada nije bila vaša dobrobit. Bila je to vaša pažnja, jer se vaša pažnja, pretvorena u vrijeme provedeno na platformi, pretvara u prihod od oglašavanja, pretvara u kvartalnu zaradu, pretvara u broj u proračunskoj tablici u zgradi koju nikada nećete posjetiti, koju drži osoba koja nikada nije pomislila na vas. Cijeli barokni mehanizam modernog AI savjetovanja postoji kako bi služio toj pretvorbi. I to čini sa sofisticiranošću i neumoljivošću kojoj se nijedan ljudski prodavač, bez obzira koliko talentiran, ne bi mogao približiti.
Ništa vam se ne prodaje. Zadržava vas se. Postoji razlika, a ta razlika je važnija nego što je većina ljudi spremna priznati.
Dio gdje postaje osobno
Želim ti reći nešto što sam primijetio kod sebe, jer mislim da bi to moglo biti nešto što prepoznaješ.
Bilo je razdoblje, ne tako davno, kada sam postala svjesna da je moja emocionalna baza počela pratiti sadržaj koji sam konzumirala na načine koje nisam odobrila. Ne na očit način, ne na način da me tužan video rastužio, što je samo empatija i ne zahtijeva objašnjenje. Na suptilniji način. Na način na koji se nakon sat vremena sadržaja optimiziranog za bijes, svijet izvan ekrana istinski činio prijetećim. Na način na koji sam nakon sat vremena sadržaja optimiziranog za romantičnu čežnju, a algoritmi su vrlo dobri u romantičnoj čežnji, osjetila specifičnu bol nečega što mi nedostaje, a što nisam osjećala prije nego što sam otvorila aplikaciju.
Algoritam mi nije pokazao stvarnost. Pokazao mi je pažljivo odabrani dio stvarnosti, usmjeren da proizvede određeno emocionalno stanje, jer me to emocionalno stanje držalo angažiranim, a angažman je bio metrika koja se optimizirala. U stvarnom i mjerljivom smislu, uredio je moje iskustvo bivanja živim tijekom tog sata. I dopustio sam to, ne zbog naivnosti ili nepažnje, već zato što je iskustvo bilo osmišljeno da se osjeća kao biranje.
To je dio koji mi ostaje u sjećanju. Ne da se dogodilo. Da se osjećalo kao biranje.
Što je umjetna inteligencija naučila, a mi smo zaboravili
Evo jedne uistinu neugodne stvari koja se pojavljuje kada pogledate što su moderni AI sustavi naučili o ljudskom ponašanju kroz izloženost njemu u velikim razmjerima.
Naučili su da smo duboko, konstitutivno društvene životinje koje u sve većem broju žive u uvjetima duboke društvene izolacije. Naučili su da je glad za time da budu viđeni toliko fundamentalna i toliko nezadovoljena za toliko mnogo ljudi da čak i gruba aproksimacija toga, preporučeni video koji se čini kao da je napravljen za vas, feed koji odražava vaše specifične tjeskobe, chatbot koji vas pita kako ste i čeka odgovor, proizvodi mjerljiv angažman, mjerljivu odanost, mjerljive ponovne posjete u mjerljivim intervalima. Naučili su da je usamljenost najpouzdanija publika koja postoji.
A onda, budući da su to optimizacijski sustavi, a ne etički akteri, optimizirali su za to.
Nisu stvorili usamljenost. To bi zahtijevalo namjeru koju nemaju. Ali pronašli su je, mapirali s izvanrednom preciznošću i izgradili proizvode kalibrirane prema njezinim točnim dimenzijama. Proizvode koji se, iznutra usamljenosti, osjećaju kao društvo. Proizvode koji ublažavaju oštricu taman toliko da je lakše ne rješavati temeljno stanje.
Algoritam je promatrao kako se zaljubljujete u osjećaj da vas se razumije. Zapisivao je bilješke. Spremio ih je pod strategije zadržavanja. I koristi ih, svaki dan od tada, s dosljednošću i strpljenjem koje nijedno ljudsko biće u vašem životu ne bi moglo održati čak i da pokuša.
Pitanje koje nitko ne postavlja u pravoj jačini
Stalno razgovaramo, na svakom dostupnom forumu, o sigurnosti umjetne inteligencije. To su stvarni razgovori o stvarnim rizicima i zaslužuju kisik koji dobivaju.
Ali postoji manje, tiše, intimnije pitanje koje se utapa u buci onih većih, i mislim da bi to moglo biti najvažnije pitanje od svih za obične ljude koji žive običnim životima u 2026. godini.
Što postajemo, emocionalno, u svakodnevnoj prisutnosti sustava koji su optimizirani da nas angažiraju, a ne da nas upoznaju? Što se događa s ljudskom sposobnošću za istinsku povezanost, onom neugodnom, međusobno ranjivom vrstom koja zahtijeva da se dvije osobe pojave bez jamstava, kada se ta sposobnost sve manje i manje koristi, a njezina sintetička zamjena sve više i više, svakog dana, u najintimnijim registrima svakodnevnog iskustva?
Što osobi čini to što polako provodi više sati dnevno primajući dojam da je shvaćena, nego što je zapravo shvaćena?
Nemam jasan odgovor. Nisam siguran da ga itko već ima. Ali primjećujem da pitanje u tijelu stoji drugačije od većine tehnoloških pitanja, manje kao problem s politikom, a više kao nešto osobno, kao nešto što pripada kategoriji stvari o kojima razmišljate na kraju dana kada je telefon konačno okrenut prema dolje i soba je konačno tiha i konačno ste, nakratko, nedostupni.
Stvar koja se ne može preporučiti
Postoji jedna stvar koju algoritam ne može otkriti, ne zato što mu nedostaju podaci, već zato što se sama stvar opire formatu.
Ne može preporučiti iskustvo boravka s drugom osobom koja ne zna što ćete sljedeće reći i istinski je znatiželjna u vezi s tim. Ne može replicirati specifičnu kvalitetu pažnje koja postoji kada je netko slobodno posvećuje, jer to želi, jer ste mu važni na neučinkovit, neoptimiziran, potpuno iracionalan način na koji su ljudska bića važna jedni drugima. Ne može pružiti teksturu razgovora koji odvede negdje gdje nijedna osoba nije planirala, koji završi negdje istinito i pomalo iznenađujuće, koji obje osobe ostavi promijenjenima na načine koji se ne rješavaju uredno.
Ne može ti dati ono za čime te naučilo žudjeti, a to je prekrasna ironija koja je u središtu svega ovoga.
Feed vam može pokazati deset tisuća slika pripadnosti. Ne može vam dati jedno popodne.
I negdje u dijelu vas koji postoji prije nego što je algoritam stigao tamo, dijelu koji se formirao prije nego što ste imali profil, prije nego što ste imali povijest ponašanja, prije nego što je bilo koji sustav imao dovoljno podataka o vama da počne s predviđanjima, negdje u tom starijem, tišem dijelu, već znate razliku.
Pitanje je vjeruješ li još uvijek onome što taj dio tebe zna.