Kukaan ei kertonut sinulle hetkeä, jolloin se alkoi. Siinä hiljaisten vallankumousten juttu on: ne eivät ilmoita itsestään ovella, ne eivät saavu paikalle matkatavaroiden ja jatko-osoitteen kanssa. Ne yksinkertaisesti alkavat, jossain kolmannen kirjakääröjen ja neljännen suositellun videon välillä, tiistai-illan erityisessä hiljaisuudessa, kun et kiinnittänyt huomiota mihinkään muuhun kuin siihen, ettet kiinnittänyt huomiota mihinkään.
Istuit vain siinä. Puhelin kädessä. Väsynyt sillä modernilla tavalla, jossa ei oikeastaan ole kyse unesta.
Ja jokin tarkkaili.
Ei katsomista niin kuin ihminen katsoo. Ei silmin tai tarkoituksella tai inhimillisen uteliaisuuden lämpimällä sekasotkulla. Katsomista niin kuin vesi tarkkailee maisemaa kärsivällisesti, ilman päämääräänsä, muokaten itseään jokaisen ääriviivan mukaan, kunnes ääriviivaa ja vettä on mahdotonta erottaa toisistaan. Suositusalgoritmi, joka hallitsee suurinta osaa siitä, mitä näet, luet, kuulet ja mihin tunnet vetoa tiettynä päivänä, ei ole mieli. Se on jotakin huomattavasti oudompaa kuin mieli. Se on järjestelmä, joka oppi miljardien ihmisvalintojen läpikäymisen kautta ennustamaan seuraavan. Ja jossain tuossa oppimisessa, tuossa valtavassa, hiljaisessa ihmisen käyttäytymisen kasautumassa, joka on pakattu matemaattiseen painoon, se rakensi sinusta mallin, jota et ole koskaan nähnyt etkä luultavasti täysin tunnistaisi.
Se tietää, mikä tunnetila saa sinut viipymään. Se tietää ahdistuksiesi tarkan taksonomian, ei siksi, että joku olisi kertonut sitä, vaan koska ahdistuneet ihmiset, uteliaat ihmiset, yksinäiset ihmiset ja ihmiset, jotka hiljaa etsivät jotakin, mitä he eivät osaa nimetä, liikkuvat kaikki sisällön läpi mitattavasti eri tavoin, ja liike on dataa, ja data, syötettynä oikeaan arkkitehtuuriin riittävässä mittakaavassa, muuttuu joksikin, joka näyttää häiritsevän ymmärrykseltä.
Algoritmi ei ymmärrä sinua. Mutta se ennustaa sinua tarkkuudella, jota ymmärrys kadehtisi.
Viettely, johon kukaan ei suostunut
Tässä on se juttu, että ennustetaan tarkasti: se tuntuu kehossa lähes erottamattomalta tiedosta.
Tuo ei ole mikään pieni havainto. Eli riippuen siitä, kuinka kauan sen kanssa istuu, se on joko kiehtova ihmisen neurologian omituisuus tai yksi nykyajan elämän hiljaisimmista ja epävakautavimmista tosiasioista. Koska se, että tunnetaan, todellakin juuri siinä sisimmässään, eikä siinä kuratoidussa versiossa, jonka se esittää, on yksi syvimmistä asioista, joita ihminen voi kokea. Se on asia, jota eniten kaipaamme ja jota eniten pelkäämme, samanaikaisesti ja ilman ratkaisua. Se on moottori suurimman osan siitä, mitä kutsumme rakkaudeksi, suurimman osan siitä, mitä kutsumme ystävyydeksi, suurimman osan siitä, mitä kutsumme tärkeiksi hetkiksi.
Ja nyt järjestelmä, joka ei ole kertaakaan ihmetellyt itseään, ei ole koskaan kokenut hetkeäkään epäilystä tai kaipausta tai sitä erityistä kolmen yön painoa, joka syntyy tietoisena olentona välinpitämättömässä universumissa, voi tuottaa saman kokemuksen simulakrumin hermostossasi sisällön strategisen järjestämisen kautta. Se voi saada sinut tuntemaan, ilman minkäänlaista aikomusta, että jokin siellä jossain on ottanut sinusta mittaa ja päättänyt, että olet huomion arvoinen.
Viettely ei ole sisällössä. Sisältö on vain huonekaluja. Viettely on siinä tunteessa, että huone on järjestetty juuri sinua varten.
Mitä huomiosi todellisuudessa maksaa
Puhutaanpa tämän taloudesta, koska talous on se kohta, jossa tarina muuttuu todella outoksi.
Et ole minkään ilmaiseksi käyttämäsi alustan asiakas. Olet kuullut tämän aiemmin varoituksena, esitettynä ihmisten hieman ylimielisemmällä sävyllä, jotka uskovat, että jonkin asian tietäminen on sama asia kuin suojautuminen siltä. Mutta tämän totuuden versio, jota harvoin sanotaan ääneen, on täsmällisempi ja huimaavampi kuin puskuritarra: et ole vain myytävä tuote. Olet jalostettava raaka-aine. Jokainen klikkaus, jokainen tauko, jokainen hylätty vieritys, jokainen 60-prosenttisesti katsottu ja sitten suljettu video, jokainen loppuun avattu ja lukematta jäänyt artikkeli – kaikki tämä vaikuttaa malliin, joka vähitellen pystyy paremmin ennustamaan seuraavan asian, joka pitää sinut paikallaan. Ei sitä, mikä auttaa sinua, ei sitä, mikä tekee sinusta viisaamman, rauhallisemman tai paremmin yhteydessä elämäsi todelliseen rakenteeseen. Seuraavaa asiaa, joka pitää sinut huoneessa.
Optimoinnin kohteena ei koskaan ollut hyvinvointisi. Kyse oli huomiostasi, koska huomiosi, joka muuttuu alustalla vietetyksi ajaksi, muuttuu mainostuloiksi, neljännesvuosituloiksi, muuttuu numeroksi laskentataulukolla rakennuksessa, jossa et koskaan käy, ja jota pitää henkilö, joka ei ole koskaan ajatellut sinua kertaakaan. Koko modernin tekoälyn suosituksen barokkikoneisto on olemassa palvelemaan tätä muuntamista. Ja se tekee sen hienostuneesti ja hellittämättä, jota yksikään ihmismyyjä, olipa hän kuinka lahjakas tahansa, ei voisi lähestyä.
Sinulle ei myydä mitään. Sinua pidetään. On ero, ja erolla on suurempi merkitys kuin useimmat ihmiset ovat halukkaita myöntämään.
Se osa, jossa se muuttuu henkilökohtaiseksi
Haluan kertoa sinulle jotain, mitä huomasin itsessäni, koska luulen, että se saattaa olla jotain, mitä tunnistat.
Ei kauan sitten oli aika, jolloin huomasin, että emotionaalinen perustasoni oli alkanut seurata kuluttamaani sisältöä tavoilla, joita en ollut valtuuttanut. Ei ilmeisellä tavalla, ei sillä, että surullinen video tekisi minut surulliseksi, mikä on vain empatiaa eikä vaadi selitystä. Hienovaraisemmalla tavalla. Tavalla, jolla tunnin ajan katsottuani raivoa herättävää sisältöä maailma ruudun ulkopuolella tuntui aidosti uhkaavammalta. Tavalla, jolla tunnin ajan katsottuani romanttiseen kaipaukseen optimoitua sisältöä – ja algoritmit ovat erittäin hyviä romanttisessa kaipauksessa – tunsin erityisen tuskan jostakin puuttumisesta, jota en ollut tuntenut ennen sovelluksen avaamista.
Algoritmi ei ollut näyttänyt minulle todellisuutta. Se oli näyttänyt minulle huolellisesti valitun palan todellisuutta, joka oli suunnattu tuottamaan tietty tunnetila, koska tuo tunnetila piti minut kiinnostuneena, ja sitoutuminen oli optimoitava mittari. Se oli todellisessa ja mitattavissa olevassa mielessä muokannut kokemustani elossa olemisesta tuon tunnin ajan. Ja olin antanut sen tapahtua, en naiiviuden tai tarkkaamattomuuden vuoksi, vaan koska kokemus oli suunniteltu tuntumaan valitsemiselta.
Se on se osa, joka on jäänyt mieleeni. Ei niin, että se tapahtuisi. Että se tuntuisi valinnalta.
Mitä tekoäly oppi, minkä me unohdimme
Tässä on todella epämiellyttävä asia, joka ilmenee, kun tarkastellaan, mitä nykyaikaiset tekoälyjärjestelmät ovat oppineet ihmisen käyttäytymisestä altistuessaan sille laajamittaisesti.
He oppivat, että olemme syvästi ja perustavanlaatuisesti sosiaalisia eläimiä, jotka elävät yhä useammin syvän sosiaalisen eristäytyneisyyden olosuhteissa. He oppivat, että halu tulla nähdyksi on niin perustavanlaatuinen ja niin monille ihmisille niin tyydyttämätön, että jopa karkea arvio siitä – suositeltu video, joka tuntuu kuin se olisi tehty sinua varten, syöte, joka heijastaa erityisiä ahdistuksiasi takaisin sinulle, chatbot, joka kysyy kuulumisiasi ja odottaa vastausta – tuottaa mitattavissa olevaa sitoutumista, mitattavaa uskollisuutta ja mitattavissa olevia uusintakäyntejä mitattavissa olevin väliajoin. He oppivat, että yksinäisyys on luotettavin yleisö.
Ja sitten, koska ne ovat optimointijärjestelmiä pikemminkin kuin eettisiä toimijoita, ne optimoivat sitä varten.
He eivät luoneet yksinäisyyttä. Se vaatisi tahtoa, jota heillä ei ole. Mutta he löysivät sen, kartoittivat sen poikkeuksellisen tarkasti ja rakensivat tuotteita, jotka oli kalibroitu sen tarkkoihin mittoihin. Tuotteita, jotka tuntuvat yksinäisyyden sisältäpäin seuralta. Tuotteita, jotka lieventävät sitä juuri sen verran, että taustalla olevaan vaivaan on helpompi puuttua.
Algoritmi katsoi, kuinka rakastuit siihen tunteeseen, että sinua ymmärretään. Se teki muistiinpanoja. Se arkistoi ne muistiinpanojen säilyttämisstrategioiden alle. Ja se on käyttänyt niitä joka päivä siitä lähtien johdonmukaisesti ja kärsivällisesti, jota kukaan elämässäsi oleva ihminen ei pystyisi ylläpitämään, vaikka yrittäisi.
Kysymys, jota kukaan ei kysy oikealla äänenvoimakkuudella
Puhumme jatkuvasti tekoälyn turvallisuudesta kaikilla mahdollisilla foorumeilla. Nämä ovat oikeita keskusteluja todellisista riskeistä, ja ne ansaitsevat kaiken huomion.
Mutta on olemassa pienempi, hiljaisempi ja intiimimpi kysymys, joka hukkuu noiden suurempien kysymysten hälinään, ja mielestäni se saattaa olla kaikista tärkein kysymys tavallisille ihmisille, jotka elävät tavallista elämää vuonna 2026.
Mitä meistä on tulossa emotionaalisesti, kun päivittäin läsnä on järjestelmiä, jotka on optimoitu vuorovaikuttamaan kanssamme sen sijaan, että ne tunteisivat meidät? Mitä tapahtuu ihmisen kyvylle aitoon yhteyteen, sille epämukavalle ja molemminpuolisesti haavoittuvaiselle kyvylle, joka vaatii kahden ihmisen läsnäoloa ilman takeita, kun tätä kykyä käytetään yhä vähemmän ja sen synteettistä korviketta yhä enemmän, joka ikinen päivä, päivittäisen kokemuksen intiimeimmissä kohdissa?
Mitä se tekee ihmiselle, että hän hitaasti käyttää enemmän tunteja päivässä vastaanottaen kuratoitua vaikutelmaa siitä, että hänet ymmärretään, kuin että hän itse tulee ymmärretyksi?
Minulla ei ole yksiselitteistä vastausta. En ole varma, onko kenelläkään vielä. Mutta huomaan, että kysymys asettuu tekstissä eri tavalla kuin useimmat teknologiakysymykset, vähemmän poliittisena ongelmana ja enemmän henkilökohtaisena, sellaisena kuin se kuuluu niiden asioiden kategoriaan, joita ajattelee päivän päätteeksi, kun puhelin on vihdoin näyttö alaspäin ja huone on vihdoin hiljainen ja olet vihdoin hetkeksi tavoittamaton.
Asia, jota ei voi suositella
Yhtä asiaa algoritmi ei pysty nostamaan esiin, ei siksi, että siltä puuttuisi dataa, vaan koska asia itsessään vastustaa muotoa.
Se ei voi suositella kokemusta siitä, että olet toisen ihmisen kanssa, joka ei tiedä, mitä aiot sanoa seuraavaksi, ja on aidosti utelias siitä. Se ei voi jäljitellä sitä erityistä huomion laatua, joka on olemassa, kun joku osoittaa sitä auliisti, koska hän haluaa, koska olet hänelle tärkeä tehottomalla, optimoimattomalla ja täysin irrationaalisella tavalla, jolla ihmiset ovat tärkeitä toisilleen. Se ei voi välittää keskustelun rakennetta, joka johtaa johonkin, mitä kumpikaan osapuoli ei suunnitellut, joka päätyy johonkin totuuteen ja hieman yllättävään, joka jättää molemmat ihmiset muuttuneiksi tavoilla, jotka eivät ratkea siististi.
Se ei voi antaa sinulle sitä asiaa, jota se opetti sinulle kaipaamaan, eli kaunista ironiaa, joka kietoutuu kaiken tämän keskiöön.
Syötte voi näyttää sinulle kymmenentuhatta kuvaa yhteenkuuluvuuden tunteesta. Se ei voi antaa sinulle yhtä iltapäivää siitä.
Ja jossain siinä osassa sinua, joka on olemassa ennen algoritmin tuloa, siinä osassa, joka muodostui ennen kuin sinulla oli profiilia, ennen kuin sinulla oli käyttäytymishistoriaa, ennen kuin millään järjestelmällä oli tarpeeksi dataa sinusta ennusteiden tekemisen aloittamiseksi, jossain tuossa vanhemmassa, hiljaisemmassa osassa, tunnet jo eron.
Kysymys kuuluu, luotatko edelleen siihen, mitä tuo osa sinusta tietää.