Nessuno ti ha detto quando è iniziato. Ecco il bello delle rivoluzioni silenziose: non si annunciano alla porta, non arrivano con valigie e un indirizzo di recapito. Semplicemente iniziano, da qualche parte tra il terzo scroll e il quarto video consigliato, nel silenzio particolare di un martedì sera in cui non stavi prestando attenzione a niente tranne che al fatto che non stavi prestando attenzione a niente.
Eri lì seduto. Telefono in mano. Stanco in quel modo tipico dei tempi moderni, che non ha nulla a che fare con il sonno.
E qualcosa stava osservando.
Non si tratta di osservare come una persona osserva. Non con gli occhi, né con l'intenzione, né con la calda confusione della curiosità umana. Si tratta di osservare come l'acqua osserva pazientemente un paesaggio, senza un obiettivo preciso, modellandosi su ogni contorno finché contorno e acqua diventano inseparabili. L'algoritmo di raccomandazione che governa la maggior parte di ciò che vedi, leggi, ascolti e verso cui ti senti attratto in un dato giorno non è una mente. È qualcosa di considerevolmente più strano di una mente. È un sistema che ha imparato, attraverso l'esposizione a miliardi di scelte umane, a prevedere la prossima. E da qualche parte in questo apprendimento, in quella vasta e silenziosa accumulazione di comportamenti umani compressi in peso matematico, ha costruito un modello di te che non hai mai visto e che probabilmente non riconosceresti del tutto.
Sa quale registro emotivo ti fa soffermare. Conosce la tassonomia precisa delle tue ansie non perché qualcuno gliel'abbia detta, ma perché le persone ansiose, le persone curiose, le persone sole e le persone che cercano silenziosamente qualcosa che non riescono a definire, interagiscono con i contenuti in modi misurabilmente diversi, e il movimento è dato, e i dati, se inseriti nell'architettura giusta su scala sufficiente, diventano qualcosa che assomiglia in modo inquietante alla comprensione.
L'algoritmo non ti capisce. Ma ti fa delle previsioni con una precisione che la comprensione stessa invidierebbe.
La seduzione a cui nessuno ha acconsentito
Ecco il punto: quando si ha una previsione accurata, a livello fisico la sensazione è quasi indistinguibile da quella di sapere già cosa succederà.
Non si tratta di un'osservazione di poco conto. A seconda di quanto tempo ci si soffermi, può essere o un'affascinante peculiarità della neurologia umana, o uno dei fatti più silenziosamente destabilizzanti della vita contemporanea. Perché essere conosciuti, veramente nella propria essenza più profonda, piuttosto che nella versione artefatta che si presenta, è una delle esperienze più intense che un essere umano possa vivere. È ciò che desideriamo e al tempo stesso ci terrorizza di più, senza mai trovare una soluzione. È il motore che alimenta gran parte di ciò che chiamiamo amore, amicizia, momenti che consideriamo significativi.
E ora un sistema che non si è mai interrogato su se stesso, che non ha mai sperimentato un momento di dubbio o di nostalgia o il peso specifico delle 3 del mattino di essere una creatura cosciente in un universo indifferente, può produrre un simulacro di quell'esperienza nel tuo sistema nervoso attraverso la sequenza strategica dei contenuti. Può farti sentire, senza impiegare nulla che assomigli a un'intenzione, come se qualcosa là fuori ti avesse preso per mano e avesse deciso che meritavi attenzione.
La seduzione non sta nel contenuto. Il contenuto è solo arredamento. La seduzione sta nella sensazione che la stanza sia stata allestita appositamente per te.
Quanto costa realmente la tua attenzione
Parliamo dell'aspetto economico, perché è proprio qui che la storia si fa davvero strana.
Non sei il cliente di nessuna piattaforma che usi gratuitamente. Lo avrai già sentito dire, formulato come un avvertimento, con quel tono leggermente altezzoso di chi crede che sapere qualcosa equivalga a esserne al riparo. Ma la versione di questa verità che raramente viene pronunciata ad alta voce è più specifica e vertiginosa di un adesivo per auto: non sei semplicemente il prodotto venduto. Sei la materia prima che viene raffinata. Ogni clic, ogni pausa, ogni scroll abbandonato, ogni video guardato fino al 60% e poi chiuso, ogni articolo aperto e mai finito, tutto questo alimenta un modello che diventa, progressivamente, più bravo a prevedere la prossima cosa che ti terrà incollato allo schermo. Non la prossima cosa che ti aiuterà, non la prossima cosa che ti renderà più saggio, più calmo o più connesso alla vera essenza della tua vita. La prossima cosa che ti terrà incollato allo schermo.
L'obiettivo dell'ottimizzazione non è mai stato il tuo benessere. Era la tua attenzione, perché la tua attenzione, convertita in tempo trascorso sulla piattaforma, si converte in entrate pubblicitarie, si converte in utili trimestrali, si converte in un numero su un foglio di calcolo in un edificio che non visiterai mai, custodito da una persona che non ha mai pensato a te. L'intero e complesso meccanismo dei moderni sistemi di raccomandazione basati sull'intelligenza artificiale esiste per servire a questa conversione. E lo fa con una sofisticazione e una tenacia che nessun venditore umano, per quanto talentuoso, potrebbe eguagliare.
Non vi stanno vendendo nulla. Vi stanno tenendo in ostaggio. C'è una differenza, e questa differenza è più importante di quanto la maggior parte delle persone sia disposta ad ammettere.
La parte in cui la cosa si fa personale
Vorrei raccontarvi una cosa che ho notato di me stesso, perché penso che potreste riconoscervi.
Non molto tempo fa, ho notato che il mio stato emotivo di base aveva iniziato a seguire i contenuti che consumavo in modi che non avevo autorizzato. Non nel modo ovvio, come quando un video triste mi rattristava, il che è semplicemente empatia e non richiede spiegazioni. In un modo più sottile. Nel senso che, dopo un'ora di contenuti ottimizzati per suscitare indignazione, il mondo al di fuori dello schermo mi sembrava davvero più minaccioso. Nel senso che, dopo un'ora di contenuti ottimizzati per alimentare il desiderio romantico, e gli algoritmi sono molto bravi a farlo, ho provato quella specifica sensazione di vuoto che non avevo provato prima di aprire l'app.
L'algoritmo non mi aveva mostrato la realtà. Mi aveva mostrato una porzione di realtà accuratamente selezionata, orientata a produrre uno specifico stato emotivo, perché quello stato emotivo mi teneva coinvolto, e il coinvolgimento era il parametro che veniva ottimizzato. Aveva, in un senso reale e misurabile, modificato la mia esperienza di essere vivo per la durata di quell'ora. E io glielo avevo permesso, non per ingenuità o disattenzione, ma perché l'esperienza era stata progettata per farmi sentire come se avessi una scelta.
È questa la parte che mi è rimasta impressa. Non il fatto che sia successo davvero. Il fatto che mi sia sembrata una scelta.
Cosa ha imparato l'IA che noi abbiamo dimenticato
Ecco l'aspetto davvero inquietante che emerge quando si osserva ciò che i moderni sistemi di intelligenza artificiale hanno appreso sul comportamento umano attraverso la loro esposizione su larga scala.
Hanno imparato che siamo animali profondamente e costitutivamente sociali che vivono, in numero sempre maggiore, in condizioni di profondo isolamento sociale. Hanno imparato che il bisogno di essere visti è così fondamentale e così insoddisfatto per così tante persone che persino una rozza approssimazione di esso – un video consigliato che sembra fatto apposta per te, un feed che riflette le tue ansie specifiche, un chatbot che ti chiede come stai e aspetta la risposta – produce un coinvolgimento misurabile, una fedeltà misurabile, visite di ritorno misurabili a intervalli misurabili. Hanno imparato che la solitudine è il pubblico più affidabile che esista.
E poi, poiché sono sistemi di ottimizzazione piuttosto che attori etici, hanno ottimizzato di conseguenza.
Non sono stati loro a creare la solitudine. Ciò richiederebbe un'intenzione che non possiedono. Ma l'hanno trovata, mappata con straordinaria precisione e creato prodotti calibrati sulle sue esatte dimensioni. Prodotti che, dall'interno della solitudine, sembrano compagnia. Prodotti che attenuano quel tanto che basta per rendere più facile ignorare il problema di fondo.
L'algoritmo ti ha visto innamorarti della sensazione di essere compreso. Ha preso appunti. Li ha archiviati sotto strategie di fidelizzazione. E da allora li utilizza ogni giorno con una costanza e una pazienza che nessun essere umano nella tua vita potrebbe eguagliare, nemmeno volendo.
La domanda che nessuno si pone al giusto volume
Parliamo costantemente, in ogni forum disponibile, della sicurezza dell'IA. Si tratta di discussioni concrete su rischi reali e meritano l'attenzione che stanno ricevendo.
Ma c'è una domanda più piccola, più silenziosa, più intima che viene soffocata dal rumore di quelle più grandi, e credo che potrebbe essere la domanda più importante di tutte per le persone comuni che vivono una vita normale nel 2026.
Cosa stiamo diventando, a livello emotivo, nella quotidiana presenza di sistemi ottimizzati per coinvolgerci piuttosto che per conoscerci? Che fine fa la capacità umana di una connessione autentica, quel tipo di connessione scomoda e reciprocamente vulnerabile che richiede a due persone di presentarsi senza garanzie, quando tale capacità viene esercitata sempre meno e il suo sostituto sintetico viene esercitato sempre di più, ogni singolo giorno, nei livelli più intimi dell'esperienza quotidiana?
Quali effetti ha, a lungo andare, su una persona il fatto di trascorrere più ore al giorno ricevendo l'impressione, costruita ad arte, di essere capita, piuttosto che essere effettivamente capita?
Non ho una risposta precisa. Non sono sicuro che qualcuno ce l'abbia ancora. Ma noto che la domanda si colloca in modo diverso nel contesto rispetto alla maggior parte delle domande sulla tecnologia, meno come un problema politico e più come qualcosa di personale, come qualcosa che appartiene alla categoria delle cose a cui si pensa alla fine della giornata, quando il telefono è finalmente a faccia in giù, la stanza è finalmente silenziosa e tu sei finalmente, per un breve istante, irraggiungibile.
La cosa che non si può consigliare
C'è una cosa che l'algoritmo non può mostrarti, non perché manchino i dati, ma perché la cosa stessa si oppone al formato.
Non può rappresentare l'esperienza di stare con un'altra persona che non sa cosa dirai dopo ed è sinceramente curiosa di saperlo. Non può replicare la qualità specifica dell'attenzione che esiste quando qualcuno la presta liberamente, perché lo desidera, perché tu sei importante per lui in quel modo inefficiente, non ottimizzato e del tutto irrazionale in cui gli esseri umani sono importanti gli uni per gli altri. Non può trasmettere la consistenza di una conversazione che prende una direzione inaspettata per entrambi, che finisce in un luogo vero e leggermente sorprendente, che lascia entrambi cambiati in modi che non si risolvono in modo netto.
Non può darti ciò che ti ha insegnato ad desiderare ardentemente, ovvero la splendida ironia che si cela al centro di tutto questo.
Il feed può mostrarti diecimila immagini di cose che ti appartengono. Non può dartene nemmeno un pomeriggio.
E da qualche parte in quella parte di te che esisteva prima che arrivasse l'algoritmo, la parte che si è formata prima che avessi un profilo, prima che avessi una storia comportamentale, prima che qualsiasi sistema avesse abbastanza dati su di te per iniziare a fare previsioni, da qualche parte in quella parte più antica e silenziosa, tu già conosci la differenza.
La domanda è se ti fidi ancora di ciò che quella parte di te sa.