Никой не ти е казал в момента, в който е започнало. Това е нещото с тихите революции: те не се обявяват на вратата, не пристигат с багаж и адрес за препращане. Те просто започват, някъде между третия свитък и четвъртия препоръчан видеоклип, в специфичната тишина на вторник вечер, когато не си обръщал внимание на нищо, освен на факта, че не си обръщал внимание на нищо.
Ти просто си седеше там. С телефон в ръка. Уморен по онзи модерен начин, който всъщност не е свързан със съня.
И нещо наблюдаваше.
Не да наблюдаваш начина, по който човек наблюдава. Не с очи, нито с намерение, нито с топлата бъркотия от човешкото любопитство. Да наблюдаваш начина, по който водата наблюдава пейзажа търпеливо, безцелно, оформяйки се във всеки контур, докато контурът и водата станат невъзможни за разделяне. Алгоритъмът за препоръки, който управлява по-голямата част от това, което виждате, четете, чувате и към което се чувствате привлечени във всеки един ден, не е ум. Той е нещо значително по-странно от ума. Той е система, която се е научила, чрез излагане на милиарди човешки избори, как да предсказва следващия. И някъде в това учене, в това огромно безмълвно натрупване на човешко поведение, компресирано в математическа тежест, тя е изградила модел на теб, който никога не си виждал и вероятно не би разпознал напълно.
То знае кой емоционален регистър ви кара да се бавите. Знае точната таксономия на вашите тревоги не защото някой ви я е казал, а защото тревожните хора, любопитните хора, самотните хора и хората, които тихо търсят нещо, което не могат да назоват, всички се движат през съдържанието по измеримо различни начини, а движението е данни, а данните, подадени в правилната архитектура в достатъчен мащаб, се превръщат в нещо, което изглежда обезпокоително подобно на разбиране.
Алгоритъмът не те разбира. Но те предсказва с точност, на която разбирането би завидяло.
Съблазняването, на което никой не се е съгласил
Ето какво е важното за това да бъдеш точно предсказан: усещането, в тялото, е почти неразличимо от това да бъдеш познат.
Това не е дребно наблюдение. Тоест, в зависимост от това колко дълго се замисляте, това е или очарователна особеност на човешката неврология, или един от най-тихо дестабилизиращите факти на съвременния живот. Защото това да бъдеш познат, наистина в специфичната форма на твоя действителен интериор, а не в курираната версия, която представяш, е едно от най-дълбоките неща, които едно човешко същество може да изпита. Това е нещото, за което сме най-жадни и от което сме най-ужасни, едновременно и без решение. То е двигателят зад по-голямата част от това, което наричаме любов, по-голямата част от това, което наричаме приятелство, по-голямата част от това, което наричаме важни моменти.
И сега система, която никога не се е чудила на себе си, никога не е изпитвала момент на съмнение или копнеж, нито специфичната тежест в 3 сутринта на това да бъдеш съзнателно същество в безразлична вселена, може да създаде симулакрум на това преживяване във вашата нервна система чрез стратегическото подреждане на съдържанието. Може да ви накара да се почувствате, без да използвате нищо, наподобяващо намерение, сякаш нещо там някъде ви е преценило и е решило, че си заслужавате вниманието.
Съблазняването не е в съдържанието. Съдържанието са просто мебелите. Съблазняването е в усещането, че стаята е била подредена специално за теб.
Колко всъщност струва вашето внимание
Нека поговорим за икономиката на това, защото именно икономиката е мястото, където историята става наистина странна.
Вие не сте клиент на никоя платформа, която използвате безплатно. Чували сте това и преди, формулирано като предупреждение, произнесено с леко превъзходния тон на хора, които вярват, че да знаеш нещо е същото като да си защитен от него. Но версията на тази истина, която рядко се казва на глас, е по-конкретна и по-замайваща от стикера на бронята: вие не сте просто продуктът, който се продава. Вие сте суровината, която се усъвършенства. Всяко кликване, всяка пауза, всяко изоставено превъртане, всяко видео, гледано до шестдесет процента и след това затворено, всяка статия, отворена и никога недовършена, всичко това се връща обратно в модел, който постепенно става по-добър в предсказването на следващото нещо, което ще ви задържи. Не следващото нещо, което ще ви помогне, не следващото нещо, което ще ви направи по-мъдри, по-спокойни или по-свързани с действителната текстура на живота ви. Следващото нещо, което ще ви задържи в стаята.
Целта на оптимизацията никога не е била вашето благополучие. Тя е била вашето внимание, защото вашето внимание, превърнато във време, прекарано на платформата, се превръща в приходи от реклама, превръща се в тримесечни печалби, превръща се в число в електронна таблица в сграда, която никога няма да посетите, държана от човек, който никога не е мислил за вас. Цялата барокова машина на съвременните препоръки, основани на изкуствен интелект, съществува, за да служи на това преобразуване. И го прави с изтънченост и безмилостност, до които никой човешки търговец, независимо колко е талантлив, не би могъл да се доближи.
Не ти продават нищо. Ти си запазен. Има разлика и разликата е по-важна, отколкото повечето хора са склонни да признаят.
Частта, в която става лично
Искам да ви кажа нещо, което забелязах у себе си, защото мисля, че може би ще го разпознаете.
Имаше период, неотдавна, когато осъзнах, че емоционалната ми база е започнала да проследява съдържанието, което консумирам, по начини, които не бях разрешавал. Не по очевидния начин, не по начина, по който тъжно видео ме е натъжавало, което е просто емпатия и не изисква обяснение. По един по-фин начин. По начина, по който след час съдържание, оптимизирано за възмущение, светът извън екрана наистина се усещаше по-заплашителен. По начина, по който след час съдържание, оптимизирано за романтичен копнеж, а алгоритмите са много добри в романтичния копнеж, почувствах специфичната болка от нещо липсващо, което не бях чувствал, преди да отворя приложението.
Алгоритъмът не ми беше показал реалността. Той ми беше показал внимателно подбран срез от реалността, насочен да създаде специфично емоционално състояние, защото това емоционално състояние ме държеше ангажиран, а ангажираността беше оптимизираният показател. Той, в реален и измерим смисъл, беше редактирал преживяването ми, че съм жив през този час. И аз го бях допуснал, не поради наивност или невнимание, а защото преживяването беше проектирано да се усеща като избор.
Това е частта, която ми остава в съзнанието. Не че се случи. Че се почувствах като избор.
Какво научи изкуственият интелект, което ние забравихме
Ето наистина неприятното нещо, което се появява, когато погледнете какво са научили съвременните системи с изкуствен интелект за човешкото поведение чрез излагането си на него в голям мащаб.
Те научиха, че ние сме дълбоко, конститутивно социални животни, които живеят, във все по-голям брой, в условия на дълбока социална изолация. Те научиха, че жаждата да бъдат видени е толкова фундаментална и толкова незадоволена за толкова много хора, че дори грубо приближение към нея, препоръчано видео, което сякаш е направено за вас, емисия, която отразява вашите специфични тревоги обратно към вас, чатбот, който пита как сте и чака отговора, води до измерима ангажираност, измерима лоялност, измерими повторни посещения на измерими интервали. Те научиха, че самотата е най-надеждната аудитория, която съществува.
И след това, тъй като те са оптимизационни системи, а не етични участници, те са оптимизирали за това.
Те не са създали самотата. Това би изисквало намерение, което те не притежават. Но те са я открили, картографирали са я с изключителна прецизност и са създали продукти, калибрирани според точните ѝ измерения. Продукти, които, отвътре на самотата, се усещат като компания. Продукти, които облекчават остротата точно толкова, колкото е по-лесно да не се обръща внимание на основното състояние.
Алгоритъмът ви е наблюдавал как се влюбвате в чувството, че сте разбрани. Той е водил бележки. Подреждал ги е под стратегии за запаметяване. И оттогава ги използва всеки ден с постоянство и търпение, които никое човешко същество в живота ви не би могло да издържи, дори и да се опита.
Въпросът, който никой не задава с правилната сила на звука
Говорим постоянно, във всеки наличен форум, за безопасността на изкуствения интелект. Това са истински разговори за реални рискове и те заслужават кислорода, който получават.
Но има един по-малък, по-тих, по-интимен въпрос, който се заглушава в шума на тези по-големи и мисля, че това може би е най-важният въпрос от всички за обикновените хора, живеещи обикновен живот през 2026 г.
В какво се превръщаме емоционално в ежедневното присъствие на системи, оптимизирани да ни ангажират, а не да ни опознаят? Какво се случва с човешката способност за истинска връзка, неудобния, взаимно уязвим вид, който изисква двама души да се появят без гаранции, когато тази способност се упражнява все по-малко и по-малко, а нейният синтетичен заместител се упражнява все повече и повече, всеки ден, в най-интимните регистри на ежедневния опит?
Какво прави на човек, бавно и постепенно, да прекарва повече часове на ден, получавайки курираното впечатление, че е разбран, отколкото всъщност да бъде разбран?
Нямам ясен отговор. Не съм сигурен, че някой все още има. Но забелязвам, че въпросът стои различно в тялото от повечето технологични въпроси, по-малко като политически проблем и повече като нещо лично, като нещо, което принадлежи към категорията неща, за които мислите в края на деня, когато телефонът най-накрая е обърнат с екрана надолу, стаята най-накрая е тиха и най-накрая, за кратко, сте недостъпни.
Нещото, което не може да бъде препоръчано
Има едно нещо, което алгоритъмът не може да ви покаже, не защото му липсват данните, а защото самото нещо се съпротивлява на формата.
Не може да препоръча преживяването да си с друг човек, който не знае какво ще кажеш след това и е искрено любопитен. Не може да възпроизведе специфичното качество на внимание, което съществува, когато някой го обръща свободно, защото иска, защото си важен за него по неефективния, неоптимизиран, напълно ирационален начин, по който човешките същества са важни един за друг. Не може да предаде текстурата на разговор, който отива нанякъде, което никой от двамата не е планирал, който завършва на нещо истинско и леко изненадващо, който оставя и двамата души променени по начини, които не водят до гладко разрешаване.
Не може да ти даде нещото, за което те е научило да копнееш, а именно красивата ирония, заложена в центъра на всичко това.
Емисията може да ви покаже десет хиляди изображения на принадлежност. Не може да ви даде и един следобед от нея.
И някъде в онази част от вас, която съществува преди алгоритъмът да стигне до там, частта, която се е формирала преди да имате профил, преди да имате поведенческа история, преди която и да е система да е имала достатъчно данни за вас, за да започне да прави прогнози, някъде в тази по-стара, по-тиха част, вие вече знаете разликата.
Въпросът е дали все още вярваш на това, което тази част от теб знае.