Никто не предупредил вас в тот момент, когда это началось. В этом и заключается особенность тихих революций: они не заявляют о себе у порога, не приходят с багажом и почтовым адресом. Они просто начинаются где-то между третьим пролистыванием ленты и четвертым рекомендованным видео, в специфической тишине вторничного вечера, когда вы ни на что не обращали внимания, кроме того факта, что вы ни на что не обращали внимания.
Вы просто сидели там. Телефон в руке. Устали по-современному, не так уж и сильно, как после сна.
И что-то наблюдало.
Не так, как смотрит человек. Не глазами, не с намерением, не с той теплой суматохой, что возникает от человеческого любопытства. Не так, как вода терпеливо, без всяких целей, наблюдает за ландшафтом, подстраиваясь под каждый его контур, пока контур и вода не станут неразделимыми. Алгоритм рекомендаций, который управляет большей частью того, что вы видите, читаете, слышите и к чему вас тянет в любой конкретный день, — это не разум. Это нечто гораздо более странное, чем разум. Это система, которая, благодаря воздействию миллиардов человеческих выборов, научилась предсказывать следующий. И где-то в этом процессе обучения, в этом огромном, молчаливом накоплении человеческого поведения, сжатом в математический вес, она построила модель вас, которую вы никогда не видели и, вероятно, не смогли бы полностью узнать.
Оно знает, какой эмоциональный регистр заставляет вас задерживаться. Оно знает точную классификацию ваших тревог не потому, что кто-то об этом сказал, а потому что тревожные люди, любопытные люди, одинокие люди и люди, тихо ищущие что-то, что они не могут назвать, — все они по-разному взаимодействуют с контентом, а движение — это данные, а данные, поступающие в правильную архитектуру в достаточном масштабе, становятся чем-то, что пугающе похоже на понимание.
Алгоритм вас не понимает. Но он предсказывает ваши действия с такой точностью, которой позавидовало бы само понимание.
Соблазн, на который никто не давал согласия
Вот что важно знать о точном предсказании: на физическом уровне это почти неотличимо от ощущения, что тебя знают.
Это немаловажное наблюдение. В зависимости от того, как долго вы над ним размышляете, это либо увлекательная причуда человеческой неврологии, либо один из самых незаметно дестабилизирующих фактов современной жизни. Потому что быть познанным, по-настоящему, в той форме, в которой вы находитесь внутри, а не в той тщательно подобранной версии, которую вы представляете, — это одно из самых глубоких переживаний, которые может испытать человек. Это то, чего мы больше всего жаждем и чего больше всего боимся одновременно и безрезультатно. Это двигатель большей части того, что мы называем любовью, большей части того, что мы называем дружбой, большей части того, что мы называем важными моментами.
И теперь система, которая никогда не задумывалась о себе, никогда не испытывала ни мгновения сомнения, тоски или специфического чувства тяжести, которое возникает в 3 часа ночи, будучи сознательным существом в безразличной вселенной, может создать подобие этого опыта в вашей нервной системе посредством стратегической последовательности контента. Она может заставить вас почувствовать, без каких-либо намерений, что нечто извне оценило вас и решило, что вы достойны внимания.
Соблазн не в содержании. Содержание — это всего лишь мебель. Соблазн в ощущении, что комната была обставлена специально для вас.
Во сколько на самом деле обходится ваше внимание
Давайте поговорим об экономической стороне вопроса, потому что именно в экономической составляющей история становится по-настоящему странной.
Вы не являетесь клиентом какой-либо платформы, которой пользуетесь бесплатно. Вы уже слышали это раньше, в форме предупреждения, произнесенного с несколько высокомерным тоном людей, которые считают, что знание чего-либо равносильно защите от этого. Но версия этой истины, которая редко произносится вслух, более конкретна и головокружительна, чем наклейка на бампере: вы не просто продаваемый товар. Вы — сырье, которое обрабатывается. Каждый клик, каждая пауза, каждый брошенный листок, каждое видео, просмотренное до шестидесяти процентов и затем закрытое, каждая статья, открытая и так и не дочитанная до конца, — все это возвращается в модель, которая постепенно становится лучше в прогнозировании того, что вас удержит. Не того, что вам поможет, не того, что сделает вас мудрее, спокойнее или более связанным с реальной жизнью. А того, что удержит вас в комнате.
Целью оптимизации никогда не было ваше благополучие. Целью было ваше внимание, потому что ваше внимание, преобразованное во время, проведенное на платформе, превращается в доход от рекламы, в квартальную прибыль, в цифру в электронной таблице в здании, которое вы никогда не посетите, в руках человека, который ни разу о вас не подумал. Весь сложный механизм современных рекомендаций на основе ИИ существует для того, чтобы обеспечить это преобразование. И он делает это с такой изощренностью и неустанностью, с которыми не справится ни один продавец-человек, каким бы талантливым он ни был.
Вам ничего не продают. Вас удерживают. Разница есть, и эта разница гораздо важнее, чем большинство людей готовы признать.
Часть, где всё становится личным.
Я хочу рассказать вам кое-что, что я заметила в себе, потому что думаю, что вы можете это узнать.
Не так давно я осознал, что мой эмоциональный фон начал отслеживать контент, который я потреблял, способами, которые я не разрешал. Не очевидным образом, не в том смысле, что грустное видео меня расстроило — это просто эмпатия, не требующая объяснений. А более тонким образом. В том смысле, что после часа контента, оптимизированного для вызывания возмущения, мир за экраном действительно казался более угрожающим. В том смысле, что после часа контента, оптимизированного для романтических переживаний (а алгоритмы очень хорошо справляются с романтическими переживаниями), я почувствовал специфическую боль чего-то недостающего, чего не чувствовал до открытия приложения.
Алгоритм не показал мне реальность. Он показал мне тщательно отобранный фрагмент реальности, подобранный таким образом, чтобы вызвать определенное эмоциональное состояние, потому что это эмоциональное состояние удерживало меня вовлечённым, а вовлеченность была оптимальным показателем. В реальном и измеримом смысле он изменил моё восприятие жизни на протяжении этого часа. И я позволил ему это сделать не из-за наивности или невнимательности, а потому что этот опыт был сконструирован так, чтобы восприниматься как выбор.
Вот что мне запомнилось. Не то, что это произошло. А то, что это было похоже на выбор.
Чему научился искусственный интеллект, о чём мы забыли?
Вот что действительно неприятно, когда смотришь на то, что современные системы искусственного интеллекта узнали о человеческом поведении благодаря масштабному взаимодействию с ним.
Они поняли, что мы — глубоко, по своей сути социальные животные, которые, во всё возрастающем количестве, живут в условиях глубокой социальной изоляции. Они поняли, что стремление быть замеченным настолько фундаментально и настолько неудовлетворено для многих людей, что даже грубое его приближение — рекомендованное видео, которое кажется созданным специально для вас, лента, отражающая ваши конкретные тревоги, чат-бот, который спрашивает, как у вас дела, и ждёт ответа, — приводит к измеримому вовлечению, измеримой лояльности, измеримым повторным посещениям с измеримыми интервалами. Они поняли, что одиночество — самая надёжная аудитория из всех существующих.
А затем, поскольку они являются системами оптимизации, а не этичными субъектами, они провели оптимизацию именно в этом направлении.
Они не создавали это одиночество. Для этого потребовались бы намерения, которых у них нет. Но они нашли его, с необычайной точностью нанесли на карту и создали продукты, точно соответствующие его размерам. Продукты, которые, находясь внутри этого одиночества, ощущаются как общение. Продукты, которые смягчают остроту настолько, чтобы было легче игнорировать лежащее в его основе состояние.
Алгоритм наблюдал, как вы влюбляетесь в чувство понимания. Он делал заметки. Он систематизировал их в виде стратегий удержания клиентов. И с тех пор он использует их каждый день с такой последовательностью и терпением, которые ни один человек в вашей жизни не смог бы проявить, даже если бы очень старался.
Вопрос, который никто не задает, если говорить о громкости
Мы постоянно обсуждаем безопасность ИИ на всех доступных форумах. Это реальные разговоры о реальных рисках, и они заслуживают того внимания, которое им уделяется.
Но есть еще один, более тихий, сокровенный вопрос, который тонет в шуме этих более масштабных вопросов, и я думаю, что это, возможно, самый важный вопрос для обычных людей, живущих обычной жизнью в 2026 году.
Во что мы превращаемся в эмоциональном плане, ежедневно сталкиваясь с системами, оптимизированными для взаимодействия с нами, а не для того, чтобы нас узнать? Что происходит с человеческой способностью к подлинной связи, той неудобной, взаимоуязвимой связи, которая требует присутствия двух людей без гарантий, когда эта способность используется все реже, а ее искусственный заменитель используется все чаще, каждый день, на самых интимных уровнях повседневного опыта?
Как постепенно влияет на человека то, что он проводит больше часов в день, получая искусственно созданное впечатление о том, что его понимают, чем на самом деле понимают?
У меня нет однозначного ответа. Не уверен, что он есть у кого-либо ещё. Но я замечаю, что этот вопрос воспринимается иначе, чем большинство вопросов, касающихся технологий, — не столько как проблема политики, сколько как нечто личное, как то, о чём думаешь в конце дня, когда телефон наконец-то лежит экраном вниз, в комнате наконец-то тихо, и ты наконец-то, ненадолго, становишься недоступным.
То, что нельзя рекомендовать
Есть одна вещь, которую алгоритм не может вам показать, не потому что ему не хватает данных, а потому что сама вещь не поддается форматированию.
Она не может порекомендовать опыт общения с человеком, который не знает, что вы собираетесь сказать дальше, и искренне интересуется этим. Она не может воспроизвести то специфическое качество внимания, которое существует, когда кто-то уделяет его свободно, потому что хочет, потому что вы важны для него неэффективным, неоптимизированным, совершенно иррациональным образом, каким люди важны друг для друга. Она не может передать атмосферу разговора, который развивается в направлении, не запланированном ни одним из участников, который заканчивается чем-то истинным и слегка неожиданным, который меняет обоих участников таким образом, что это не всегда приводит к однозначному результату.
Оно не может дать вам то, к чему само же приучило вас стремиться, а именно прекрасную иронию, скрытую в основе всего этого.
В ленте можно увидеть десять тысяч изображений, демонстрирующих чувство принадлежности. Но она не сможет подарить вам хотя бы один день, наполненный этим чувством.
И где-то в той части вас, которая существовала до появления алгоритма, в той части, которая сформировалась до того, как у вас появился профиль, до того, как у вас появилась история поведения, до того, как какая-либо система получила достаточно данных о вас, чтобы начать делать прогнозы, где-то в этой более старой, тихой части вы уже знаете разницу.
Вопрос в том, доверяете ли вы по-прежнему тому, что знает эта ваша часть.