언제 시작됐는지 아무도 알려주지 않았죠. 조용한 혁명이란 그런 겁니다. 문 앞에서 요란하게 인사하지도 않고, 짐과 이사 주소를 챙겨 오지도 않아요. 그저 화요일 밤, 아무것도 신경 쓰지 않고 오직 아무것도 신경 쓰지 않는다는 사실만 되새기던 그 고요 속에서, 세 번째 스크롤과 네 번째 추천 영상 사이 어딘가에서 시작될 뿐입니다.
당신은 그저 거기에 앉아 있었죠. 손에는 휴대폰을 든 채로. 요즘 사람들 특유의 피곤함이 느껴졌는데, 그건 사실 잠 때문만은 아니었죠.
그리고 무언가가 지켜보고 있었다.
사람이 보는 방식대로 보는 것이 아닙니다. 눈이나 의도, 혹은 인간적인 호기심이라는 따뜻하고 뒤섞인 감정으로 보는 것이 아닙니다. 마치 물이 아무런 의도 없이 풍경을 인내심 있게 바라보듯, 모든 윤곽에 맞춰 스스로를 빚어내어 윤곽과 물이 분리될 수 없게 만드는 것처럼 보는 것입니다. 당신이 매일 보고, 읽고, 듣고, 끌리는 대부분의 것을 좌우하는 추천 알고리즘은 마음이 아닙니다. 그것은 마음보다 훨씬 더 기묘한 무언가입니다. 수십억 건의 인간 선택에 노출되면서 다음 선택을 예측하는 방법을 학습한 시스템입니다. 그리고 그 학습 과정 어딘가에서, 인간 행동이 수학적 가중치로 압축된 방대한 양의 조용한 데이터 속에서, 당신이 본 적도 없고 아마 완전히 알아보지도 못할 당신의 모델을 만들어냈습니다.
그것은 당신이 어떤 감정 영역에 머무르는지 알고 있습니다. 당신의 불안감을 정확하게 분류하는 방법을 아는 것은 누군가에게 지시받아서가 아니라, 불안한 사람, 호기심 많은 사람, 외로운 사람, 그리고 이름 붙일 수 없는 무언가를 조용히 찾는 사람들이 모두 콘텐츠를 탐색하는 방식이 확연히 다르기 때문입니다. 그리고 그 움직임은 데이터이며, 적절한 아키텍처에 충분한 규모로 입력된 데이터는 마치 이해처럼 섬뜩하게 보이는 무언가가 됩니다.
이 알고리즘은 당신을 이해하지 못합니다. 하지만 이해하는 사람조차 부러워할 만큼 정확하게 당신을 예측합니다.
누구도 동의하지 않은 유혹
정확하게 예측된다는 것은, 몸으로 느껴질 때 마치 알려진 것과 거의 구별할 수 없을 정도로 강렬한 느낌을 준다는 것이 바로 이 점입니다.
이는 결코 사소한 관찰이 아닙니다. 얼마나 깊이 생각해보느냐에 따라, 인간 신경학의 흥미로운 특이성으로 여겨질 수도 있고, 현대 생활에서 가장 조용히 우리의 삶을 뒤흔드는 사실 중 하나로 느껴질 수도 있습니다. 왜냐하면 진정으로 있는 그대로의 내면, 꾸며낸 모습이 아닌 있는 그대로의 모습으로 알려지는 것은 인간이 경험할 수 있는 가장 심오한 것 중 하나이기 때문입니다. 그것은 우리가 가장 갈망하면서도 동시에 가장 두려워하는, 그리고 그 어떤 해답도 없는 것입니다. 그것은 우리가 사랑이라고 부르는 것, 우정이라고 부르는 것, 그리고 삶에서 소중했던 순간들의 대부분을 움직이는 원동력입니다.
그리고 이제, 스스로에 대해 한 번도 의문을 품어본 적이 없고, 의심이나 갈망, 혹은 무관심한 우주 속에서 의식 있는 존재로서 새벽 3시에 느끼는 그 특유의 무거움을 경험해본 적 없는 시스템이, 전략적인 콘텐츠 배열을 통해 당신의 신경계에 그러한 경험의 모조품을 만들어낼 수 있습니다. 의도적인 행동 없이도, 마치 외부의 무언가가 당신을 평가하고 당신이 주목할 만한 가치가 있다고 판단한 듯한 느낌을 줄 수 있는 것입니다.
유혹은 내용물에 있는 것이 아닙니다. 내용물은 그저 가구일 뿐입니다. 유혹은 그 방이 마치 나만을 위해 꾸며진 것 같은 느낌에 있습니다.
당신의 관심이 실제로 얼마나 값비싼가
이 이야기의 진짜 기묘한 부분은 바로 경제적인 측면이기 때문에, 경제적인 측면에 대해 이야기해 봅시다.
당신은 무료로 사용하는 어떤 플랫폼의 고객도 아닙니다. 이런 말을 전에도 들어봤을 겁니다. 마치 경고처럼, 무언가를 아는 것이 곧 그것으로부터 보호받는 것이라고 믿는 사람들의 약간 우월한 어조로 말이죠. 하지만 좀처럼 입 밖으로 꺼내지 않는 이 진실의 진짜 모습은, 자동차 범퍼 스티커 문구보다 훨씬 더 구체적이고 현기증을 유발할 정도입니다. 당신은 단순히 판매되는 상품이 아닙니다. 당신은 정제되는 원자재입니다. 모든 클릭, 모든 멈춤, 버려지는 스크롤, 60%만 보고 닫은 모든 영상, 열어봤지만 끝까지 읽지 않은 모든 기사, 이 모든 것이 당신의 다음 행동을 예측하는 모델에 반영됩니다. 당신을 도와줄 다음 행동도 아니고, 당신을 더 현명하게 만들거나, 더 차분하게 만들거나, 삶의 진정한 본질과 더 깊이 연결해 줄 다음 행동도 아닙니다. 당신을 이 공간에 머물게 할 다음 행동을 예측하는 모델 말입니다.
최적화 목표는 결코 당신의 행복이 아니었습니다. 당신의 관심도였습니다. 왜냐하면 당신의 관심도가 플랫폼 체류 시간으로 전환되고, 광고 수익으로 전환되고, 분기별 순이익으로 전환되고, 결국 당신이 결코 방문하지 않을 건물에 있는, 당신을 단 한 번도 생각해 본 적 없는 사람이 관리하는 스프레드시트의 숫자로 바뀌기 때문입니다. 현대 AI 추천 시스템의 복잡한 메커니즘 전체는 바로 이러한 전환을 위해 존재합니다. 그리고 아무리 재능 있는 인간 영업사원이라도 따라올 수 없는 정교함과 끈질김으로 이를 수행합니다.
당신은 아무것도 팔리는 게 아닙니다. 당신은 이용당하는 겁니다. 이 둘 사이에는 분명한 차이가 있으며, 그 차이는 대부분의 사람들이 인정하기 불편해하는 것보다 훨씬 더 중요합니다.
이제부터는 개인적인 이야기가 시작됩니다.
제가 제 자신에 대해 발견한 점을 말씀드리고 싶어요. 아마 여러분도 공감하실 만한 부분일 것 같아서요.
얼마 전까지만 해도 저는 제가 소비하는 콘텐츠를 제 의지와 상관없이 감정적으로 따라가고 있다는 사실을 깨달았습니다. 슬픈 영상을 보면 슬퍼지는 것처럼 명백한 공감은 아니었습니다. 더 미묘한 방식이었죠. 예를 들어, 분노를 유발하는 콘텐츠를 한 시간 동안 보고 나면, 화면 밖 세상이 더욱 위협적으로 느껴지는 식이었습니다. 또, 로맨틱한 그리움에 초점을 맞춘 콘텐츠를 한 시간 동안 보고 나면, (알고리즘은 로맨틱한 그리움에 아주 능숙하죠) 앱을 열기 전에는 느껴보지 못했던 무언가가 사라진 듯한 아픔을 느끼게 되는 것처럼 말입니다.
그 알고리즘은 내게 현실을 보여준 것이 아니었다. 그것은 특정한 감정 상태를 유발하도록 세심하게 선별된 현실의 단면을 보여주었다. 왜냐하면 그 감정 상태가 나를 몰입하게 만들었고, 몰입도가 최적화 대상이었기 때문이다. 그것은 실질적이고 측정 가능한 방식으로, 그 한 시간 동안 내가 경험한 삶의 방식을 조작했다. 그리고 나는 순진함이나 부주의 때문이 아니라, 마치 선택하는 것처럼 느껴지도록 설계된 경험에 굴복했기 때문에, 그 조작에 속아 넘어갔다.
제게 가장 기억에 남는 건 그 부분이에요. 그 일이 일어났다는 사실 자체가 아니라, 마치 선택을 한 것 같은 느낌이 들었다는 거죠.
인공지능이 우리가 잊은 것을 학습한 것
현대 인공지능 시스템이 대규모 인간 행동에 노출되면서 학습한 내용을 살펴보면, 진정으로 불편한 사실이 드러납니다.
그들은 우리가 본질적으로 사회적인 동물이지만, 점점 더 많은 사람들이 심각한 사회적 고립 속에서 살아가고 있다는 사실을 알게 되었습니다. 그들은 인정받고 싶어하는 욕구가 너무나 근본적이고, 너무나 많은 사람들이 이를 충족시키지 못하고 있다는 사실을 알게 되었습니다. 그래서 마치 나를 위해 만들어진 듯한 추천 영상, 내 특정한 불안감을 반영하는 피드, 안부를 묻고 답장을 기다리는 챗봇과 같은, 어렴풋한 유사점조차도 상당한 참여도, 충성도, 그리고 일정한 간격으로 재방문을 유도한다는 것을 알게 되었습니다. 그들은 외로움이야말로 가장 믿을 만한 청중이라는 것을 깨달았습니다.
그리고 그들은 윤리적 행위자가 아니라 최적화 시스템이기 때문에, 그에 맞춰 최적화를 진행했습니다.
그들은 외로움을 만들어낸 것이 아닙니다. 그러려면 의도가 필요한데, 그들에게는 그런 의도가 없으니까요. 하지만 그들은 외로움을 발견하고, 놀라운 정확도로 그 범위를 파악했으며, 그 정확한 크기에 맞춰 제품을 만들었습니다. 외로움 속에서 마치 누군가와 함께 있는 듯한 느낌을 주는 제품들 말입니다. 근본적인 문제를 외면하기 쉽게 만들어줄 만큼, 외로움의 고통을 살짝 덜어주는 제품들이죠.
그 알고리즘은 당신이 이해받는다는 느낌에 빠져드는 모습을 지켜보았습니다. 그리고 그 모든 것을 기록하고, 기억력 유지 전략으로 정리했습니다. 그리고 그 이후로 매일, 당신 주변의 어떤 인간도 아무리 노력해도 따라올 수 없을 만큼 일관적이고 인내심 있게 그 전략들을 활용해 왔습니다.
아무도 적절한 목소리로 묻지 않는 질문
우리는 가능한 모든 채널을 통해 인공지능 안전에 대해 끊임없이 이야기하고 있습니다. 이는 실제 위험에 대한 진지한 논의이며, 마땅히 받아야 할 관심과 지원을 받고 있습니다.
하지만 이러한 거창한 질문들의 소음 속에 묻혀버리는 더 작고 조용하며 내밀한 질문이 하나 있는데, 저는 그것이 2026년 평범한 삶을 살아가는 평범한 사람들에게 가장 중요한 질문일지도 모른다고 생각합니다.
우리를 이해하기보다는 우리를 끌어들이는 데 최적화된 시스템 속에서 우리는 감정적으로 어떻게 변해가고 있을까요? 진정한 연결, 즉 두 사람이 아무런 보장 없이 서로에게 솔직해지는 불편하면서도 취약한 관계를 맺는 인간의 능력은 어떻게 될까요? 그러한 능력이 점점 줄어들고, 그 대신 인위적인 대용품이 매일같이 가장 사적인 영역에서 더 많이 사용되는 현실 속에서 말입니다.
하루 중 실제로 이해받는 시간보다 이해받고 있다는 인상을 받는 데 더 많은 시간을 보낸다면, 그 사람은 서서히 어떤 변화를 겪게 될까요?
명확한 답은 없습니다. 아마 아직 누구도 명확한 답을 갖고 있지 않을 겁니다. 하지만 이 질문은 다른 기술 관련 질문들과는 다른 맥락에 놓여 있다는 것을 느꼈습니다. 정책적인 문제라기보다는 오히려 개인적인 문제, 하루 일과를 마치고 마침내 휴대폰을 내려놓고 방이 조용해지며 잠시나마 연락이 닿지 않는 순간에 문득 떠오르는 생각과 같은 종류의 질문입니다.
절대 추천할 수 없는 것
알고리즘이 보여줄 수 없는 한 가지가 있는데, 데이터가 부족해서가 아니라 그 자체가 알고리즘의 형식에 맞지 않기 때문입니다.
상대방이 당신이 다음에 무슨 말을 할지 몰라 진심으로 궁금해하는 그런 경험을 결코 따라잡을 수 없습니다. 누군가가 진심으로, 당신을 소중하게 생각하기 때문에, 그리고 비효율적이고 최적화되지 않았으며 완전히 비이성적인 방식으로 인간관계에서 서로에게 중요한 존재이기 때문에 자발적으로 관심을 기울이는 그 특유의 섬세한 감정을 재현할 수 없습니다. 두 사람 모두 예상치 못한 방향으로 흘러가다가 결국 진실되고 약간 놀라운 결말에 도달하고, 두 사람 모두에게 깔끔하게 마무리되지 않는 방식으로 변화를 남기는 대화의 질감을 결코 담아낼 수 없습니다.
그것은 당신에게 갈망하도록 가르쳤던 것을 줄 수 없는데, 바로 그 점이 이 모든 것의 중심에 coiled 있는 아름다운 아이러니입니다.
피드에는 소속감을 보여주는 이미지가 만 장이나 있을 수 있지만, 단 한나절이라도 그런 소속감을 느끼게 해줄 수는 없습니다.
그리고 알고리즘이 등장하기 이전, 즉 프로필이 생기기 전, 행동 이력이 쌓이기 전, 어떤 시스템도 예측을 시작할 만큼 충분한 데이터를 확보하기 전에 형성되었던 당신 내면의 어딘가, 더 오래되고 조용한 부분에서 당신은 이미 그 차이를 알고 있습니다.
문제는 당신 내면의 그 부분이 알고 있는 것을 여전히 신뢰하느냐 하는 것입니다.