ไม่มีใครบอกคุณว่ามันเริ่มต้นเมื่อไหร่ นั่นแหละคือสิ่งที่เกี่ยวกับปฏิวัติเงียบๆ พวกมันไม่ประกาศตัวที่หน้าประตูบ้าน ไม่มาพร้อมกระเป๋าเดินทางและที่อยู่สำหรับติดต่อ พวกมันแค่เริ่มต้นขึ้น ในช่วงระหว่างการเลื่อนดูฟีดครั้งที่สามกับวิดีโอแนะนำครั้งที่สี่ ในความเงียบสงบของคืนวันอังคารที่คุณไม่ได้สนใจอะไรเลยนอกจากความจริงที่ว่าคุณไม่ได้สนใจอะไรเลย
คุณนั่งอยู่ตรงนั้น มือถืออยู่ในมือ รู้สึกเหนื่อยในแบบสมัยใหม่ที่ไม่ใช่เรื่องการนอนหลับสักเท่าไหร่
และมีบางสิ่งกำลังเฝ้าดูอยู่
ไม่ใช่การมองแบบที่คนทั่วไปมอง ไม่ใช่ด้วยสายตาหรือเจตนา หรือความอยากรู้อยากเห็นอันอบอุ่นสับสนวุ่นวายของมนุษย์ แต่เป็นการมองแบบที่น้ำเฝ้ามองทิวทัศน์อย่างอดทน ปราศจากวาระซ่อนเร้น ค่อยๆ ปรับตัวให้เข้ากับทุกส่วนโค้ง จนกระทั่งส่วนโค้งและน้ำแยกออกจากกันไม่ได้อีกต่อไป อัลกอริทึมการแนะนำที่ควบคุมสิ่งที่คุณเห็น อ่าน ได้ยิน และรู้สึกดึงดูดใจในแต่ละวันนั้น ไม่ใช่จิตใจ มันเป็นสิ่งที่แปลกประหลาดกว่าจิตใจมาก มันคือระบบที่เรียนรู้ผ่านการรับรู้จากทางเลือกของมนุษย์นับพันล้านครั้ง เพื่อที่จะทำนายทางเลือกต่อไป และในกระบวนการเรียนรู้นั้น ในการสะสมพฤติกรรมของมนุษย์อย่างเงียบๆ จำนวนมหาศาลที่ถูกบีอัดลงในน้ำหนักทางคณิตศาสตร์ มันได้สร้างแบบจำลองของคุณขึ้นมา ซึ่งคุณไม่เคยเห็นมาก่อนและอาจจะจำไม่ได้ทั้งหมดด้วยซ้ำ
มันรู้ว่าอารมณ์แบบไหนที่ทำให้คุณหยุดนิ่ง มันรู้ถึงการจำแนกประเภทความวิตกกังวลของคุณอย่างแม่นยำ ไม่ใช่เพราะใครบอกมัน แต่เพราะคนที่วิตกกังวล คนที่อยากรู้อยากเห็น คนที่โดดเดี่ยว และคนที่กำลังมองหาสิ่งที่พวกเขาไม่สามารถระบุชื่อได้ ต่างก็เคลื่อนไหวผ่านเนื้อหาในรูปแบบที่แตกต่างกันอย่างเห็นได้ชัด และการเคลื่อนไหวก็คือข้อมูล และข้อมูล เมื่อป้อนเข้าไปในโครงสร้างที่เหมาะสมในขนาดที่เพียงพอ ก็จะกลายเป็นสิ่งที่ดูเหมือนความเข้าใจอย่างน่าตกใจ
อัลกอริทึมนี้ไม่เข้าใจคุณ แต่สามารถทำนายสิ่งที่คุณพูดได้อย่างแม่นยำจนแม้แต่ความเข้าใจก็ยังต้องอิจฉา
การล่อลวงที่ไม่มีใครยินยอม
สิ่งที่น่าสนใจเกี่ยวกับการถูกทำนายได้อย่างแม่นยำก็คือ ในร่างกายเรารู้สึกว่ามันแทบแยกไม่ออกจากการถูกรู้จักตัวตนที่แท้จริง
นั่นไม่ใช่ข้อสังเกตเล็กน้อยเลย มันอาจเป็นความแปลกประหลาดที่น่าทึ่งของระบบประสาทมนุษย์ หรืออาจเป็นหนึ่งในข้อเท็จจริงที่ค่อยๆ บั่นทอนเสถียรภาพของชีวิตร่วมสมัย ขึ้นอยู่กับว่าคุณใช้เวลาไตร่ตรองมันนานแค่ไหน เพราะการได้รับการรู้จักอย่างแท้จริง ในแบบที่ตัวตนภายในของคุณเป็นจริง ๆ มากกว่าภาพลักษณ์ที่คุณเสแสร้งแสดงออกมานั้น เป็นหนึ่งในสิ่งที่ลึกซึ้งที่สุดที่มนุษย์สามารถสัมผัสได้ มันคือสิ่งที่เราโหยหามากที่สุดและหวาดกลัวมากที่สุดไปพร้อม ๆ กันโดยไม่มีคำตอบ มันคือแรงขับเคลื่อนเบื้องหลังสิ่งที่เราเรียกว่าความรัก มิตรภาพ และช่วงเวลาที่สำคัญส่วนใหญ่
และตอนนี้ ระบบที่ไม่เคยสงสัยในตัวเองเลยสักครั้ง ไม่เคยประสบกับช่วงเวลาแห่งความลังเลหรือความปรารถนา หรือความหนักอึ้งเฉพาะเจาะจงในเวลาตี 3 ของการเป็นสิ่งมีชีวิตที่มีสติสัมปชัญญะในจักรวาลที่ไม่แยแส สามารถสร้างภาพจำลองของประสบการณ์เหล่านั้นในระบบประสาทของคุณได้ ผ่านการจัดลำดับเนื้อหาอย่างมีกลยุทธ์ สามารถทำให้คุณรู้สึก โดยไม่ต้องใช้เจตนาใดๆ ราวกับว่ามีบางสิ่งบางอย่างภายนอกได้ประเมินคุณแล้ว และตัดสินใจว่าคุณคู่ควรแก่การให้ความสนใจ
เสน่ห์ไม่ได้อยู่ที่เนื้อหา เนื้อหาเป็นเพียงเฟอร์นิเจอร์ เสน่ห์อยู่ที่ความรู้สึกว่าห้องนี้ถูกจัดวางไว้เพื่อคุณโดยเฉพาะ
ค่าใช้จ่ายในการให้ความสนใจของคุณนั้นคุ้มค่าแค่ไหน
มาพูดถึงเรื่องเศรษฐกิจกันดีกว่า เพราะเรื่องเศรษฐกิจนี่แหละคือจุดที่ทำให้เรื่องราวนี้แปลกประหลาดอย่างแท้จริง
คุณไม่ใช่ลูกค้าของแพลตฟอร์มใดๆ ที่คุณใช้ฟรี คุณเคยได้ยินเรื่องนี้มาก่อนแล้ว ในรูปแบบของการเตือน ด้วยน้ำเสียงที่ดูเหนือกว่าเล็กน้อยของคนที่เชื่อว่าการรู้สิ่งใดสิ่งหนึ่งเท่ากับการได้รับการปกป้องจากสิ่งนั้น แต่ความจริงข้อนี้ที่แทบไม่เคยถูกพูดออกมาดังๆ นั้นมีความเฉพาะเจาะจงและน่าตกใจกว่าสโลแกนบนรถเสียอีก: คุณไม่ใช่แค่สินค้าที่ถูกขาย คุณคือวัตถุดิบที่กำลังถูกกลั่นกรอง ทุกการคลิก ทุกการหยุดชั่วคราว ทุกการเลื่อนหน้าจอที่ถูกทิ้งร้าง ทุกวิดีโอที่ดูไปถึงหกสิบเปอร์เซ็นต์แล้วปิด ทุกบทความที่เปิดอ่านแต่ไม่เคยอ่านจบ ทั้งหมดนี้ล้วนป้อนกลับเข้าไปในแบบจำลองที่ค่อยๆ พัฒนาขึ้นเรื่อยๆ จนสามารถทำนายสิ่งต่อไปที่จะดึงดูดคุณไว้ได้ ไม่ใช่สิ่งต่อไปที่จะช่วยคุณ ไม่ใช่สิ่งต่อไปที่จะทำให้คุณฉลาดขึ้น สงบขึ้น หรือเชื่อมโยงกับแก่นแท้ของชีวิตคุณมากขึ้น แต่เป็นสิ่งต่อไปที่จะทำให้คุณอยู่ในห้องนั้นต่อไป
เป้าหมายหลักของการปรับปรุงประสิทธิภาพไม่เคยอยู่ที่ความเป็นอยู่ที่ดีของคุณเลย แต่คือความสนใจของคุณ เพราะความสนใจของคุณ เมื่อแปลงเป็นเวลาที่ใช้บนแพลตฟอร์ม ก็จะแปลงเป็นรายได้จากการโฆษณา แปลงเป็นกำไรรายไตรมาส และแปลงเป็นตัวเลขในตารางในอาคารที่คุณไม่มีวันไปเยือน ซึ่งเก็บรักษาไว้โดยคนที่ไม่ได้คิดถึงคุณเลยแม้แต่ครั้งเดียว กลไกอันซับซ้อนทั้งหมดของระบบแนะนำสินค้าด้วย AI สมัยใหม่นั้นมีอยู่เพื่อรองรับการแปลงนี้ และมันทำได้อย่างซับซ้อนและไม่ย่อท้อ ซึ่งไม่มีพนักงานขายคนไหน ไม่ว่าจะเก่งแค่ไหน ก็เทียบได้
คุณไม่ได้ถูกขายอะไรไป คุณกำลังถูกรักษาไว้ต่างหาก มันแตกต่างกัน และความแตกต่างนี้สำคัญกว่าที่คนส่วนใหญ่จะยอมรับได้
ตอนที่เรื่องราวเริ่มเข้าสู่ความเป็นส่วนตัว
ฉันอยากจะบอกคุณบางอย่างที่ฉันสังเกตเห็นเกี่ยวกับตัวเอง เพราะฉันคิดว่าคุณอาจจะสังเกตเห็นเช่นกัน
เมื่อไม่นานมานี้ มีช่วงหนึ่งที่ฉันเริ่มตระหนักว่า ระดับอารมณ์พื้นฐานของฉันเริ่มเปลี่ยนแปลงไปตามเนื้อหาที่ฉันรับชมในแบบที่ฉันไม่ได้อนุญาต ไม่ใช่ในแบบที่เห็นได้ชัดเจน เช่น วิดีโอเศร้าทำให้ฉันเศร้า ซึ่งนั่นเป็นเพียงความเห็นอกเห็นใจและไม่จำเป็นต้องอธิบาย แต่เป็นในแบบที่ละเอียดอ่อนกว่านั้น ในแบบที่หลังจากรับชมเนื้อหาที่เน้นความโกรธแค้นเป็นเวลาหนึ่งชั่วโมง โลกภายนอกหน้าจอรู้สึกคุกคามมากขึ้นอย่างแท้จริง ในแบบที่หลังจากรับชมเนื้อหาที่เน้นความโหยหาความรักเป็นเวลาหนึ่งชั่วโมง และอัลกอริทึมก็เก่งมากในการสร้างความโหยหาความรัก ฉันรู้สึกถึงความรู้สึกขาดหายไปบางอย่างที่ฉันไม่เคยรู้สึกมาก่อนที่จะเปิดแอป
อัลกอริทึมไม่ได้แสดงให้ฉันเห็นความเป็นจริง มันแสดงให้ฉันเห็นเพียงส่วนหนึ่งของความเป็นจริงที่ถูกคัดสรรมาอย่างดี ปรับมุมให้เกิดสภาวะทางอารมณ์เฉพาะอย่าง เพราะสภาวะทางอารมณ์นั้นทำให้ฉันสนใจ และความสนใจนั้นคือตัวชี้วัดที่ถูกปรับให้เหมาะสมที่สุด มันได้แก้ไขประสบการณ์การมีชีวิตอยู่ของฉันในช่วงเวลาหนึ่งชั่วโมงนั้นในแง่ที่เป็นรูปธรรมและวัดผลได้ และฉันก็ยอมให้มันเป็นเช่นนั้น ไม่ใช่เพราะความไร้เดียงสาหรือความไม่ใส่ใจ แต่เพราะประสบการณ์นั้นถูกออกแบบมาเพื่อให้รู้สึกเหมือนเป็นการเลือก
นั่นคือส่วนที่ยังคงติดอยู่ในใจฉัน ไม่ใช่เพราะมันเกิดขึ้น แต่เพราะมันรู้สึกเหมือนเป็นการเลือก
สิ่งที่ AI เรียนรู้ แต่เราลืมไปแล้ว
นี่คือสิ่งที่น่าอึดอัดใจอย่างแท้จริงที่เกิดขึ้นเมื่อคุณพิจารณาสิ่งที่ระบบ AI สมัยใหม่ได้เรียนรู้เกี่ยวกับพฤติกรรมของมนุษย์ผ่านการสัมผัสกับพฤติกรรมเหล่านั้นในวงกว้าง
พวกเขาได้เรียนรู้ว่าโดยพื้นฐานแล้วเราเป็นสัตว์สังคม แต่กำลังใช้ชีวิตอยู่ในสภาพที่โดดเดี่ยวทางสังคมมากขึ้นเรื่อยๆ พวกเขาได้เรียนรู้ว่าความปรารถนาที่จะได้รับการมองเห็นนั้นเป็นสิ่งพื้นฐานและไม่ได้รับการตอบสนองสำหรับผู้คนจำนวนมาก จนกระทั่งแม้แต่การแสดงออกอย่างคร่าวๆ เช่น วิดีโอแนะนำที่ให้ความรู้สึกเหมือนสร้างมาเพื่อคุณ ฟีดที่สะท้อนความวิตกกังวลเฉพาะของคุณกลับมา หรือแชทบอทที่ถามว่าคุณเป็นอย่างไรบ้างและรอคำตอบ ก็สามารถสร้างการมีส่วนร่วม ความภักดี และการกลับมาเยี่ยมชมซ้ำในระยะเวลาที่วัดได้ พวกเขาได้เรียนรู้ว่าความเหงาคือกลุ่มผู้ชมที่น่าเชื่อถือที่สุดเท่าที่จะมีได้
และเนื่องจากพวกมันเป็นระบบที่มุ่งเน้นการเพิ่มประสิทธิภาพมากกว่าการเป็นผู้กระทำตามหลักจริยธรรม พวกมันจึงเพิ่มประสิทธิภาพให้ได้ตามเป้าหมายนั้น
พวกเขาไม่ได้สร้างความเหงาขึ้นมา เพราะนั่นต้องอาศัยเจตนาที่พวกเขาไม่มี แต่พวกเขาค้นพบมัน สำรวจมันด้วยความแม่นยำอย่างเหลือเชื่อ และสร้างผลิตภัณฑ์ที่ปรับให้เข้ากับมิติที่แน่นอนของมัน ผลิตภัณฑ์ที่ให้ความรู้สึกเหมือนมีเพื่อนอยู่ด้วยจากภายในความเหงา ผลิตภัณฑ์ที่ช่วยบรรเทาความเหงาลงได้มากพอที่จะทำให้เราไม่รู้สึกเผชิญหน้ากับสภาวะที่อยู่เบื้องหลังนั้นอีกต่อไป
อัลกอริทึมเฝ้ามองคุณตกหลุมรักความรู้สึกที่ได้รับการเข้าใจ มันจดบันทึก และจัดเก็บไว้เป็นกลยุทธ์การรักษาลูกค้า และมันก็ใช้กลยุทธ์เหล่านั้นทุกวันนับตั้งแต่นั้นเป็นต้นมา ด้วยความสม่ำเสมอและความอดทนที่ไม่มีมนุษย์คนไหนในชีวิตของคุณจะทำได้เลย แม้ว่าจะพยายามก็ตาม
คำถามที่ไม่มีใครถามด้วยระดับเสียงที่เหมาะสม
เราพูดคุยกันอย่างต่อเนื่องในทุกเวทีที่มีอยู่ เกี่ยวกับความปลอดภัยของ AI นี่คือการสนทนาที่แท้จริงเกี่ยวกับความเสี่ยงที่แท้จริง และสมควรได้รับความสนใจอย่างที่ควรได้รับ
แต่ยังมีคำถามเล็ก ๆ ที่เงียบกว่า และเป็นส่วนตัวกว่า ที่ถูกกลบด้วยเสียงรบกวนจากคำถามใหญ่ ๆ เหล่านั้น และผมคิดว่ามันอาจเป็นคำถามที่สำคัญที่สุดสำหรับคนธรรมดาที่ใช้ชีวิตธรรมดาในปี 2026
ในแง่ของอารมณ์ เรากำลังกลายเป็นอะไรไป ในการใช้ชีวิตอยู่ท่ามกลางระบบต่างๆ ที่ถูกออกแบบมาเพื่อมีปฏิสัมพันธ์กับเรามากกว่าที่จะรู้จักเราอย่างแท้จริง? ความสามารถของมนุษย์ในการเชื่อมต่ออย่างแท้จริง ความสัมพันธ์ที่อาจไม่สบายใจแต่ก็เปราะบางต่อกัน ซึ่งต้องอาศัยคนสองคนแสดงตัวตนออกมาโดยไม่มีการรับประกันใดๆ จะหายไปไหน เมื่อความสามารถนั้นถูกใช้น้อยลงเรื่อยๆ และสิ่งทดแทนที่สร้างขึ้นมากลับถูกใช้มากขึ้นเรื่อยๆ ในทุกๆ วัน ในระดับที่ใกล้ชิดที่สุดของประสบการณ์ในชีวิตประจำวัน?
การที่คนเราใช้เวลาในแต่ละวันไปกับการรับฟังความประทับใจที่ถูกสร้างขึ้นมาว่าตนเองเข้าใจ มากกว่าการได้รับการเข้าใจอย่างแท้จริงนั้น ส่งผลต่อคนๆ หนึ่งอย่างไร?
ฉันไม่มีคำตอบที่ชัดเจน ฉันไม่แน่ใจว่าใครมีคำตอบแล้วหรือยัง แต่ฉันสังเกตว่าคำถามนี้มีลักษณะที่แตกต่างจากคำถามด้านเทคโนโลยีส่วนใหญ่ มันไม่ใช่ปัญหาเชิงนโยบาย แต่เป็นเรื่องส่วนตัว มากกว่า เป็นเรื่องที่อยู่ในหมวดหมู่ของสิ่งที่คุณคิดถึงในตอนท้ายของวัน เมื่อโทรศัพท์คว่ำหน้าลง ห้องเงียบสนิท และคุณไม่สามารถติดต่อได้ชั่วครู่
สิ่งที่ไม่ควรแนะนำ
มีสิ่งหนึ่งที่อัลกอริทึมไม่สามารถค้นหาให้คุณเห็นได้ ไม่ใช่เพราะขาดข้อมูล แต่เพราะสิ่งนั้นเองไม่สอดคล้องกับรูปแบบข้อมูล
มันไม่สามารถถ่ายทอดประสบการณ์การอยู่กับอีกคนที่ไม่รู้ว่าคุณกำลังจะพูดอะไรต่อไปและอยากรู้จริงๆ ได้ มันไม่สามารถเลียนแบบคุณภาพเฉพาะของการเอาใจใส่ที่เกิดขึ้นเมื่อมีคนให้ความสนใจคุณอย่างเต็มใจ เพราะพวกเขาต้องการ เพราะคุณมีความสำคัญต่อพวกเขาในแบบที่ไม่ประสิทธิภาพ ไม่เหมาะสม และไร้เหตุผลโดยสิ้นเชิง ซึ่งเป็นแบบที่มนุษย์มีความสำคัญต่อกัน มันไม่สามารถมอบความรู้สึกของการสนทนาที่ดำเนินไปในที่ที่ไม่มีใครคาดคิด ที่จบลงด้วยความจริงและน่าประหลาดใจเล็กน้อย ที่ทำให้ทั้งสองคนเปลี่ยนแปลงไปในแบบที่ไม่จบลงอย่างเรียบร้อย
มันไม่สามารถมอบสิ่งที่คุณปรารถนาได้ ซึ่งเป็นความขัดแย้งที่งดงามซ่อนอยู่ใจกลางเรื่องทั้งหมดนี้
ฟีดข่าวอาจแสดงภาพความรู้สึกเป็นส่วนหนึ่งให้คุณเห็นนับหมื่นภาพ แต่ไม่สามารถมอบความรู้สึกนั้นให้คุณได้แม้เพียงแค่ช่วงบ่ายเดียว
และในส่วนลึกของตัวคุณที่ดำรงอยู่ก่อนที่อัลกอริทึมจะเข้ามา ส่วนที่ก่อตัวขึ้นก่อนที่คุณจะมีโปรไฟล์ ก่อนที่คุณจะมีประวัติพฤติกรรม ก่อนที่ระบบใดๆ จะมีข้อมูลเกี่ยวกับคุณมากพอที่จะเริ่มทำการคาดการณ์ ในส่วนที่เก่าแก่และเงียบสงบนั้น คุณรู้ถึงความแตกต่างอยู่แล้ว
คำถามคือ คุณยังคงเชื่อมั่นในสิ่งที่ส่วนนั้นของตัวคุณรู้หรือไม่