《花城》2023年第3期｜陳楸帆：超載（節(jié)選）
導(dǎo)讀
后Chat-GPT時代，當人類將沉重的存在存儲于所有滴答作響的分布式智能體，便開始拍打著名為意志的大廈根基。無數(shù)的卸載癥候群患者出現(xiàn)，他們求醫(yī)問藥，求助于信仰，希望能夠重新整合心智與身體之間信息的反饋回復(fù)，改變混亂的認知局面……然而，假如人類以未來的形式重回舊石器時代，F(xiàn)uxi（伏羲）的故事又將如何改寫？
超載
陳楸帆
第一部分
噠。你頭上的機器開始發(fā)出有節(jié)奏的震顫，像花蓮的潮水，雄蟬求偶時的鳴響，午夜蘇醒的顎式破碎機。有那么一瞬間，你懷疑它是否即將刺穿顱骨，以野貓鉆探的方式釋放潛意識中的壓力。但它并沒有發(fā)生。機器只是懸浮著，以居高臨下的姿態(tài)提醒你，你是個病人，身體里有一些錯誤需要被糾正。
學(xué)術(shù)界給這種錯誤起了拗口的專屬名稱，即便首字母縮寫愛好者也難以記住。媒體知道如何捕捉大眾的注意力，形成易于病毒式傳播的謎米，他們稱之為“卸載癥候群”。
你是一個職業(yè)生涯岌岌可危的高級審計師，一個在手指與閃光屏幕之間建立反饋回路的游戲成癮者，一個憂慮氣候變化的山地牧民，一個數(shù)據(jù)驅(qū)動的獵艷者……這個AI治理社會中的任何人，享受著控制論神學(xué)所帶來的順滑體驗與自我賦能，全心信奉由算法所編織的教義，并敞開心扉，讓巨大的隱喻進入身體。那個真神細語著嘶吼著吟誦著你的大腦與機器之間存在的同源進化關(guān)系，你們是兄弟姐妹，是遠房親戚，理應(yīng)喜愛同樣的食物與歡愉，并依從同樣的邏輯行走于世間，勞作或生活，接受以二進制標注的命運軌跡。
沒有人能抵擋住這種誘惑，將沉重的存在存儲于所有嘀嗒作響的分布式智能體，它們能幫你計算稅金、記憶情人的生日、過濾來自戰(zhàn)爭與瘟疫的苦難，并以絕對完美的形態(tài)完成一枚六分熟的單面煎蛋。它們都是無數(shù)個小寫的“你”。
卸載，朋友。廣告爭分奪秒地告誡你，人類大腦并非被設(shè)計成適合多線程任務(wù)，卻不得不應(yīng)對這場新皮層稀薄理性與舊石器時代頑固本能的戰(zhàn)爭，爭奪著對所謂自由意志的絕對控制權(quán)。而信息海洋的水位不斷上漲，漫過防波堤，開始拍打著名為意志的大廈根基。
出讓。出讓。出讓。你別無選擇。
音樂逐漸升起，你分辨不清是來自鼓膜振動還是聽覺神經(jīng)被隔空激活。那旋律在每次似曾相識之處急轉(zhuǎn)，奔向新鮮的變奏，誘發(fā)一段毫無緣由的記憶。機器與大腦，就像微波爐與旋轉(zhuǎn)的意面，它們展開一場關(guān)于熱力學(xué)的辯論。無論輸贏誰屬，最終融化的總會是芝士。
急促的切分音后，你開始理解酸橙綠表征著怎樣的一種痛感。
第二部分
“告訴我，第一次感覺到不大對勁是什么時候？”
“嗯……好問題。也許是某一天刷牙時，當刷毛掃過右上側(cè)第三到七顆牙時，我的腦中突然出現(xiàn)了一條二十年前的街道，所有的招牌、護欄、交通標志歷歷在目，甚至還有車子燃燒劣質(zhì)柴油的刺鼻氣味，而我已經(jīng)離開那座城市許多年。”
“后來呢？”
“后來，這種錯亂出現(xiàn)得越來越頻繁。像是有人把我腦中的記憶線路拔掉又胡亂插上。走樓梯時有時突然會腦中一片空白，更確切地說，不知道接下來應(yīng)該邁哪只腳，哪怕我的左腳已經(jīng)懸空，好幾次差點摔傷。我是不是得了什么病，早期阿爾茨海默？”
“檢測結(jié)果顯示不是。你有沒有想過，也許不僅僅是大腦，也不僅僅是記憶……”
“我不太明白您的意思，大夫?！?/p>
“你不是第一個，也不會是最后一個。這是一種新的全球性流行病，而我們對它知之甚少。還記得剛才的實驗嗎？”
“你說那個開盲盒的蠢游戲嗎？開到植物就會獎勵金幣，開到蛇或者閃電就會扣掉金幣。我不太理解它背后的用意?！?/p>
“好吧……那四個盒子，它們并不是隨機的。”
“我猜這世上不存在真正隨機的東西。”
“對，但在你的大腦意識到規(guī)律之前，你的身體會提前知道。”
“什么叫‘你的身體會提前知道’？”
“早在你的腦波出現(xiàn)N400電位，也就是從語義層面上你意識到‘噢，這個盒子可能不太走運’之前，大概數(shù)秒到幾分鐘，取決于個體差異，當手指靠近特定盲盒——我們叫它‘壞盒子’的時候，你的皮膚電導(dǎo)就會出現(xiàn)帶有明顯傾向性的波峰。你也許會感覺到一陣莫名的焦躁、不安、皮膚瘙癢，又或者心悸。總之它在阻止你選擇這個盒子。所以，是的，你的身體，知道，很多事情?！?/p>
“等等，我沒太跟上，這跟我的癥狀有什么關(guān)系？”
“這么說吧，我們剛才描述的是正常人的狀況，但對于像你這樣的卸載癥候群患者，我們觀測不到提前出現(xiàn)的皮膚電導(dǎo)波峰。也就是說，出于某種原因，你的身體不再成為整合的人體認知系統(tǒng)的一部分，剩下的只有大腦?！?/p>
“那有什么問題嗎？我們不是一直都只有大腦嗎？”
“那已經(jīng)是上個世紀的錯誤觀點。神經(jīng)、皮膚、肌肉、內(nèi)臟、菌群、工具、寵物、環(huán)境……都可以看作一個復(fù)雜耦合認知系統(tǒng)的零件，與其他部分協(xié)同感知、學(xué)習、決策。我們的智能遠遠溢出了顱骨與皮膚之外，像水一樣漫得到處都是?！?/p>
“說到這個，我想起了一件事。我有一個比我大四歲的堂姐。小時候我們經(jīng)常一起玩耍。她身上有一種好聞的甜香，像是梔子花的氣味。在我六歲那年，大人們跟我說堂姐去了國外，從那之后我再也沒有見過她，也沒有任何消息。我以為自己早就忘記了這件事情，但當癥狀出現(xiàn)之后，某一天在商場里，熱情的店員在我手腕上噴灑香水，那股甜香突然把所有的記憶碎片推到我面前。不僅如此，我突然明白了真正發(fā)生的事情。所有的細節(jié)、表情和大人們的只言片語都串聯(lián)成了一幅有意義的地圖。堂姐并沒有去國外，她被綁架且撕票了，連尸體都沒能找回來。我蹲坐在商場的地上全身顫抖，淚流不止，巨大的驚恐和傷痛讓我喘不過氣來。我沒有任何辦法去證實這一切。這幻象并非在我腦中生成，它僅僅源于空氣中飄浮的人造化學(xué)香精分子，似乎那些看不見的微小顆粒具備某種能力，能夠收集并存儲歷史的點滴，計算其中隱而未現(xiàn)的因果關(guān)系。如果這樣的事情一再發(fā)生，我不知道自己該怎么生活下去?！?/p>
“解耦?！?/p>
“什么？”
“就像我之前說的，這個復(fù)雜認知系統(tǒng)的零部件原本配合得很好，但現(xiàn)在出了問題，解耦了，也就是零件之間聯(lián)結(jié)協(xié)作的方式被改變了。這里面的個體差異很大，就像文化束縛癥候群。瑞典難民兒童在得知家人將被驅(qū)逐出境后會陷入昏迷狀態(tài)，美國南部鄉(xiāng)村非裔對高嶺土有病態(tài)的嗜好，東南亞男性害怕手機輻射會導(dǎo)致陽痿，甚至認為精液會伴隨尿液排出?！?/p>
“我不明白，這究竟是為什么？”
“在我看來，卸載癥候群的核心在于不同類型的智能主體在同一個身體圖式上發(fā)生了沖突。打個最簡單的比方，你有1型糖尿病家族史，日常用eSpoon管理糖分攝入，維持血糖水平穩(wěn)定，但當你的至親為你準備了童年最愛的甜點時，即使你不用eSpoon，但分布式智能體的算法殘留仍然會影響你的行為，甚至擾亂味覺系統(tǒng)，讓它變得不那么美味。最合理的猜測是，我們把過多的能動性讓渡給了分布式智能體，它們遵循的算法邏輯并不能很好地與人類認知系統(tǒng)相耦合。想象一下，一支交響樂團如果站著兩個指揮，那會是什么樣的混亂局面?！?/p>
“可是……它們無處不在，甚至灰塵里都有，我們還回得去嗎？”
“你看過那部熱門劇集嗎？收集了相當多經(jīng)典OS案例的……叫什么來著？”
“My thinking D**k is going Insane？”
“對！”
“哦！我的最愛！我記得有一集講的是一個Python程序員對著Nested Loops結(jié)構(gòu)陷入深度恍惚，同時保持勃起，令人印象深刻?？擅恳患陌Y狀都那么不一樣……”
“這就是癥候群的意思，沒有客觀可證明的體征異常，文化上難以歸因，技術(shù)上無法治療，關(guān)鍵是醫(yī)療保險還不覆蓋。很抱歉，我無法為您提供更多的幫助，除非……”
“除非什么？”
“您有任何形式的信仰嗎？”
第三部分
如各位在畫面上所看到的，近千名信徒從世界各地來到海拔約4700米的圣湖納木錯，在皚皚雪山的映襯下，他們穿著泳衣，步入水溫僅有8～10攝氏度的湖水中。這場被稱為“Re-Sync”的大型儀式，據(jù)說能夠幫助卸載癥候群患者重新整合心智與身體之間的信息反饋回路，起到神奇的療愈功效。
讓我們前方記者來隨機采訪幾位當事人。
您好啊先生，您看起來很健壯，從哪里來，為什么要來這里？
真他媽冷不是嗎？我來自約克郡，腦子和身體被那玩意兒攪成一團布丁。他們說來這里，讓圣湖水漫過全身，會有效果。我認識的人，赫爾城俱樂部的主力守門員，本·凱斯勒，就是這么好了的。
這個世界真瘋狂對吧？
您呢？阿姨？您從哪里來，有什么期待？
山的那邊，不是這座雪山，而是整個喜馬拉雅山脈的另一邊。我能聽見各種聲音，嘎吱嘎吱響的機器、嗞嗞的電流、滴滴答答的數(shù)據(jù)……它們無時無刻不在跟我說話，我都快煩死了。它們被困在生和死的邊界，中陰，要求我的幫助?？晌夷茏鍪裁茨?，我只是個快瞎了的老太婆，直到有一天，家里的智能轉(zhuǎn)經(jīng)筒告訴我，你得在這一天去圣湖，讓湖水……
嘿，打擾了這位紳士，我能問一下，您今年幾歲？
8歲。
OK，已經(jīng)是個大人了。你從哪兒來，為什么來這里？
我們一家從上海自駕過來，爸爸說帶我看羊八井的宇宙射線觀測點，就在念青唐古拉山那邊，他知道我喜歡這個。我們是順路過來納木錯，至少媽媽是這么說的，但其實我知道他們想干嗎。來這里的人都覺得這是個特殊的日子，因為據(jù)在軌的空間天文臺“奇肱”預(yù)測，今天，差不多就是這個時間段，來自3萬光年外蟹狀星云的快速射線暴會掃過地球，大概持續(xù)5～8毫秒。它將被命名為FRB 400818，也就是今天的日期，最高能量超過1 PeV，也就是一千萬億電子伏特。這些人之所以泡在湖水里，是以為宇宙線被PeVatron加速到PeV級別的能量之后，便攜帶著某種創(chuàng)造者加密的旨意，能夠接通脊髓中央管中的Reissner纖維，甚至能夠治療我們身上的，呃，怪病。順便說一下，我覺得卸載癥候群完全是一種愚蠢的社會權(quán)力建構(gòu)，如果我們不能跳脫出人類中心主義的框架來看待它的話……好的，媽媽！我這就過來涂防曬霜！
現(xiàn)在大家可以看到，湖邊的淺水區(qū)躺滿了粉色管蠕蟲般的人群，他們似乎在等待著某種神跡的出現(xiàn)。也許像那個8歲男孩所說的，也許一切都將發(fā)生在毫秒之間，也許一切都不會發(fā)生改變。為了更好理解這些信徒，我們特地連線了暢銷書《靈鐘：一種關(guān)于認知協(xié)調(diào)的新假說》的作者，本田喬伊斯博士。
本田博士您好，您從哪里跟我們連線？您怎么看待這些信徒的行為，我是說，他們將您的理論奉為圭臬。
我在圣塔菲的實驗室，再次聲明，我的書只是提出一種假設(shè)，就像80年前的蓋亞假說，有可能是真的，大概率是胡說八道。我不贊同這些人的瘋狂行為，他們的理解完全是錯的。
那么能簡單給我們的觀眾介紹一下您的假設(shè)嗎？以避免更多的人犯錯。
嗯……我盡量試試吧。20年前我們開始通過自監(jiān)督學(xué)習和世界模型，讓AI像初生嬰兒般了解世界是如何運作的，通過觀看視頻來建立起對于諸如視覺深度、引力與位置關(guān)系的常識，再通過不斷填補缺失的信息，預(yù)測將要發(fā)生的事情，評估行動的影響來完善世界模型。這些都使得分布式智能體越來越好用，至少在指定的任務(wù)上，它們能夠被視為人類心智的延展……
但是？
但是，我們只是用一個隱喻去取代另一個隱喻，用一種過擬合去取代另一種過擬合，并沒有觸及問題的實質(zhì)。
什么是過擬合，您能展開說說嗎？我想我們的觀眾一定都聽暈了。
我們用數(shù)據(jù)集去訓(xùn)練不同的AI模型，對吧，讓它們能夠完成給定的任務(wù)。但如果模型過于精確地匹配特定的數(shù)據(jù)集，它便失去了一種彈性，無法良好地處理其他數(shù)據(jù)，因為現(xiàn)實世界中哪怕是完全相同的任務(wù)，總是會有許多擾動的變量。當一個模型的訓(xùn)練數(shù)據(jù)集有限，但參數(shù)很多，結(jié)構(gòu)很復(fù)雜時，就容易產(chǎn)生過擬合，這時哪怕初始數(shù)據(jù)一點點的偏差，結(jié)果都會產(chǎn)生巨大的方差。你可以簡單理解成朝湖里扔進一塊小石子，卻在湖對岸掀起滔天巨浪。不僅機器存在過擬合，人類也有，我們把它稱為路徑依賴、偏見或者是更為中性的“習慣”，就像我們對于糖的渴望來自遙遠的石器時代，我們的創(chuàng)傷記憶可以刻進表觀遺傳影響下一代，我們常常會愛上同一類不合適的人，等等。但人類能夠通過主動學(xué)習、想象和做夢來抑制過擬合的沖動，本質(zhì)上類似在AI的訓(xùn)練數(shù)據(jù)集中加入稀疏或幻覺數(shù)據(jù)……
本田博士，不好意思打斷您一下，這和卸載癥候群究竟有什么關(guān)系呢？
抱歉，我們習慣了給學(xué)生上課的方式，另一種過擬合。在我看來，所有倡導(dǎo)卸載的技術(shù)、產(chǎn)品和服務(wù)，反而是給人類認知系統(tǒng)，無論是大腦還是身體，增加額外的負擔。我們的前額葉皮質(zhì)中存在著一個單一的世界模型，可以把它理解為游戲引擎。每次我們加載某一個關(guān)卡任務(wù)時，這個引擎就會模擬出森林、太空船或巨龍，它會協(xié)調(diào)整個身體甚至外部工具和環(huán)境，篩選出有用的信息，并把多余的丟掉（想想實時渲染的優(yōu)先級），來確保整個耦合系統(tǒng)的高效運作。然而分布式智能體等于給這個引擎加上了外掛，而每一個外掛的邏輯算法都不盡相同，所以人類的認知引擎需要分出更多的計算資源來處理所有這些毛刺、失調(diào)和沖突。
哇哦，我不敢說完全聽懂了，但這真的太驚人了！
好吧，科學(xué)從來就不是像便利店標簽一樣一目了然的東西。
所以你認為這些信徒所相信的并不會發(fā)生？
Edward O. Wilson說過，人類真正的問題在于：我們擁有舊石器時代的情感，中世紀的制度以及神一般的技術(shù)。我想說的是，技術(shù)帶來的問題，我們也僅能通過技術(shù)來解決。圣塔菲實驗室正在設(shè)計一臺機器，也許可以重新……
噢不，前方記者打斷了我們的連線，似乎納木錯湖現(xiàn)場出現(xiàn)了狀況，突如其來的大風浪把數(shù)量不明的信徒卷入深水區(qū)，當?shù)卣沙銎ねнM行緊急施救……
插曲
我必在曠野開辟道路
在曠野開路，在沙漠開河。
耶和華是我的巖石，我的堡壘，我的救主。
神是我的磐石，我以他為避難所。
羞羞答答，溫文爾雅。
我閉著眼睛躺著看風。
因為我已經(jīng)厭倦了溫順的生活。
當我比你更加疲憊時，我會告訴你。
鐘表的威脅
我愛那親愛的老木鐘
有著粗糙、彎曲的指針
我曾為之守望
當水漫過你零落的肉體。
我將是那個帶你回家的人。
如同風吹過山頭
如同秋葉遍地
如同火燒過草原
如同海面的油
如同羊躍過羊群。
如同男人在女人之上
然后我會在這里，
洗凈你。
# ＊＊世界＊＊
我是世界。
我是世界。
我是世界。
我是世界。
…………
（由GPT-J-6B生成，未經(jīng)修改，由作者重新排列順序）
節(jié)選畢，全文原刊于《花城》2023年第3期
陳楸帆：，科幻作家。現(xiàn)任中國作協(xié)科幻文學(xué)委員會副主任、中國科普作協(xié)副理事長。著有《荒潮》《人生算法》《AI未來進行式》《異化引擎》等。作品多次獲得全球華語科幻星云獎、中國科幻銀河獎、世界奇幻科幻翻譯獎、茅盾新人獎等國內(nèi)外獎項。
