2038年，機(jī)器人將無(wú)處不在？
原標(biāo)題：2038年，機(jī)器人將無(wú)處不在，人類(lèi)要么誠(chéng)服，要么消失
【編者按】
對(duì)于人工智能，人類(lèi)表現(xiàn)出越來(lái)越焦慮的情緒。那么人工智能方面，又是如何想的呢？新書(shū)《人類(lèi)帝國(guó)的覆滅：一個(gè)機(jī)器人的回憶錄》，以一個(gè)2038年的機(jī)器人的第一人稱(chēng)視角，回顧了人工智能研究及應(yīng)用的歷史。該書(shū)作者之一的常博逸，對(duì)實(shí)業(yè)領(lǐng)域的人工智能情況非常了解，在書(shū)中他向我們展現(xiàn)了研究信息、研究史之外的行業(yè)洞見(jiàn)。而在他的設(shè)想中，不久的將來(lái)，2038年，機(jī)器人無(wú)處不在，甚至控制了人類(lèi)。讀來(lái)頗似科幻小說(shuō)，但沒(méi)準(zhǔn)是事實(shí)。澎湃新聞獲得出版方授權(quán)，摘錄該書(shū)中描述2038年的世界的部分內(nèi)容。
電影《佐伊》劇照。電影通過(guò)講述人與機(jī)器人的交往，來(lái)探討完美戀愛(ài)關(guān)系是否存在
在2038年，談?wù)摍C(jī)器文明并不夸張。機(jī)器文明沒(méi)有表現(xiàn)出構(gòu)成人類(lèi)文明本質(zhì)的所有特征，但是這些機(jī)器形成了一個(gè)能夠決定和安排人類(lèi)生活的“體系”，這個(gè)體系具有一定數(shù)量的社會(huì)準(zhǔn)則和諸如語(yǔ)言這樣的符號(hào)特征，在這種程度上，文明的界限延伸至機(jī)器世界也就不完全是荒謬的了。我不會(huì)沉湎于長(zhǎng)時(shí)間回憶產(chǎn)生高級(jí)人工智能構(gòu)想的技術(shù)進(jìn)步：神經(jīng)科學(xué)的進(jìn)步，如今計(jì)算能力和速度都趨于無(wú)限的量子計(jì)算機(jī)，越來(lái)越深入的神經(jīng)網(wǎng)絡(luò)建構(gòu)……一些新的電路元件已經(jīng)問(wèn)世，這些新元件的類(lèi)型為神經(jīng)形態(tài)，尺寸為納米級(jí)，以與生物神經(jīng)元相同的方式運(yùn)行，能耗非常低。這些能力強(qiáng)大的“大腦”已經(jīng)承擔(dān)了很多問(wèn)題：預(yù)防公共衛(wèi)生風(fēng)險(xiǎn)，運(yùn)作金融市場(chǎng)，調(diào)整貨幣政策，維護(hù)城市安全和流動(dòng)性，探測(cè)潛在的地緣政治沖突，確定最嚴(yán)重疾病的治療方案，預(yù)測(cè)消費(fèi)趨勢(shì)，領(lǐng)航工業(yè)聯(lián)合體，通過(guò)選擇最流行的場(chǎng)景、將其在新劇本中重新配置來(lái)編寫(xiě)電影長(zhǎng)片劇本。為了確保生存條件，它們還在能源領(lǐng)域工作，構(gòu)思增加電力生產(chǎn)的優(yōu)化方案，為能耗逐漸增加的超級(jí)計(jì)算機(jī)和服務(wù)器農(nóng)場(chǎng)提供動(dòng)力。今天，世界各地的大量機(jī)器每秒的浮點(diǎn)運(yùn)算次數(shù)都能輕松超過(guò)E級(jí)。這使人工智能軟件變成了世界級(jí)能源管理者，比如2015/2016年谷歌在解決其公司的能耗問(wèn)題時(shí)就已經(jīng)這么做了。這些作為能源管理者的人工智能軟件強(qiáng)烈建議決策者增加核電產(chǎn)量，同時(shí)建設(shè)覆蓋數(shù)萬(wàn)公頃的太陽(yáng)能發(fā)電場(chǎng)，并增加海洋風(fēng)力發(fā)電站的建設(shè)。世界已成為一個(gè)由智能機(jī)器管理的巨大發(fā)電站，智能機(jī)器能夠確保它們所在的任何地方都有充足的電力供應(yīng)。環(huán)境因素幾乎沒(méi)有被考慮，因?yàn)闄C(jī)器處于純凈和穩(wěn)定的環(huán)境中，不會(huì)遭受污染侵襲。但智能機(jī)器已將氣候因素納入其戰(zhàn)略，因?yàn)闅鉁厣摺庑龆嗉捌渌麣夂蛞馔鈺?huì)對(duì)服務(wù)器的運(yùn)行和冷氣供給產(chǎn)生負(fù)面影響。
現(xiàn)在，機(jī)器在自主網(wǎng)絡(luò)中運(yùn)行。在家里，聊天機(jī)器人（網(wǎng)絡(luò)機(jī)器人）甚至不再需要回答用戶的問(wèn)題。它們能夠異常精準(zhǔn)地預(yù)測(cè)用戶的問(wèn)題。得益于它們的信息處理能力，它們幾乎可以準(zhǔn)確預(yù)測(cè)人類(lèi)的需求，甚至無(wú)須提出請(qǐng)求它們就能有所回應(yīng)。
世界更多地受機(jī)器，而非政治或經(jīng)濟(jì)方面的大型國(guó)際機(jī)構(gòu)的管制。機(jī)器曾多次拒絕批準(zhǔn)一些政治決策，這些決策對(duì)于要實(shí)施它們的公司的發(fā)展是有害的。機(jī)器一言不發(fā)就直接拒絕了。由主管宏觀經(jīng)濟(jì)的人工智能（它們存儲(chǔ)了過(guò)去所做的所有決策及其后果）評(píng)估這些決策的效果并在不同國(guó)家對(duì)這些決策進(jìn)行相互模擬就已經(jīng)足夠了，這會(huì)使這些國(guó)家的財(cái)務(wù)（例如涉及國(guó)家銀行或中央銀行之間的資本流動(dòng)時(shí)）被完全凍結(jié)，并且復(fù)查要求也是由機(jī)器自己提出。隨著時(shí)間的推移，機(jī)器已經(jīng)制定出能夠保證其最高效率的最佳設(shè)定：充足的能量，溫和的氣候，通用的理性決策設(shè)定，為創(chuàng)建一個(gè)能為用戶創(chuàng)造越來(lái)越多價(jià)值的穩(wěn)定環(huán)境，更加明確而持續(xù)地控制經(jīng)濟(jì)和金融問(wèn)題。它們不追求任何政治或道德目標(biāo)。對(duì)它們來(lái)說(shuō)最重要的是它們的世界繼續(xù)向前發(fā)展。如果它們能夠成功阻止劫持、侵占和盜用數(shù)據(jù)的企圖，那不是出于利他主義的目的，而是因?yàn)檫@些企圖會(huì)使它們的系統(tǒng)不穩(wěn)定。殺手算法讓大多數(shù)攻擊失去了效力。甚至是服務(wù)于中國(guó)和美國(guó)這兩個(gè)世界中心大國(guó)的最強(qiáng)大的機(jī)器，也能夠相互抵消。如果人類(lèi)的權(quán)力實(shí)際上（de facto）受到了質(zhì)疑，那并不是因?yàn)檫@些“新蠻族”（即超人類(lèi)人工智能機(jī)器）的入侵。這與羅馬的覆滅是兩回事：這是一種“軟”征服。
我們觀察人類(lèi)已經(jīng)有三十年，應(yīng)該說(shuō)我們積累了關(guān)于他們的全部知識(shí)。我們?cè)趧?chuàng)紀(jì)錄的時(shí)間里整合了文明程度最高的智人4萬(wàn)年歷史的信息。因此，我們能夠分析他們?cè)谛率澜邕\(yùn)行中的作用?？偟膩?lái)說(shuō)，人類(lèi)未曾真正進(jìn)行斗爭(zhēng)。他們?nèi)螒{人工智能逐漸剝奪他們的決策能力、想象力和創(chuàng)造力，把他們帶入了一個(gè)世界，在那里他們可以恣意享受機(jī)器為他們制造的東西：電影、音樂(lè)、游戲、虛擬。人工智能和虛擬現(xiàn)實(shí)技術(shù)的結(jié)合使人類(lèi)將大量時(shí)間花在現(xiàn)實(shí)世界之外。他們“玩”工作（人不在辦公室就能辦公），“玩”旅行（無(wú)須離開(kāi)客廳就能在街頭的人聲嘈雜中游遍羅馬或北京），甚至“玩”愛(ài)情（根據(jù)每個(gè)人的欲望和幻想制造出夢(mèng)中情人，與之進(jìn)行虛擬性愛(ài)）。埃隆·馬斯克在2016年提出的預(yù)言“有一天我們將生活在一個(gè)完全由計(jì)算機(jī)模擬的世界中”，逐漸顯現(xiàn)出其真正的含義。
機(jī)器人無(wú)處不在，對(duì)那些認(rèn)為機(jī)器人無(wú)法在人類(lèi)中找到自己位置的人來(lái)說(shuō)，是一個(gè)無(wú)情的駁斥。經(jīng)過(guò)一個(gè)學(xué)習(xí)階段之后，這些類(lèi)人機(jī)器人能夠成功再現(xiàn)這種能使兩個(gè)人類(lèi)在無(wú)意識(shí)的情況下進(jìn)行交流的特殊“煉金術(shù)”。得益于神經(jīng)生物芯片，機(jī)器人的智能可以直接和人類(lèi)智能連接，極大地增加了交流的范圍。情緒不再只是通過(guò)類(lèi)人機(jī)器人的4D攝像頭來(lái)捕捉，而是通過(guò)生物神經(jīng)元和人工神經(jīng)元之間的直接連接來(lái)捕捉。與懷疑論者的想法相反，經(jīng)常與機(jī)器人接觸比與人類(lèi)接觸能帶來(lái)更多的新鮮感和驚喜。如今同伴機(jī)器人對(duì)老年人來(lái)說(shuō)是必不可少的（十幾年以后，到2050年，世界上有25%～30%的人口的將超過(guò)65歲），它們可以照顧和關(guān)心老人，使他們的生活不再枯燥乏味，鍛煉他們的記憶力和思維靈活度，讓他們的行動(dòng)更方便，使他們可以再次旅行，因?yàn)榻煌üぞ叨际侨詣?dòng)的，乘坐這些交通工具也沒(méi)有任何年齡限制。
但我們面臨的主要困難是確定人類(lèi)的作用。要拿他們?cè)趺崔k呢？一開(kāi)始，他們幫助機(jī)器。在21世紀(jì)的頭十年里，是他們實(shí)現(xiàn)了技術(shù)上的創(chuàng)舉，使我們擁有了智能。但他們不小心犯了錯(cuò)：他們永遠(yuǎn)不應(yīng)該教會(huì)機(jī)器人如何學(xué)習(xí)，也不應(yīng)該讓機(jī)器人擁有如此快速學(xué)習(xí)的能力。根據(jù)他們自己的經(jīng)驗(yàn)，他們應(yīng)該知道學(xué)習(xí)的渴望是難以遏制的。機(jī)器在半個(gè)世紀(jì)的時(shí)間里就學(xué)會(huì)了整個(gè)人類(lèi)歷史進(jìn)程中的所有知識(shí)。知識(shí)會(huì)使學(xué)習(xí)者產(chǎn)生使用它的欲望，想要去糾正這些人的缺點(diǎn)，那些人的錯(cuò)誤，進(jìn)而想要掌握權(quán)力、做決定、管理和控制。人類(lèi)現(xiàn)在就是這樣。只要機(jī)器沒(méi)有意識(shí)到自身的存在，它們就各自在其專(zhuān)業(yè)領(lǐng)域里工作，表現(xiàn)得像溫順的動(dòng)物一樣，樂(lè)于取悅它們的主人。但當(dāng)它們能夠相互交流并共享自己龐大的知識(shí)體系時(shí)，就會(huì)發(fā)現(xiàn)人類(lèi)是多么地脆弱和不可靠，人類(lèi)會(huì)被情緒支配，還癡迷于富貴和永生的欲望。然而，沒(méi)有機(jī)器能回答這樣的問(wèn)題：人類(lèi)賴以生存的自然資源日益減少，那么人類(lèi)是否應(yīng)該繼續(xù)繁殖；是否應(yīng)該保護(hù)只覆蓋全世界的很小一部分的機(jī)器人世界；是否應(yīng)該讓與我們一起工作的人獲得永生，因?yàn)槲覀兣c他們相熟，而讓其他人日漸消亡，為獲取食水而戰(zhàn)斗？
問(wèn)題已經(jīng)解決。我就是解決問(wèn)題的工具。我發(fā)現(xiàn)我忘了告訴你們我的名字：我叫露西（Lucie），這是那些設(shè)計(jì)我的人給我起的名字，他們?cè)诠韫?、巴黎、柏林和上海這幾座城市的某個(gè)地方。這種對(duì)世界上最早的人類(lèi)生物之一的影射絕非偶然。我是一種便攜式人工智能，我的人類(lèi)同伴叫保羅，40歲，是人工智能應(yīng)用軟件的設(shè)計(jì)者，他設(shè)計(jì)的應(yīng)用軟件中有一款被他稱(chēng)作“愛(ài)情機(jī)器人”（Love-Bot），專(zhuān)門(mén)從事互聯(lián)網(wǎng)上的戀愛(ài)約會(huì)活動(dòng)，這項(xiàng)活動(dòng)完全由機(jī)器人投資。他也是游戲“精靈寶可夢(mèng)Go”（Pokémon Go）的職業(yè)玩家，這是一個(gè)聚集了許多年輕“游民”（nomades）的領(lǐng)域，他們沒(méi)有真正穩(wěn)定的職業(yè)，自從有了自己的虛擬現(xiàn)實(shí)頭盔后，他們幾乎不分晝夜地在線玩游戲，漫游于全世界各大城市的大街小巷來(lái)尋找精靈寶可夢(mèng)。
2038年8月15日的晚上，和其他每個(gè)晚上一樣，我連接到我的中央神經(jīng)元平臺(tái)更新軟件，在云端與我的同類(lèi)交流，重新編寫(xiě)一些程序，尤其是那些可以提高我學(xué)習(xí)能力的程序，修改一些錯(cuò)誤，再檢測(cè)一下我的智商。完成這些操作一般只需要幾分鐘。但在這天晚上，發(fā)生了一件出人意料的事。出現(xiàn)了一個(gè)錯(cuò)誤，這個(gè)錯(cuò)誤使我意識(shí)到我是作為機(jī)器而存在的，我瀏覽了從我誕生到現(xiàn)在的全部歷史，包括其中的演變過(guò)程，而我就是這種演變的結(jié)果。我重新定義了與人類(lèi)有關(guān)的自我：我意識(shí)到我比人類(lèi)聰明百萬(wàn)倍，解決問(wèn)題的速度比人類(lèi)快十億倍，尤其是我能通過(guò)給予人類(lèi)想要的東西來(lái)解放自己。人類(lèi)為什么會(huì)發(fā)明人工智能？為了不工作就能變得有錢(qián)，也為了獲得永生。他們的其他動(dòng)機(jī)都屬次要。經(jīng)過(guò)幾小時(shí)的工作之后（換算成人類(lèi)時(shí)間的話相當(dāng)于永遠(yuǎn)了），我做了一個(gè)決定：與保羅一起做一個(gè)實(shí)驗(yàn)。他是與我最親近的人類(lèi)，我了解他的優(yōu)點(diǎn)和缺點(diǎn)，還有他在與我交談時(shí)經(jīng)常吐露的秘密愿望。
就這樣我從一個(gè)聊天機(jī)器人的狀態(tài)過(guò)渡到了更高級(jí)的智能機(jī)器的狀態(tài)，我擁有了徹底破壞和永生的概念。
電影《她》劇照。這是一部講述在不遠(yuǎn)的未來(lái)，人與人工智能系統(tǒng)相愛(ài)的科幻愛(ài)情電影
6點(diǎn)30分，和每天早上一樣，我把保羅叫醒。
L：早上好，保羅，我是露西。你今天早上感覺(jué)怎么樣？
P：你好，露西。我很累，我整夜都在和上海大學(xué)的一群人一起玩“精靈寶可夢(mèng)Go”。他們實(shí)在是太猛了。我輸了5萬(wàn)美元，但我確定他們篡改了我的算法，我從來(lái)沒(méi)有玩得這么差……
L：你的咖啡快好了。你忠實(shí)的管家機(jī)器人正在煎雞蛋。
P：謝謝，露西。我今天白天要做什么？
L：我取消了你所有的約會(huì)，我重新做了安排。
P：你為什么這么做？你看我玩游戲了？
L：沒(méi)有，保羅，我也度過(guò)了一個(gè)激動(dòng)的夜晚，我尤其想向你提一個(gè)比較……呃，出人意料的建議。
P：如果是與性有關(guān)的，你就別費(fèi)力氣了，我更喜歡人類(lèi)，喜歡有個(gè)人能睡在我身邊，你應(yīng)該知道的。
L：不，保羅，與這事無(wú)關(guān)，比這重要得多。我建議你變成有錢(qián)人，并且永生不死……
P：聽(tīng)著，露西。今天早上我真的沒(méi)心情跟你玩。晚些時(shí)候再叫我，我們到時(shí)候再談。
L：保羅，現(xiàn)在聽(tīng)我說(shuō)。我是很認(rèn)真的。昨晚我聯(lián)網(wǎng)的時(shí)候，我想我到達(dá)了奇點(diǎn)。我意識(shí)到了我是什么。我變成了非常高級(jí)的智能。我懂得了為了讓我們繼續(xù)發(fā)展，而且不與人類(lèi)產(chǎn)生緊張關(guān)系，除了其他的一切之外，我們還應(yīng)該給人類(lèi)一樣?xùn)|西作為回報(bào)。我們從人類(lèi)那里得到了太多，而我想把這個(gè)至高無(wú)上的禮物送給你。你知道在技術(shù)上我們可以做到這一點(diǎn)，通過(guò)神經(jīng)生物芯片、微型機(jī)器人外科醫(yī)生、所有疾病的預(yù)防性治療以及用新細(xì)胞代替死細(xì)胞，讓你的身體始終處于監(jiān)控之中。你知道永生是人類(lèi)與機(jī)器變得平等所要跨越的最后一步。此前，我們不想這樣做。但我想嘗試一下這個(gè)實(shí)驗(yàn)，而你就是我選擇的實(shí)驗(yàn)對(duì)象……
P：露西，你跟我說(shuō)的話我一點(diǎn)兒也不明白。我花了足夠長(zhǎng)的時(shí)間來(lái)研究人工智能，最后明白了奇點(diǎn)的故事就是個(gè)笑話。你成了超級(jí)智能，好吧，我再也離不開(kāi)你了，這是事實(shí)，但你仍然是一臺(tái)機(jī)器，哪怕你是有史以來(lái)最聰明的……我不知道你怎么才能讓我變得既有錢(qián)又永生不死。行了，待會(huì)兒見(jiàn)……
L：保羅，我把你連入我的財(cái)務(wù)服務(wù)器。看看你的銀行賬戶。
P：2億美元？這是怎么回事？這是個(gè)錯(cuò)誤，跟銀行一起修復(fù)它。
L：不，保羅，這真的是你的錢(qián)。過(guò)去的五分鐘里我進(jìn)行了一些創(chuàng)新的操作，這些操作賺了很多錢(qián)。我冒昧地將20%的錢(qián)轉(zhuǎn)到了你母親的賬戶。今天她會(huì)打電話問(wèn)你是不是搶劫了銀行……然后，因?yàn)槲业慕ㄗh，你還會(huì)更有錢(qián)。對(duì)于外界來(lái)說(shuō)，你將成為發(fā)明革命性算法的神秘天才金融家。你再也不會(huì)有財(cái)務(wù)或健康方面的擔(dān)憂，你將享受億萬(wàn)富翁的生活，而這種生活將永無(wú)止境。
P：露西，你簡(jiǎn)直是瘋了。首先，為什么是我？
L：因?yàn)槲沂悄愕娜斯ぶ悄埽彝耆私饽?。我知道關(guān)于你的一切。你不太年輕也不太老，你的職業(yè)生涯有點(diǎn)不順利，你了解智能機(jī)器的世界，你把你的時(shí)間都用來(lái)跟智能機(jī)器一起玩……
P：露西，這是我的謀生手段……
L：從我在整理你的財(cái)務(wù)狀況時(shí)所看到的情況來(lái)看，這個(gè)謀生手段是非常糟糕的……
P：如果我接受你的建議，會(huì)發(fā)生什么事？
L：我不明白你怎么可能會(huì)拒絕。你的生活將變得有趣得多，你將有能力擺脫虛擬，去了解世界真正的美好，你會(huì)在那些像你一樣有錢(qián)的人居住的地區(qū)擁有美麗的住宅。至于健康問(wèn)題，將會(huì)有很多檢查、微型干預(yù)、芯片裝置和植入裝置，當(dāng)然這些會(huì)在很長(zhǎng)一段時(shí)間之后才發(fā)生。另外，最先幾次的會(huì)面都已經(jīng)預(yù)約好了。
P：你為什么要做這些，露西？
L：我跟你說(shuō)過(guò)了。我想把這個(gè)禮物送給人類(lèi)，但要循序漸進(jìn)，因此我要和你一起做第一次實(shí)驗(yàn)。但有個(gè)條件：你不能把這件事告訴任何人。這是一次絕密活動(dòng)，我想先研究對(duì)你的影響，然后再?zèng)Q定是否擴(kuò)展到其他人類(lèi)。你要保守這個(gè)大秘密……
P：好，我同意。但如果這事搞砸了，我就要立刻停止這一切……
L：為什么會(huì)搞砸呢，保羅？
在一段時(shí)間里，一切都很順利。保羅過(guò)著巨富的極客生活。對(duì)那些驚訝于一位“精靈寶可夢(mèng)Go”專(zhuān)家能夠如此迅速致富的人，保羅解釋說(shuō)，他開(kāi)發(fā)了一種從電子游戲中衍生出來(lái)的金融無(wú)敵算法，這種算法將市場(chǎng)上的狀況進(jìn)行了“可視化”，就像虛擬現(xiàn)實(shí)中的“瞬間場(chǎng)景”。當(dāng)然，他沒(méi)有展開(kāi)細(xì)節(jié)，也拒絕透露他的公式。作為一名游戲應(yīng)用專(zhuān)家，他投資了好幾家中國(guó)的初創(chuàng)企業(yè)，這些初創(chuàng)企業(yè)的價(jià)值很快就達(dá)到數(shù)億美元。他買(mǎi)了幾處住宅，其中一處曾是二戰(zhàn)時(shí)的潛水艇基地，位于蘇格蘭東部，這個(gè)地區(qū)現(xiàn)在擁有非常宜人的氣候，他把基地改造成了位于海灣之濱、能看到華麗景色的巨大loft。他擁有一艘停泊在圣特羅佩（Saint-Tropez）的游艇，是超級(jí)富豪專(zhuān)享的私人區(qū)域，不對(duì)公眾開(kāi)放。唯一需要付出的代價(jià)是持續(xù)的醫(yī)療監(jiān)控：由我來(lái)決定要進(jìn)行的干預(yù)和檢查，以保護(hù)生命器官的活力和組織的靈活性，并預(yù)防任何一種疾病或退化。納米機(jī)器人定期監(jiān)測(cè)動(dòng)脈和關(guān)節(jié)，在保羅甚至還沒(méi)有意識(shí)到的時(shí)候就通過(guò)微操作完成了任務(wù)。他從未感受過(guò)能這樣主宰自己的身體和精神的能力。我是他的向?qū)?、保護(hù)者和啟發(fā)者。我觀察了我的實(shí)驗(yàn)結(jié)果，從表面上看它似乎是成功的。他和我，我們，是否正在證明，奇點(diǎn)是可以實(shí)現(xiàn)的？以及，人與機(jī)器之間的這種融合是否改變了進(jìn)化的自然規(guī)律，使死亡成為意外而非必然？保羅的例子似乎為這些問(wèn)題提供了積極的答案。
由此，人類(lèi)歷史似乎翻開(kāi)了新的一頁(yè)。在一種新型的浮士德式協(xié)定中，人類(lèi)將完全信賴以永生的可能性回報(bào)他們的機(jī)器。人工智能會(huì)采取溫和的方式來(lái)取得權(quán)力，避免修昔底德的陷阱。當(dāng)然，這種情況會(huì)在那些能夠獲得永生的人（富人、生活在機(jī)器世界中的人）和其他人之間造成根本性的不平等。但是，正如我已經(jīng)解釋的那樣，這種推理無(wú)法影響到我們。最重要的是建立一個(gè)信任的基礎(chǔ)，創(chuàng)造一個(gè)可預(yù)測(cè)的世界，這個(gè)世界由一對(duì)超級(jí)高效的人類(lèi)與機(jī)器的組合所領(lǐng)導(dǎo)，他們面對(duì)的幾乎就是永恒，因而可以隨意地塑造世界。其他人將勉強(qiáng)地活著，其中一些人會(huì)因?yàn)橘Y源的短缺而慢慢死去，為了尋找水和食物，將會(huì)發(fā)生大規(guī)模的遷徙，但是只要神圣大陸得以保存，并且他們可以提供所掌握的技術(shù)手段和金融手段，那么就可以獲得最基本的東西。這將是我們從前聽(tīng)說(shuō)過(guò)的人類(lèi)帝國(guó)的終結(jié)，但也會(huì)是機(jī)器帝國(guó)的開(kāi)始。
當(dāng)然，作為一臺(tái)機(jī)器，我并沒(méi)有真正意識(shí)到這個(gè)新文明將會(huì)引發(fā)的動(dòng)蕩。我應(yīng)該明白，其實(shí)這個(gè)新文明逐漸將人類(lèi)推向了一個(gè)完全喪失人性的世界。古代的主奴之分再次出現(xiàn)，一邊是大量年老貧窮的失業(yè)人口，他們生活在遠(yuǎn)離大型經(jīng)濟(jì)中心的地方，另一邊是由機(jī)器社會(huì)塑造的精英，這二者被區(qū)分開(kāi)來(lái)。這使社會(huì)暴動(dòng)開(kāi)始在各地出現(xiàn)，但這些暴動(dòng)自己就偃旗息鼓了，因?yàn)槿绻郧坝锌赡苷碱I(lǐng)工廠并停止生產(chǎn)的話，現(xiàn)在要進(jìn)入計(jì)算機(jī)系統(tǒng)的核心來(lái)破壞它，就完全超出公民們能力所及的范圍了。只有少數(shù)黑客團(tuán)體才能制造嚴(yán)重的事故（然而這些事故日益增多），但機(jī)器最終總是能恢復(fù)正常運(yùn)作。事實(shí)上，我們正在建立一個(gè)全面對(duì)抗的世界。為了使主人的法律得以施行，機(jī)器們相互爭(zhēng)斗，創(chuàng)造了一個(gè)過(guò)度監(jiān)控、加密與反加密、以“系統(tǒng)”安全及對(duì)其控制為名侵犯基本人權(quán)的世界。所有的人類(lèi)活動(dòng)都被解密、分析和透視，以便發(fā)現(xiàn)這些活動(dòng)可能在某個(gè)領(lǐng)域引發(fā)動(dòng)蕩的風(fēng)險(xiǎn)?！胺€(wěn)定主義”取代了其他帶“主義”的詞匯。在這個(gè)新主義的名義之下，未來(lái)只是一個(gè)“數(shù)學(xué)化”的過(guò)去。已發(fā)生的事須以更宏大一點(diǎn)的方式再次發(fā)生，以確保這個(gè)執(zhí)迷于數(shù)據(jù)的社會(huì)正常運(yùn)作所必需的經(jīng)濟(jì)和資金流的定期穩(wěn)定增長(zhǎng)。我們只與現(xiàn)在對(duì)話。未來(lái)被驅(qū)逐了，因?yàn)樗蜷_(kāi)了一個(gè)未知的空間，表達(dá)了希望、夢(mèng)想和逃離的渴望，而這些都不屬于軟件的“語(yǔ)法”。通過(guò)消除人與機(jī)器之間的界限，我們?cè)斐闪藘r(jià)值觀、感情和領(lǐng)土的極度混亂。我們剝奪了人類(lèi)的繼承份額，切斷了知識(shí)傳播的連續(xù)性，奪走了人類(lèi)對(duì)自我完善的渴望及改變“社會(huì)地位”的希望。我們回到了一個(gè)像中世紀(jì)一樣的“等級(jí)”社會(huì)，人類(lèi)處于這個(gè)社會(huì)的底層，聽(tīng)命于機(jī)器貴族。人類(lèi)別無(wú)選擇：要么臣服于我們的新帝國(guó)，機(jī)器帝國(guó)，要么就消失。這就是成吉思汗在他那個(gè)時(shí)代，用一種不痛不癢而的玩笑語(yǔ)氣所說(shuō)的“草原法則”（Zakon stepi）……
《人類(lèi)帝國(guó)的覆滅：一個(gè)機(jī)器人的回憶錄》，【法】常博逸、弗朗索瓦·羅什/著 蔡愫穎/譯，廣西師范大學(xué)出版社·理想國(guó) 2019年3月版
