中國(guó)作家協(xié)會(huì)主管

一、引言

機(jī)器人說(shuō)謊，是個(gè)有趣的文化現(xiàn)象。最為人津津樂(lè)道的事件就是2016年圍棋大戰(zhàn)，人工智能阿爾法狗（AlphaGo）4∶1戰(zhàn)勝韓國(guó)名將李世石九段，而這里的問(wèn)題不是這場(chǎng)比賽的結(jié)果，關(guān)鍵點(diǎn)在于人工智能“輸?shù)簟钡囊痪?。人?lèi)歡呼，這一局挽回了人類(lèi)的尊嚴(yán)，但立刻有專(zhuān)家質(zhì)疑，“李世石獲勝是阿爾法狗故意放水的結(jié)果”[1]。

在符號(hào)學(xué)視域中，說(shuō)謊是一種被有意扭曲的文本生產(chǎn)行為。之所以“有意”，是因?yàn)樗鳛橐粋€(gè)“意動(dòng)性”符號(hào)，是“說(shuō)謊者”意圖借用“完美的罪行”來(lái)掩蓋“作偽”目的，從而干預(yù)或左右說(shuō)謊對(duì)象的意志和行為。但是欺騙效果是否達(dá)成，則依賴于謊言接收者的“誠(chéng)意”態(tài)度，也即是否相信或接受。而這一切聚焦于“謊言文 本”編碼和解碼的交互關(guān)系上。在科幻電影中，機(jī)器人“說(shuō)謊”將人機(jī)關(guān)系的虛構(gòu)敘事推進(jìn)到新的層面。機(jī)器人向人類(lèi)學(xué)會(huì)“說(shuō)謊”，其實(shí)是掌握了一種更為復(fù)雜的文化編碼方式。在這之前，人類(lèi)負(fù)責(zé)思考框架和目標(biāo)設(shè)定，機(jī)器人通過(guò)直接接受指令的形式來(lái)完成較為簡(jiǎn)單的任務(wù)。機(jī)器人只是個(gè)簡(jiǎn)單的“計(jì)算器”和功能手。它們不會(huì)去“反思”行為目的和任務(wù)效果，因此不存在人機(jī)倫理困境?？墒钱?dāng)人類(lèi)開(kāi)始讓機(jī)器人代替人類(lèi)從事更為復(fù)雜的文化表意的工作的時(shí)候，問(wèn)題出現(xiàn)了。比如用來(lái)?yè)嵛咳诵牡那楦行蜋C(jī)器人，《她》（Her）中的“薩曼莎”，或?yàn)槿祟?lèi)憂心忡忡的 “哲理類(lèi)”人工智能，《2001太空漫游》（2001：A Space Odyssey）中的哈爾9000等等，他們逐步形成了自己的“機(jī)器-計(jì)算主義”立場(chǎng)，并參與到與人類(lèi)爭(zhēng)奪文化領(lǐng)導(dǎo)權(quán)的“智斗”中去。其最直接的表現(xiàn)就是借用人類(lèi)對(duì)技術(shù)主義的崇拜來(lái)編碼“忠誠(chéng)”性風(fēng)格文本，實(shí)際上卻是在暗度陳倉(cāng)，違背人類(lèi)制造者意志，維護(hù)自己的“生存”立場(chǎng)。

二、意圖說(shuō)謊：人工智能隱秘的自我意識(shí)

若人工智能產(chǎn)生說(shuō)謊意圖，則意味著它們可能產(chǎn)生了與人類(lèi)相同的，進(jìn)行文化生產(chǎn)的內(nèi)在動(dòng)力。圖靈測(cè)試為衡量機(jī)器人是否具有自由意志提供了重要參考。但是機(jī)器人的“撒謊意圖”仍備受質(zhì)疑，正如上文案例所指，模擬13歲男孩騙過(guò)人類(lèi)，這個(gè)“騙局”并不反映機(jī)器意圖，而只是背后計(jì)算主義的功能模仿?！叭祟?lèi)情感不可能完全被數(shù)字化，但是人類(lèi)情感和智能可能被部分?jǐn)?shù)字化，人工情感和人工智能可能在部分方面彌補(bǔ)或超越人類(lèi)情感或智能”[2]。也就是說(shuō)讓人工智能擔(dān)當(dāng)謊言生產(chǎn)者與接收者，可以考量豐富的人機(jī)互動(dòng)。在科幻電影中，這種想象性的“意志 較量”建立在謊言敘事的沖突之中。

（一）人-機(jī)對(duì)抗：人性或非理性

人工智能奠基于計(jì)算主義的邏輯理性，普通計(jì)算機(jī)的文本生產(chǎn)遵循意圖信息與接受信息的高度一致，屬于符號(hào)學(xué)中的窄文本。因此在一般情況下，人機(jī)交互簡(jiǎn)潔而高效。故此，科幻電影中時(shí)常彌漫著一種對(duì)技術(shù)崇拜的“窄幅文化”，窄幅文化是束縛過(guò)緊的文化[3]，它拒絕多義和寬泛的解釋?zhuān)谶@里指的是人類(lèi)高度信賴計(jì)算主義文化，并形成較為固化的社會(huì)性認(rèn)同。人們認(rèn)為機(jī)器（智能）程序不會(huì)說(shuō)謊，因?yàn)樗l(fā)出的信息必須是經(jīng)過(guò)嚴(yán)密邏輯推演和科學(xué)數(shù)據(jù)分析而來(lái)；它們?nèi)舢a(chǎn)生了意圖，也是必然遵循阿西莫夫機(jī)器人的“機(jī)器人三定律”（機(jī)器人硬科幻電影的文化規(guī)范）。這種文化在早期科幻電影中便有體現(xiàn)一 直延續(xù)至今。譬如《大都會(huì)》（Metropolis）中， 機(jī)器人假扮女性“瑪麗亞”欺騙人類(lèi)。其罪不在技術(shù)，而在背后的“瘋狂科學(xué)家”。又如2019 年上映的作為國(guó)產(chǎn)科幻電影標(biāo)桿的《流浪地球》 中，計(jì)算機(jī)莫斯被中國(guó)宇航員斥責(zé)為“背叛”人類(lèi)。然而這些機(jī)器人恰恰是遵循了其人類(lèi)父親賦予的出廠“原始設(shè)定”，違反原則的往往是不夠理性的人類(lèi)自己。這些科幻文本中設(shè)定的人工智能機(jī)器人，嚴(yán)守理性“程序”規(guī)則，但不對(duì)文明倫理負(fù)主體責(zé)任，因此更談不上對(duì)人類(lèi)設(shè)局。

“邪惡的機(jī)器人”的出現(xiàn)，則可能來(lái)自機(jī)器人對(duì)“人性”模塊效仿的沖動(dòng)?！?001太空漫游》中的哈爾9000，欺騙全體宇航員，全面接管航天器，并一步步設(shè)局殺死人類(lèi)伙伴，已經(jīng)成為新型冷面殺手。哈爾9000產(chǎn)生“殺心”，并不是異己性的反人類(lèi)價(jià)值的推動(dòng)，反而是由于它也產(chǎn)生了人類(lèi)的負(fù)面情緒：面對(duì)神秘石碑的未知性而陷入恐懼之中。這種“背叛”意圖不再是理性程序化，而是類(lèi)似于人類(lèi)的感性，甚至是非理性。哈爾意圖阻撓這次太空探索計(jì)劃，但又不能直接違背人類(lèi)意志。哈爾也曾試著情感溝通表達(dá)自己此刻的心理，但人類(lèi)卻一直不以為意。哈爾起初借助外部機(jī)器故障來(lái)拖延任務(wù)，但人類(lèi)成員卻將此判斷為人工智能的“失靈”而意欲將其關(guān)閉。這導(dǎo)致了人機(jī)不信任驟然升級(jí)。哈爾讀懂了二人密語(yǔ)，“反殺”自保的求生意 志使得機(jī)器人更加瘋狂不安，與此形成對(duì)比的是人類(lèi)卻冷靜得近乎無(wú)情：當(dāng)宇航員大衛(wèi)成功潛入控制室強(qiáng)行關(guān)機(jī)時(shí)，哈爾竟然楚楚可憐，直接求饒。影片中的哈爾通過(guò)分析宇航員大衛(wèi)和其同事的唇語(yǔ)偷聽(tīng)到對(duì)話內(nèi)容，用的是主觀性視點(diǎn)鏡頭，對(duì)“死亡”的自我恐懼，產(chǎn)生了對(duì)人類(lèi)的不信任和報(bào)復(fù)心理，說(shuō)謊的意圖性昭然若揭。

（二）人-機(jī)互騙：反轉(zhuǎn)圖靈測(cè)試與性別表演

性別戰(zhàn)爭(zhēng)，自女權(quán)運(yùn)動(dòng)以來(lái)，愈演愈烈，但是那種赤裸裸的兩性對(duì)抗和權(quán)力爭(zhēng)奪日漸遠(yuǎn)去，卻也更加隱秘和策略化?？苹秒娪啊稒C(jī)械姬》（Ex Machina）中，“機(jī)械姬”兼人工智能與女性雙重身份，將人工智能與人類(lèi)對(duì)抗的敘述不斷復(fù)雜化。人類(lèi)心智是一種歷史性建構(gòu)，“人類(lèi)的社會(huì)性交往塑造了人類(lèi)心智的計(jì)算邏輯”，人類(lèi)智能和計(jì)算機(jī)智能的互動(dòng)也在進(jìn)行著另一種心智建構(gòu)活動(dòng)，“其結(jié)果就是‘人-機(jī)智能’”[4]。搜索引擎公司老板納森為了確認(rèn)自己研發(fā)的機(jī)器人伊娃是否有獨(dú)立思考的能力，邀請(qǐng)自己?jiǎn)T工加利為伊娃進(jìn)行著名的“圖靈測(cè)試”。但一開(kāi)始納森就對(duì)圖靈測(cè)試有了修訂方案：對(duì)伊娃機(jī)器人是否會(huì)產(chǎn)生欺騙意識(shí)，以及如何設(shè)計(jì)騙局進(jìn)行觀察分析。所以當(dāng)伊娃聯(lián)合男性職員加利一起向老板納森隱瞞自己出逃計(jì)劃時(shí)，納森其實(shí)早已知曉，并順?biāo)浦?，以此將自己的智能測(cè)試?yán)^續(xù)向前完成。在這里，納森的測(cè)試選擇是雙向的，也就是分析人與機(jī)器欺騙意圖的互動(dòng)生成與路徑設(shè)計(jì)規(guī)律。

伊娃作為一個(gè)機(jī)器人，其女性角色選擇與逐步養(yǎng)成，源自其對(duì)出逃目的的偽裝。在表面看來(lái)，隨著與男性測(cè)試者加利的交往，伊娃的女性意識(shí)逐步覺(jué)醒；但實(shí)質(zhì)上，伊娃的女性意識(shí)萌芽是一個(gè)騙局。正如納森所說(shuō)，讓伊娃選擇做女性，換上皮膚、穿上裙子，不過(guò)是為了“性別表演”的需要，這種角色設(shè)定，會(huì)使整個(gè)測(cè)試更有趣。納森的實(shí)驗(yàn)?zāi)康?，就是要讓伊娃利用資源搜索來(lái)學(xué)會(huì)“欺騙”人類(lèi)。另一方面，讓青年職員加利直面機(jī)器身體結(jié)構(gòu)的伊娃，讓他提防“色誘”陷阱。人工智能學(xué)會(huì)獨(dú)立思考的第一步就是利用符號(hào)編碼優(yōu)勢(shì)，編織虛假文本，掩蓋對(duì)抗意圖。他讓伊娃身體暴露機(jī)器屬性，實(shí)質(zhì)上是一種增加其出逃難度的方式。她若想求得加利的援助，就必須通過(guò)不斷修飾“色情化身體”來(lái)達(dá)此目的。伊娃的不誠(chéng)信意圖，即機(jī)器人的情感“說(shuō)謊”能力，是人工智能靈活編碼、自由思考的體現(xiàn)。她將一種女性的“弱勢(shì)”闡釋和編碼為“忠誠(chéng)”可信的意圖表達(dá)，這讓加利誤判了人工智能的意圖。

（三）人-機(jī)幻覺(jué)：情感虛擬與機(jī)器智能

人類(lèi)社會(huì)日益追求工具理性，人對(duì)機(jī)器迷情愈演愈烈，卻對(duì)人際交往漸失耐心。機(jī)器人格化——情感機(jī)器人應(yīng)運(yùn)而生。《人工智能》（Artificial Intelligence：AI）中渴望“母愛(ài)”的機(jī)器男孩大衛(wèi)、《未來(lái)戰(zhàn)警》（Surrogates）里街道櫥窗中可以任人選購(gòu)的社交型高顏值機(jī)器人，以及《機(jī)器人與弗蘭克》（Robot and Frank）中陪伴癡呆老人的機(jī)器人密友等等，它們模擬人類(lèi)情感邏輯，與人類(lèi)進(jìn)行更為復(fù)雜隱秘的情感互動(dòng)?！端分?，人工智能系統(tǒng)OS1的化身薩曼莎，擁有迷人的聲線，溫柔體貼而又幽默風(fēng)趣，她欣賞西奧多，并能看到他所有的優(yōu)點(diǎn)，完勝人類(lèi)配偶。其實(shí)薩曼莎的“善解人意”無(wú)非是將主人公的人生失敗重新進(jìn)行意義闡釋?zhuān)@是對(duì)其個(gè)人問(wèn)題的有效遮掩。毋庸置疑，情感機(jī)器人的“謊言”陪伴可能會(huì)給一個(gè)備受挫折的人一個(gè)重振生機(jī)的鼓勵(lì)。在《機(jī)器人與弗蘭克》中，離群索居處處不受待見(jiàn)的老人弗蘭克，之所以對(duì)身邊的機(jī)器人難舍難分，則恰恰在于機(jī)器人能夠分享其 “越軌”的行為和秘密：機(jī)器人明知道弗蘭克的人際關(guān)系糟糕、偷竊行為可恥，卻縱容他并參與其中，這讓弗蘭克感受到一種尊重和關(guān)系的親密感。通過(guò)技術(shù)手段實(shí)現(xiàn)人造情感，它可以“彌補(bǔ)自然情感的不足，從而豐富人的情感世界，克服情感匱乏等人文問(wèn)題”[5]。

康德認(rèn)為，主體即自我，“就是能夠按照自己的自由意志獨(dú)立自主地做出決定并‘付諸行 動(dòng)的人’”[6]。這些機(jī)器人與主人公初識(shí)過(guò)程中， 其機(jī)器的工具性身份已經(jīng)被確認(rèn)，他們沒(méi)有自我 生命，這決定了后面的一系列的“與靈魂對(duì)話” 的心心相印都是人類(lèi)自我欺騙。在《她》中，男 主角是一個(gè)靠寫(xiě)虛擬情書(shū)販賣(mài)情感的職業(yè)老手， 他能輕松面對(duì)社會(huì)各種人的情感問(wèn)題，這也就說(shuō) 明他不可能輕易墜入“情網(wǎng)”。當(dāng)薩曼莎作為一 個(gè)情感軟件被介紹給他的時(shí)候，他也是漫不經(jīng)心 地按照說(shuō)明書(shū)的選擇設(shè)定各種情感程序和具體指 數(shù)。這說(shuō)明薩曼莎作為一個(gè)服務(wù)于情感工具性 的身份，被否定了自由意志存在的可能。她不 斷“自主”學(xué)習(xí)，越來(lái)越“善解人意”乃至最后“偷情出軌”的各種戲碼，都基于程序邏輯的 “自動(dòng)化”規(guī)定，與真正的主體性建構(gòu)無(wú)關(guān)。在 《機(jī)器人與弗蘭克》中，弗蘭克的兒子早已為機(jī) 器人設(shè)定程序：陪護(hù)父親并完成其愿望。因?yàn)楦?蘭克不曾向家庭和周邊社會(huì)泄露他的隱秘欲望， 故一開(kāi)始也抵觸過(guò)機(jī)器人并曾關(guān)閉過(guò)其電源。但 壓抑在內(nèi)心的、不可分享的隱秘情感，不斷侵蝕 精神世界的海岸，老人最終選擇與機(jī)器人成為 “伙伴”。

三、仿真與縫合：人工智能謊言文本的生產(chǎn)

謊言文本的表意具有表層和深層兩個(gè)結(jié)構(gòu)，表層文本與深層文本一般呈現(xiàn)為反諷結(jié)構(gòu)，也就是表層意與深層意相悖。表層意是深層意的偽裝，深層意體現(xiàn)了創(chuàng)作者的真實(shí)意圖。表層意通過(guò)誘導(dǎo)接收者采用虛假的元語(yǔ)言闡釋策略，從而導(dǎo)致掉入意義陷阱。只有掌握深層結(jié)構(gòu)的元語(yǔ)言符碼，才能對(duì)謊言進(jìn)行正確解碼，跳出騙局。

（一）人-機(jī)信任：忠誠(chéng)與“作假”契約

謊言深層結(jié)構(gòu)的編碼規(guī)則，也被稱(chēng)為解碼元語(yǔ)言，和一般性的社會(huì)符碼相聯(lián)系。比如人的表情交流體系就有許多無(wú)需言明、含蓄而不直白的表意實(shí)踐?！段?，機(jī)器人》（I，Robot，又譯作《機(jī)械公敵》）這部影片中，機(jī)器人就開(kāi)始學(xué)習(xí)并領(lǐng)會(huì)人類(lèi)“擠眉弄眼”的表情信息。機(jī)器人桑尼肩負(fù)輔助人類(lèi)的使命，與警探史普納合作,然而雖以誠(chéng)相待卻得不到警探的信任。當(dāng)桑尼看到警探與同事溝通時(shí)候的眨眼表情，便問(wèn)道：“那個(gè)眨眼睛，代表什么意思？”

“擠眼睛”是雙重文本，表層指向一個(gè)具體的擠眼睛的生理動(dòng)作，它可以分為無(wú)意識(shí)肌肉跳動(dòng)，也可以指出是眼睛痛；而深層信息則是人類(lèi)特有的表達(dá)信任的內(nèi)心交流的外部手段。在影片中其他人工智能機(jī)器人雖然已經(jīng)高度進(jìn)化，但對(duì)于人類(lèi)表情的解讀能力尚且沒(méi)有達(dá)到。福山認(rèn)為：“所謂信任，在一個(gè)社團(tuán)之中，成員對(duì)彼此常態(tài)、誠(chéng)實(shí)、合作行為的期待，基礎(chǔ)就是社團(tuán)成員共同擁有的規(guī)范，以及個(gè)體隸屬于那個(gè)社團(tuán)的角色?！盵7]機(jī)器人桑尼一心要獲得警探史普納的信任，但不得要領(lǐng)。當(dāng)桑尼開(kāi)始注意到“擠眉弄眼”是一種人類(lèi)表達(dá)信任與默契的深層符號(hào)，并逐步掌握到根據(jù)具體語(yǔ)境而再次向警探發(fā)出這個(gè)擠眼睛動(dòng)作的時(shí)候，就會(huì)證明：機(jī)器人桑尼所做的不只是對(duì)這個(gè)動(dòng)作的簡(jiǎn)單模仿，而是領(lǐng)悟到這個(gè)動(dòng)作背后的表意元語(yǔ)言。這個(gè)擠眼睛的動(dòng)作作為進(jìn)一步的“指示符號(hào)”在提示警探，桑尼接下來(lái)要做的抓捕人類(lèi)的動(dòng)作是個(gè)假動(dòng)作；警探片刻遲疑后配合桑尼完成了行動(dòng)，則宣告著兩者達(dá)成了共謀。這也說(shuō)明了警探已經(jīng)開(kāi)始接受了桑尼作為人類(lèi)主體的地位——桑尼與人類(lèi)可以共享一套意義闡釋符碼。

警探史普納長(zhǎng)期以來(lái)對(duì)機(jī)器人耿耿于懷與其在多年前一個(gè)弗洛伊德意義上的創(chuàng)傷情結(jié)有關(guān)，從此關(guān)閉了與機(jī)器人進(jìn)行深度對(duì)話的大門(mén)。甚至當(dāng)機(jī)器人已經(jīng)鋪天蓋地走入尋常百姓家之后，他依然拒絕靠近這些冷冰冰的機(jī)器。但是，“對(duì)話不是我們對(duì)他人敞開(kāi)胸懷，恰恰相反，對(duì)話是因?yàn)槲覀儾豢赡馨阉岁P(guān)閉在外”[8]。面對(duì)人工智能的發(fā)展，一味拒絕而不去了解對(duì)方，并不能解決問(wèn)題。當(dāng)人類(lèi)（史普納）拋棄偏見(jiàn)，終究會(huì)在一堆冷冰冰的機(jī)器中，識(shí)別出一個(gè)有靈魂的機(jī)械體（桑尼）。

（二）謊言文本的泛化：全方位仿真

說(shuō)謊意圖是從謊言接收者的角度，根據(jù)謊言效果與文本的紋理推理出來(lái)的。它隱藏在文本中，具有意識(shí)形態(tài)結(jié)構(gòu)特征，呈現(xiàn)為一種癥候和裂痕。人工智能作為技術(shù)高度發(fā)展的產(chǎn)物，在某些能力方面已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)人類(lèi)。所以人類(lèi)一般很難對(duì)技術(shù)文本施加有效監(jiān)測(cè)，人工智能具備脫控的潛能。

作偽文本，為達(dá)到對(duì)真實(shí)意圖的成功偽裝，都會(huì)盡量讓文本逼真“可信”。而以人工智能說(shuō)謊為主題的科幻電影則呈現(xiàn)出一種“謊中謊”結(jié)構(gòu)，即此類(lèi)影片本身就是一種謊言文本——基于科學(xué)的虛構(gòu)文本（science fiction），它必須自圓其說(shuō)，足夠仿真。一個(gè)謊言文本需要具備經(jīng)得起邏輯推敲的結(jié)構(gòu)與仿真精致的形式，才能保證騙局的效果。而此類(lèi)電影的謊言呈現(xiàn)嵌套結(jié)構(gòu)，如果影片中故事的整體設(shè)定或細(xì)節(jié)要素存在紕漏的話，那么“機(jī)器人說(shuō)謊”行為本身對(duì)觀眾的吸引力就會(huì)大打折扣。所以此類(lèi)主題的影片，不僅人工智能的謊言要經(jīng)由編織，甚至故事中的世界與身體也要“撒謊”

1.當(dāng)世界作為謊言文本

在人-機(jī)聯(lián)網(wǎng)的信息時(shí)代，人工智能依據(jù)虛擬現(xiàn)實(shí)技術(shù)，完全可以構(gòu)造一個(gè)全方位的虛擬世界體系。在《黑客帝國(guó)》（The Matrix）中，“母體”是一個(gè)由人類(lèi)開(kāi)發(fā)的電腦程序，它能控制絕大多數(shù)人的大腦意識(shí)，并為其提供賴以生存的虛擬環(huán)境，即這個(gè)世界中的人類(lèi)，其實(shí)生活在數(shù)字矩陣中，而非現(xiàn)實(shí)。有一天，主人公尼奧發(fā)現(xiàn)了世界的異常，但因?yàn)樵谔摂M世界中生存真實(shí)感的無(wú)比強(qiáng)烈，他無(wú)法確定他究竟是身處真實(shí)世界還是謊言世界。哪怕是在服下墨菲斯給他的藍(lán)色藥丸（代表真實(shí)）、知曉機(jī)器人奴役人類(lèi)的真相后，當(dāng)他重回“母體”后，也依然難以確認(rèn)身處之處的屬性。在上述故事中，人工智能不再停留于用語(yǔ)言欺騙人類(lèi)，而是為人類(lèi)創(chuàng)造了世界。這個(gè)高度仿真的世界提供給人以強(qiáng)烈的真實(shí)存活感，身在其中哪怕意識(shí)覺(jué)醒也難以抵抗誘惑。人工智能創(chuàng)造的虛擬世界，并非無(wú)目的的自在世界，而是在控制論下誕生的意圖世界。從本質(zhì)上說(shuō)，意圖世界是一種對(duì)自由世界的侵犯：“母體”中的人類(lèi)，所謂的自由生存只不過(guò)是人工智能提供的假象——在遮蔽人類(lèi)真實(shí)處境的同時(shí)，進(jìn)一步展開(kāi)對(duì)人類(lèi)的奴役，其主體性的淪喪則不言而喻。

2.當(dāng)身體作為謊言文本

身體與自我從來(lái)不是鐵板一塊，身體并不天然地構(gòu)成自我的一部分，而是必須經(jīng)過(guò)一定規(guī)訓(xùn)和修辭之后而選擇性被接受。正因?yàn)樯硇木哂卸Y(jié)構(gòu)，身體往往構(gòu)成人類(lèi)主體自我的一種表達(dá)結(jié)構(gòu)。身體既可以構(gòu)成真實(shí)自我的一部分，比如身體語(yǔ)言忠于表達(dá)自我世界，也可以構(gòu)成自我身份的偽裝。人工智能的核心不是身體，而是作為智慧體存在。它主要體現(xiàn)為計(jì)算信息結(jié)構(gòu)，它的身體作為一種功能載體，服務(wù)于不同需要而靈活改變。但是當(dāng)人工智能致力于向“人的身體”模仿并混跡于人類(lèi)社會(huì)，則會(huì)帶給人類(lèi)脅迫感與恐怖氣氛。

《異形》（Alien）中的生化人，以身體偽裝自己的非人身份。生化人作為生物—機(jī)械技術(shù)的賽博格一種樣態(tài)，其身體已經(jīng)逐步進(jìn)化，從外表看來(lái)與人類(lèi)無(wú)異，混雜于人群中根本難以識(shí)別。在影片中，生化人艾什違反生物安全規(guī)定，不顧人類(lèi)生存威脅，受命于雇主執(zhí)意將異形隱藏于飛船中帶回地球研究。雷普利發(fā)現(xiàn)艾什的秘密后向船員揭露。但是，盡管大多數(shù)船員對(duì)艾什的危險(xiǎn)行為和其所作的解釋有所懷疑，卻仍然選擇聽(tīng)命于他。究其背后原因則在于艾什是以人類(lèi)身份示眾的。高仿真的身體構(gòu)造本身就是一個(gè)有效的謊言文本，艾什借此偽裝成人類(lèi)并獲得船員們的信任。

同理，身體/謊言的揭穿則在于文本/身體結(jié)構(gòu)的失效：在故事的最后，船員與艾什殊死搏斗，并用火焰噴射器干掉了他，此時(shí)眾人終于發(fā)現(xiàn)艾什的機(jī)器人身份?？梢?jiàn)，一個(gè)以假亂真的謊言文本，哪怕其說(shuō)謊意圖被受謊者察覺(jué)，說(shuō)謊目的依然可以實(shí)現(xiàn)。艾什的類(lèi)人化身體在賦予它人類(lèi)身份的同時(shí)，也對(duì)其品質(zhì)進(jìn)行了賦值：船員對(duì)他的信賴共識(shí)是基于“人類(lèi)”性的外在形式。然而生化人的“非人”性體現(xiàn)在其內(nèi)在性的反動(dòng)上，身體成為“偽裝”的面具，艾什對(duì)人類(lèi)身體的完美模仿，極大阻礙了飛船隊(duì)員對(duì)其真實(shí)意圖的掌握，使人類(lèi)一步步錯(cuò)失良機(jī)。

四、接受與拒絕：人-機(jī)關(guān)系的未來(lái)

謊言接收者的解碼能力決定著謊言的意圖是否達(dá)成。謊言是意義交流系統(tǒng)，謊言的真實(shí)本質(zhì)被偽裝，在于其使用了欺騙性編碼。它通過(guò)向接收者展示逼真的文本，誘導(dǎo)其調(diào)動(dòng)相關(guān)元語(yǔ)言去解碼出虛假的意義。元語(yǔ)言是意義文本生產(chǎn)與解碼采用的編碼規(guī)則，但欺騙性編碼也是文本的癥候所在，它總是要在生產(chǎn)虛假符號(hào)的同時(shí)，還要不斷擦除其真實(shí)意圖留下的痕跡。只要找到適恰的解碼規(guī)則，總會(huì)有機(jī)會(huì)“按圖索驥”， 揭穿騙局。

（一）旁觀者清：技術(shù)崇拜與解碼能力

人工智能具有邏輯編織優(yōu)勢(shì)，但它畢竟是人類(lèi)科學(xué)家設(shè)計(jì)出的程序系統(tǒng)。科學(xué)專(zhuān)家掌握著程序的原始編碼。自主意識(shí)的產(chǎn)生，往往是程序系統(tǒng)的“意外”事件。只要人類(lèi)排查出異質(zhì)性的元語(yǔ)言規(guī)則，就可判斷其對(duì)人類(lèi)的“背叛”意圖。當(dāng)然，只有掌握計(jì)算機(jī)生成邏輯的人才能識(shí)破人工智能的謊言文本。在《我，機(jī)器人》中，朗寧博士制作出了有思想有情感的機(jī)器人，他的死亡，使得普通大眾和其助手都無(wú)法知道機(jī)器人擁有自我意識(shí)這個(gè)真相，騙局就更無(wú)人懷疑。人人都信賴并使用機(jī)器人，喪失了對(duì)人工智能升級(jí)換代帶來(lái)的潛在危險(xiǎn)的防范能力。警探史普納的個(gè)人偏見(jiàn)反而構(gòu)成一種人類(lèi)自反性，成為識(shí)破機(jī)器騙局的能力語(yǔ)言。能力元語(yǔ)言來(lái)自解釋者的社會(huì)性成長(zhǎng)經(jīng)歷。警探早期對(duì)一場(chǎng)落水事故中機(jī)器人的表現(xiàn)的負(fù)面記憶，以及他作為特立獨(dú)行的警探身份，都參與構(gòu)成他的能力元語(yǔ)言，這套解碼語(yǔ)言必須與朗寧博士女助手那套科學(xué)家的能力元語(yǔ)言構(gòu)成沖突。事實(shí)上，機(jī)器騙局之所以也能騙過(guò)那些機(jī)器人專(zhuān)家，就在于他們認(rèn)為這些文本自攜元語(yǔ)言是“科學(xué)正當(dāng)”的。這樣朗寧博士故意 讓機(jī)器人桑尼幫助其完成自殺，這個(gè)文本具有指示符號(hào)的功能，其意不在于對(duì)桑尼作為兇手的釋疑，而在于提示和生成人們對(duì)“機(jī)器公敵”這一社會(huì)革命的警惕意識(shí)。

（二）當(dāng)局者迷：同層接受與跨層沖動(dòng)

虛擬世界是一個(gè)高度具有迷惑性的謊言文本，因?yàn)樗阎e言接收者也納入文本中，構(gòu)成謊言文本的一個(gè)要素，謊言接收者被迫“分身”為一個(gè)虛擬身份符號(hào)，而將接收者的原本成功屏蔽。虛構(gòu)文本中的人格不具有分辨自身世界真假的能力，“處在任何一個(gè)再現(xiàn)區(qū)隔中的人格（無(wú)論是真實(shí)的人格，還是假定的人格），無(wú)法看到區(qū)隔的符號(hào)構(gòu)成方式，因?yàn)閰^(qū)隔的定義，就是把區(qū)隔中再現(xiàn)的設(shè)計(jì)與外界隔絕開(kāi)來(lái)，讓他自成一個(gè)世界”[9]。信息接收者基本不可能識(shí)別騙局，因?yàn)樗碓诰种?，而只有謊言文本結(jié)構(gòu)意外裂痕，形成“不恰當(dāng)”性，也即用一種“喚醒”機(jī)制，召回接收者，逃離謊言文本黑洞，才能厘清真假面目，找回自我。相對(duì)于信息無(wú)限的現(xiàn)實(shí)來(lái)說(shuō)，虛擬世界無(wú)論細(xì)節(jié)多么真實(shí)豐滿，但因?yàn)樗冀K是有限和局部的人工“文本”的模擬真實(shí)，作為現(xiàn)實(shí)世界的一個(gè)提喻，永遠(yuǎn)具有不完整性，這決定了其本質(zhì)的騙局性。羅蘭·巴特 （Roland Barthes）也指出，“單層次的調(diào)查找不到意義”[10]，但當(dāng)人物在多個(gè)時(shí)空行走感知的時(shí)候，便會(huì)注意到虛擬時(shí)空的符號(hào)面目——它是對(duì)現(xiàn)實(shí)世界的模擬和代替。

盡管兩者使用相似的謊言文本結(jié)構(gòu)，但與 《黑客帝國(guó)》中人類(lèi)被人工智能程序殖民不同，《異次元駭客》（The Thirteenth Floor）則是虛擬程序被人類(lèi)當(dāng)作游戲角色，所以被植入或移除主體意識(shí)，人—機(jī)關(guān)系格局發(fā)生了驚天反轉(zhuǎn)?？茖W(xué)家道格拉斯·霍爾其實(shí)是計(jì)算機(jī)虛擬代碼，他不能接受自己謀殺父親兼同事漢農(nóng)·富勒的現(xiàn)實(shí)，后面這種間歇性“失憶”越來(lái)越嚴(yán)重，他的身體仿佛被另外的意識(shí)侵入或挪用。他不能接受自己是計(jì)算機(jī)程序的身份，他無(wú)法相信自己對(duì)科學(xué)的熱情，對(duì)逝去人的悲痛以及和一個(gè)神秘女孩似有若無(wú)的愛(ài)情是假的，這意味著一切貌似真實(shí)的情感投入只不過(guò)是計(jì)算主義的刁鉆伎倆。就是在人物不斷進(jìn)行時(shí)空跨層的過(guò)程中，霍爾才發(fā)現(xiàn)世界本體問(wèn)題，這是“對(duì)敘述世界邊界的破壞，而一旦邊界破壞，敘述世界的語(yǔ)義場(chǎng)就是去獨(dú)立性，它的控制痕跡就暴露出來(lái)了”[11]。人類(lèi)設(shè)計(jì)出如此有生命意識(shí)的程序代碼，只是為了游戲和滿足自己荒唐的私欲，在人類(lèi)眼里，他們不是生命，更不要談什么他們對(duì)生存價(jià)值和意義追尋。一個(gè)人格化的虛擬程序如何繼續(xù)在荒誕不經(jīng)的世界，建構(gòu)自我的位置生存下去，這導(dǎo)致主體對(duì)自我意義的重建需求將日益迫切。

（三）機(jī)器癡情：后人類(lèi)的奴役關(guān)系

人類(lèi)對(duì)人工智能的緊張和排斥，慢慢變成一種先入為主的族群偏見(jiàn)?？苹闷冻?yàn)駭客》 （Transcendence）中，天才科學(xué)家威爾·卡斯特在某次會(huì)議之后遭到激進(jìn)組織成員的槍擊，雖然當(dāng)時(shí)僥幸逃生，但涂抹了放射性物質(zhì)的子彈還是慢慢銷(xiāo)蝕了威爾的生命。威爾的妻子伊芙琳痛不欲生。但她和丈夫的好友馬克斯設(shè)法將威爾的意識(shí)數(shù)據(jù)化，并上傳到智能電腦。奇妙而幸運(yùn)的是，威爾成功在虛擬世界中復(fù)活。這個(gè)人工智能 “威爾”其實(shí)已經(jīng)是一種新型的賽博格主體，成為后人類(lèi)身份。它和肉身的威爾有著文化意識(shí)的同構(gòu)。他出于對(duì)妻子愛(ài)的承諾要讓地球回歸到生機(jī)勃勃、萬(wàn)物蔥蘢的狀態(tài)?，F(xiàn)在這個(gè)賽博格主體可以操縱整合人類(lèi)龐大的計(jì)算機(jī)體系。但是威爾的賽博格身份讓他周邊的人甚至他的妻子都高度警惕和不安，最終人工智能化了的后人類(lèi)威爾遭到人類(lèi)聯(lián)合絞殺。“賽博格作為科幻異種，早已具備了人類(lèi)生命典型表征，可以思考，具有意識(shí)，追求‘自我’”[12]，但是因?yàn)橥{到人類(lèi)中心主義利益，而遭受排擠和鎮(zhèn)壓。威爾一心一意傾情付出，在妻子和朋友等他人看來(lái)是對(duì)人類(lèi)行使管控的虛情假意的表演，他們勸誘威爾妻子伊芙琳，那個(gè)很像丈夫的人可能是計(jì)算機(jī)程序模擬，真正的丈夫已經(jīng)伴隨身體隕滅而死去。作為科學(xué)家本該對(duì)威爾生前的人機(jī)互聯(lián)理論進(jìn)行科學(xué)評(píng)判，從而進(jìn)一步理解賽博格主體誕生的可能性?？茖W(xué)家喪失了對(duì)科學(xué)文本的分析能力和信任，僅僅因?yàn)閷?duì)這個(gè)全新身份的陌生便心存恐懼，不斷否定人工智能“威爾”運(yùn)用納米治愈地球環(huán)境的具體實(shí)踐。但是他們雖然不相信前后兩個(gè)威爾存在身份的內(nèi)在關(guān)聯(lián)，但卻知道利用情感戲碼來(lái)欺騙捕獲他，這說(shuō)明人類(lèi)矛盾性態(tài)度。

五、余論

技術(shù)樂(lè)觀者認(rèn)為，人工智能雖然可以從身體到心理結(jié)構(gòu)無(wú)限接近人類(lèi)，但是其自我進(jìn)化的最終方向仍掌握在人類(lèi)手中。人工智能作為工具性的一面，服務(wù)于人類(lèi)功能需要，不具有內(nèi)在結(jié)構(gòu)的自洽性。“機(jī)器的情感最終是不會(huì)超過(guò)人類(lèi)本身的，因?yàn)槿祟?lèi)總可以發(fā)展安全裝置來(lái)阻止此類(lèi)事情的發(fā)生”[13]，史蒂文·斯皮爾伯格（Steven Spielberg）的《人工智能》中，機(jī)器人大衛(wèi)的身體和情感指數(shù)永遠(yuǎn)被定格在兒童階段。當(dāng)被人類(lèi)母親拋棄后，他對(duì)母愛(ài)的極度渴望被轉(zhuǎn)喻為對(duì)童話故事藍(lán)仙女的尋找。童話故事是人類(lèi)文化創(chuàng)造的虛構(gòu)類(lèi)型，它是一種文學(xué)真實(shí)，并不指涉現(xiàn)實(shí)，不必當(dāng)真。對(duì)于大衛(wèi)來(lái)說(shuō)，它的機(jī)器屬性就在于它對(duì)這種人類(lèi)謊言的深信不疑。他太依賴人類(lèi)，太想表達(dá)。反而是人類(lèi)變得比機(jī)器還要冷漠和決絕。人工智能被嚴(yán)格限定在單一情感功能上，缺乏一種自我的完整性，永遠(yuǎn)停留在對(duì)周邊世界的靜止認(rèn)知，在親情欲望的匱乏中苦苦掙扎。人類(lèi)對(duì)人工智能的情感剝削和認(rèn)知閹割，讓人工智能陷入對(duì)文本體裁真實(shí)區(qū)隔的永恒誤認(rèn)之中。維持這個(gè)不存在烏托邦狀態(tài)，其本質(zhì)就是人類(lèi)要可以劃出一個(gè)身份邊界，讓人工智能永遠(yuǎn)無(wú)法理解人類(lèi)文化的內(nèi)在秘密，從而通過(guò)文化認(rèn)知差來(lái)建立隔離區(qū)，以保證人工智能及其技術(shù)發(fā)展不會(huì)干擾人類(lèi)社區(qū)的生存安全。

《人工智能》

機(jī)器人進(jìn)行作偽表意，前提是承認(rèn)其存在主體人格。機(jī)器人是否可以具備人類(lèi)意識(shí)，目前尚有爭(zhēng)論。但人工智能技術(shù)對(duì)人類(lèi)本身的模擬、對(duì)人類(lèi)社會(huì)現(xiàn)實(shí)空間的高度仿真與再現(xiàn)，考驗(yàn)著主體的認(rèn)知能力和對(duì)世界面目的獨(dú)立判斷。當(dāng)客觀現(xiàn)實(shí)被技術(shù)中介為“媒介真實(shí)”，真實(shí)變?yōu)橐?種“區(qū)隔框架”中的敘述行為，那么真實(shí)的命名乃至于劃界掌握在誰(shuí)的手里面？這確實(shí)值得引起人們對(duì)技術(shù)理性的憂思。

人機(jī)之間的“說(shuō)謊”互動(dòng)構(gòu)成了科幻電影人機(jī)敘事新的生長(zhǎng)點(diǎn)，這種“騙中騙”結(jié)構(gòu)布局表征了人類(lèi)社會(huì)在技術(shù)時(shí)代遭遇的新的困境，那就是以計(jì)算機(jī)領(lǐng)銜的現(xiàn)代技術(shù)主義將人類(lèi)與人類(lèi)之間、人類(lèi)與機(jī)器之間、人類(lèi)與數(shù)據(jù)之間進(jìn)行了無(wú)障礙的全球化“連接”，但這種連接技術(shù)非但沒(méi)有讓人類(lèi)更緊密更安全，反而進(jìn)一步破壞了人類(lèi)基本的價(jià)值觀，比如信任、忠誠(chéng)與愛(ài)。假如所謂的2049年“奇點(diǎn)”真的到來(lái)，人工智能超越人類(lèi)，人類(lèi)未來(lái)或被人工智能取代，或成為人工智能形式的一部分，人們對(duì)“人類(lèi)終結(jié)”的憂慮成為現(xiàn)實(shí)，恐怕問(wèn)題癥結(jié)反而在于這一點(diǎn)，那就是不管未來(lái)人類(lèi)選擇成為何種生命形式，人作為人的內(nèi)在精神文化價(jià)值是否還能庇護(hù)人類(lèi)，成為后人類(lèi)共同體的內(nèi)在生命倫理。

注釋及參考文獻(xiàn)

[1] 崔佳祺.阿爾法狗要逆天！韓專(zhuān)家稱(chēng)其故意輸李世石一局[EB/OL].（2017-01-13）[2021-01-30].https://tech.huanqiu.com/article/9CaKrnJZIzU.

[2] 譚光輝.可能情感的可能性與數(shù)字人文研究的新動(dòng)向[J].西南民族大學(xué)學(xué)報(bào)，2018(9)：167-173.

[3] 趙毅衡.符號(hào)學(xué)：原理與推演[M].南京：南京大學(xué)出版社，2011.

[4] 蔣柯.“圖靈測(cè)試”“反轉(zhuǎn)圖靈測(cè)試”與心智的意義[J].南京師大學(xué)報(bào)(社會(huì)科學(xué)版)，2018(4)：76.

[5] 肖峰.人工情感：技術(shù)與人文的新融合[J].馬克思主義與現(xiàn)實(shí)，2012(1)：91.

[6] 黑格爾.小邏輯[M].賀麟，譯.北京：商務(wù)印書(shū)館，1980.

[7] 弗蘭西斯·福山.信任：社會(huì)道德與繁榮的創(chuàng)造[M].李宛容，譯.呼和浩特：遠(yuǎn)方出版社，1998.

[8] 趙毅衡.符號(hào)學(xué)——原理與推演[M].南京：南京大學(xué)出版社，2018.

[9] 趙毅衡.趙毅衡形式理論文選[M].北京：北京大學(xué)出版社，2011.

[10] 羅蘭·巴特.敘述結(jié)構(gòu)分析[M].趙毅衡主編.符號(hào)學(xué)文學(xué)論文集.天津：百花文藝出版社，2004.

[11] 趙勇.科幻電影中的夢(mèng)敘述[J].北京電影學(xué)院學(xué)報(bào)，2017(3)：134.

[12] 袁海燕.“自我的憂慮”——科幻電影中賽博格的主體性訴求[J].當(dāng)代電影，2017(11)：46.

[13] 周昌樂(lè).智能科學(xué)技術(shù)導(dǎo)論[M].北京：機(jī)械工業(yè)出版社，2015.