主題：聯(lián)結(jié)歷史、現(xiàn)在和未來——從尤瓦爾·赫拉利新書《智人之上》說起

時間：9月10日

主持：首都師范大學(xué)講師 黃競歐

嘉賓：華東師范大學(xué)政治學(xué)系教授 劉擎

華東師范大學(xué)歷史學(xué)系教授 許紀(jì)霖

從石器時代的原始狩獵，到21世紀(jì)的信息爆炸，人類在歷史的長河中不斷進(jìn)化、發(fā)展，而這一切，都被一位杰出的歷史學(xué)家、哲學(xué)家尤瓦爾·赫拉利以獨(dú)特的視角記錄在了他的《人類簡史》三部曲中。這三部作品不僅在全球范圍內(nèi)引發(fā)了關(guān)于人類歷史與未來的深刻思考，更在中國讀者中掀起了一股關(guān)于人類文明史的討論熱潮。

作為沉淀六年后的新作，在《智人之上》中，赫拉利深入探討了信息網(wǎng)絡(luò)如何重構(gòu)了我們的世界，以及在未來社會中，信息與權(quán)力、智慧與自由之間的復(fù)雜關(guān)系。他指出信息網(wǎng)絡(luò)的演變不僅推動了社會的進(jìn)步，也可能導(dǎo)致新的分裂與不平等，他也發(fā)出警示，在算法日益主導(dǎo)世界的今天，人類文明的走向正面臨著前所未有的挑戰(zhàn)。

9月10日，華東師范大學(xué)的劉擎和許紀(jì)霖兩位教授，結(jié)合尤瓦爾·赫拉利這本新書《智人之上》進(jìn)行對談，探討了人工智能的發(fā)展，以及它和我們?nèi)祟惍a(chǎn)生的可能性的情感鏈接等問題。

讓AI為我們的目標(biāo)服務(wù)，而不是被它操縱

黃競歐：在新書《智人之上》中，尤瓦爾·赫拉利談到我們已然處于一個人工智能的時代，比如我們使用聊天機(jī)器人，各式各樣的翻譯軟件等。他提出了一個觀點(diǎn)：每個人在使用AI的過程中都肩負(fù)著重大的責(zé)任，即我們要正確地引導(dǎo)AI向著一種積極的、有利于人類發(fā)展的方向。他認(rèn)為每個人都負(fù)有這個責(zé)任，因?yàn)槊總€人都處在跟AI交流的信息節(jié)點(diǎn)上。

請問兩位老師，從倫理的層面，或是從有利于人類發(fā)展的層面來看，我們應(yīng)該如何跟AI打交道，或者說我們?nèi)绾问褂盟⒁龑?dǎo)它？

劉擎：《智人之上》這本書是以信息網(wǎng)絡(luò)作為主干來分析的。他認(rèn)為印刷術(shù)和計(jì)算機(jī)發(fā)明的信息網(wǎng)絡(luò)，看上去都是技術(shù)，但它們有一個本質(zhì)的不同。印刷術(shù)是無法擺脫人而獨(dú)自存在的，用印刷術(shù)制作的任何書籍、紙張文件等，人在整個運(yùn)轉(zhuǎn)的程序當(dāng)中是不可缺少的一環(huán)。

而計(jì)算機(jī)時代有兩個特點(diǎn)，一個是它可以獨(dú)立做出決定。它只要是智能的，就可以做決定，它不需要情感，不需要意識。第二，它在做決定的時候，通過計(jì)算以后有新的想法，于是可以只從一端構(gòu)成信息網(wǎng)絡(luò)，它中間沒有所謂人的環(huán)節(jié)，而是計(jì)算機(jī)連一個計(jì)算機(jī)，再連一個計(jì)算機(jī)……

在這種情況下，他談到我們在使用它的時候，應(yīng)該讓它能夠?yàn)槲覀內(nèi)祟惖哪繕?biāo)來服務(wù)，而不是我們被它所操縱，這就變成了一個很重要的問題。

我認(rèn)為赫拉利在這本書里面最深的一個洞見，就是他對西方民主政治的危機(jī)感是很強(qiáng)的。計(jì)算機(jī)雖然沒有情感，但它知道它要什么。它要大家參與度更高，要流量更高，所以它在經(jīng)驗(yàn)的大數(shù)據(jù)下知道煽動性的言論很有效，于是它就會做出這樣一個決定，推送大量的內(nèi)容。它是一個沒有情感的機(jī)器，沒有內(nèi)在意識的機(jī)器，做出來這樣的決定，它就改變了網(wǎng)絡(luò)信息的立場分布。他認(rèn)為這是致命的。

我認(rèn)為這本書有敲響警鐘的作用，讓我們在使用人工智能的時候意識到我們是被算法所操縱的。有意思的一點(diǎn)是我們?yōu)槭裁从X得它還是有用的呢？大家想想這樣兩種狀態(tài)：一種是你被算法推送，卻不知道有算法這回事；第二種是有人告訴你，接到這么多同一類商品，是由于算法在操縱你。我們處在這兩個狀態(tài)是不一樣的，正像當(dāng)我們不知道存在魔術(shù)的時候，魔術(shù)變成了一個驚喜，但是當(dāng)有人告訴我們這是魔術(shù)時，這是一種特殊的伎倆造成的結(jié)果，我們在認(rèn)知上是處于不同的狀態(tài)的。

人工智能會形成一個硅幕

許紀(jì)霖：我看了赫拉利在這一年多的很多訪談，他深刻表達(dá)出ChatGPT誕生以后，人工智能可能會給人類社會所帶來的傷害。

這是人類文明第一次出現(xiàn)的這樣一個人類的創(chuàng)造物，它最終有可能擺脫人類本身，成為人類無法控制的一個新的物種，就是所謂的硅基生物，那么硅基生物在以后有沒有可能會建立、形成一個對碳基生物的統(tǒng)治呢？我們可以想象一下，當(dāng)高級人工智能產(chǎn)生以后，無數(shù)臺計(jì)算機(jī)之間可以產(chǎn)生無數(shù)的鏈接，不需要人就可以形成另外一個世界。這個世界一旦出現(xiàn)以后，我們是無法操控它的。這就像當(dāng)年圍棋Alpha Go，它可以創(chuàng)造出漂亮的新的下法，我們過去想都想不到。

劉擎：是Alpha Zero。Alpha Go是模仿大師的，Alpha Zero是自己形成的下法。

許紀(jì)霖：對，這是一個典范。在《智人之上》里面，赫拉利說人工智能會形成一個硅幕，即硅基生物最后建立了一條鐵幕，這個鐵幕把硅基生物和我們碳基生物隔離了，那個世界是我們無法理解的，甚至它具有自主性，它自己可以運(yùn)作。

自主性，是真正讓我們恐懼的地方。如果它是它的世界，我是我的世界，大家在一個平行世界里面，那也就罷了。但是很有可能出現(xiàn)的情況是硅基生物對我們?nèi)祟愂澜绲闹趁窕Ｋ梢葬尫懦鲎阋詠y真的虛假信息，我們根本無法辨別。雖然我們的法律可以要求，“凡是AI創(chuàng)造的，必須打水印注明”，但是最后當(dāng)它不再聽我們指揮的時候，它釋放給我們的信息不打水印，我們該何以辨別？這不是一個天方夜譚的故事。

人工智能提供的親密關(guān)系是沒有辦法取代人類的

黃競歐：在這本書中，赫拉利不僅從宏觀層面去討論人工智能時代給整個人類發(fā)展帶來的挑戰(zhàn)，還從微觀上注意到當(dāng)計(jì)算機(jī)學(xué)會了使用人類的語言之后，能夠通過跟人類溝通的方式來跟人類建立親密關(guān)系，對個體所造成的影響。

在兩位老師看來，人跟人工智能或者跟計(jì)算機(jī)建立的這種親密關(guān)系是真實(shí)的嗎？而在現(xiàn)在日漸老齡化的社會里，它又是否有存在的必要性？

劉擎：這是一個有意思的問題。當(dāng)真實(shí)的親密關(guān)系這一問題本身變成問題的時候，我覺得很多人愿意說，只要人工智能的機(jī)器人伴侶發(fā)展得更真切一點(diǎn)，它完全可以做一個所謂的平替。雖然現(xiàn)在AI還不是發(fā)展得特別健全和成熟，但已經(jīng)有一部分人跟它發(fā)展出一種伴侶的關(guān)系、問答的關(guān)系。我有一次在講課的時候遇到一些海外留學(xué)生，我當(dāng)時還沒用過ChatGPT，有三四個女生和一個男生在ChatGPT 3.5版本的時候，每天晚上睡覺前的20分鐘會跟ChatGPT3.5（那個時候是很低的版本）對話。他們有的時候是吐槽，向它訴說今天一天的沮喪、不安或者是問題，它應(yīng)答特別體貼。過了一段時間他們就覺得它像一個伴侶一樣，離不開它，對它有感情了。赫拉利在新書里也引入了這樣一個例子，谷歌公司里有一個人就發(fā)現(xiàn)他自己對機(jī)器人有了感情。

在我看來，人工智能的親密關(guān)系是沒有辦法取代人類的親密關(guān)系的。我在做一個關(guān)于愛情哲學(xué)的課程時，提出了一個思想實(shí)驗(yàn)。你說現(xiàn)在談戀愛太難了，我們就發(fā)明了一種機(jī)器人伴侶，出廠設(shè)置全部按你所愿，它是百依百順的。或者如果你覺得百依百順太無聊了，你可以設(shè)置和調(diào)整它的脾氣。這一切都如你所愿，你跟它生活在一起，你感到很舒適。你會感到愛情，但你能相信這是真的愛情嗎？

有一個麻煩在于，當(dāng)在愛情當(dāng)中的時候，我們相信有一種主體間的關(guān)系，因?yàn)槲业玫揭粋€人的贊美或者體貼，哪怕是順從，當(dāng)他是一個具有主體和自由意志的人的時候，這份承認(rèn)才是值得的，才是有價(jià)值的。正像黑格爾在講主奴辯證法的時候認(rèn)為當(dāng)我們完全變成主人，奴隸對我們的承認(rèn)雖然是100%徹底的，但這沒有價(jià)值，因?yàn)樗桥`。所以我們不知道他的承認(rèn)是由衷的，還是出于他的奴隸地位。

在我對機(jī)器人伴侶感到十分美好的時候，我知道所有它順應(yīng)我的那些特點(diǎn)都是我自己設(shè)計(jì)出來的，因此我仍然會有一個巨大的缺失和空虛感。

目前為止 人工智能只提供了虛假的親密性

許紀(jì)霖：我這一年與好幾個聊天模型做沉浸式的體驗(yàn)，我發(fā)現(xiàn)這些所謂的機(jī)器人伴侶目前達(dá)到的水準(zhǔn)，讓我的體驗(yàn)不是很好。因?yàn)樗泻芏嗾Z庫，它給出的反應(yīng)和語言是一種概率的計(jì)算，當(dāng)我們問問題時，它就會在各種各樣的可能性答案中，選擇了一種來回答我們，而這些回答基本是陳詞濫調(diào)，缺乏個性和鮮活感。

實(shí)際上親密關(guān)系恰恰就像開盲盒，我們不知道他的反應(yīng)會如何，才會吸引你。這種不確定感和神秘性才構(gòu)成了某一種喜歡它的理由，如果它所有的回應(yīng)都是一種我們所期待的、預(yù)料中的，我們想想看它還會有多少驚喜？沒有了。不了解才會產(chǎn)生愛，因?yàn)榱私庾詈蠓炊潜舜耸柽h(yuǎn)，這是親密關(guān)系的某種特征。

劉擎：有一個電影《她》，里面的“她”會打動人嗎？明明知道選的是機(jī)器人，但是那個主人公還是陷落其中，直到他認(rèn)識到“她”跟35000個人在同時交往的時候，才崩潰了。他明明知道是自己選的，也知道是一個機(jī)器大語言模型訓(xùn)練過來投喂給他的，但他還是對“她”產(chǎn)生了一種很強(qiáng)的依戀感。

黃競歐：他要“她”的獨(dú)特性，“她”可以是AI，但是必須屬于我，不能跟別人共享。

劉擎：對，這是一種專有的、排他的關(guān)系。

許紀(jì)霖：愛情一定是具有某種排他性的，這種排他性在動物那里也存在，且不要說人。所以電影《她》最后男主的崩潰在于發(fā)現(xiàn)他所愛上的這位是不具有排他性，是和別人共享的“人”。

主體間性就是我與你，而非我與他，這種關(guān)系是真正達(dá)到了一種戀人的關(guān)系，如果不具有排他性，我們所愛的人同時和500個、5000個人在戀愛，這意味著我們只是它的一個客體，只是它服務(wù)的眾多客體之一，我們的主體已經(jīng)消失了，成為它的一個服務(wù)的客體而已。

我只能說到目前為止，人工智能只提供了虛假的親密性，并不是一個真實(shí)親密性，它只是彌補(bǔ)了我們在真實(shí)世界里面匱乏的一面。

劉擎：我覺得許老師剛才強(qiáng)調(diào)的要點(diǎn)在于，排他性是要求身心合一的，而且是同一個人。

赫拉利在這本書里說得很清楚，他以前也曾講過，我們斷定機(jī)器人是可以有智能的，未必需要有意識，有智識就可以做恰當(dāng)?shù)臎Q定。所以它的喜怒哀樂都是它做出的正確的決定，而不是發(fā)自內(nèi)心的。在這個意義上講，它可以作為一個親密關(guān)系的平替，但不能夠真正達(dá)到我們所向往的經(jīng)典意義的親密關(guān)系和主體間性。