來源|愛范兒

【資料圖】

作者 |劉慈欣

最近，劉慈欣在直播時透露，自己實(shí)在沒時間，所以參加科幻大會時用 ChatGPT 寫了一兩篇發(fā)言稿。

劉慈欣表示，ChatGPT 寫得也還挺不錯的。

此前劉慈欣發(fā)表了一篇題為《科幻文學(xué)中的可持續(xù)未來》的演講，用科幻的視角解讀了一個截然不同的人類未來。

何為科幻視角？從距地球 60 億公里的太空之上，回望這顆比塵埃還小，卻又承載了和我們有關(guān)的一切的星球，即為科幻視角。

在演講結(jié)束后，劉慈欣談到了以 ChatGPT 為代表的人工智能可能會給人們帶來的影響。

2015 年，劉慈欣曾在一次采訪中引用了霍金的觀點(diǎn)，霍金曾預(yù)言「人工智能比核彈還危險，人類馬上就要被人工智能控制」，當(dāng)時的他認(rèn)為這個說法有點(diǎn)危言聳聽。

而現(xiàn)在，他認(rèn)為我們是時候?qū)ξ磥碛兴X。

劃重點(diǎn)

1. 人工智能會首先取代高智能的職業(yè)，這與我們的預(yù)測相反。

2. 人工智能可以自我迭代出更高智能的版本，但我們的算力限制它的發(fā)展。

3. 人工智能或許會讓人類陷入舒適的陷阱之中。

Q：現(xiàn)在 ChatGPT 橫空出世，被人們熱烈地討論，您覺得人工智能的發(fā)展對人類的命運(yùn)會產(chǎn)生一個什么樣的影響？那自我迭代的人工智能有沒有可能會取代或者說消滅人類？

我覺得這（人工智能的影響）應(yīng)該從這個現(xiàn)實(shí)或近未來和比較遠(yuǎn)的未來這兩點(diǎn)來看待。

從我們近未來或甚至從我們現(xiàn)實(shí)來看，人工智能它對我們社會世界的影響我相信大家已經(jīng)都看到了，它現(xiàn)在已經(jīng)產(chǎn)生一個很明顯的趨勢：（人工智能）有可能在代替我們?nèi)巳氖潞芏嗟墓ぷ鳌?/p>

這個應(yīng)該說是一個正面的趨勢，這種趨勢它可以提高我們的生活質(zhì)量、提升人類的幸福感，讓我們的生活在科技的加持之下可能變得更加舒適。

但是另一方面我們也不能不正視，人工智能的發(fā)展給人類社會帶來的沖擊。

首先，最明顯的一點(diǎn)是人工智能可能會代替相當(dāng)多的「人的工作」，而且這個趨勢與我們以前的預(yù)測正好相反。

以前我們預(yù)測認(rèn)為人工智能首先代替的是那些簡單勞動、重復(fù)勞動的那樣的工作，但是現(xiàn)在看來正好相反，人工智能可能首先代替的是那些需要高智能的、很高的教育程度的那樣的工作，比如像醫(yī)生、教師、股票經(jīng)紀(jì)人等等這些工作可能是被首先代替的。這其中可能也包括我們作家也可能首先被代替的。

所以說人工智能對于人類的整個世界的發(fā)展來，它的影響很深遠(yuǎn)。我們再往層次再高一些的話，人工智能可能會對我們世界中相當(dāng)多的比較基礎(chǔ)的東西可能會產(chǎn)生重大的影響。

比如它會對文化藝術(shù)、文學(xué)，對這個人的創(chuàng)造力，對人的對世界的認(rèn)識等等可能都會產(chǎn)生重大的影響，甚至可能讓這一些東西都會被重新定義。

當(dāng)這個人工智能現(xiàn)在已經(jīng)開始介入到我們的科學(xué)研究之中，介入到我們對整個世界規(guī)律、對自然規(guī)律的認(rèn)識之中，介入到對人類發(fā)展規(guī)律的認(rèn)識之中，它可能產(chǎn)生的影響十分的深遠(yuǎn)。

當(dāng)初人工智能在圍棋領(lǐng)域戰(zhàn)勝很多優(yōu)秀的圍棋選手的時候，有一位我們國內(nèi)最出色的圍棋選手說了一句話，讓我印象很深刻。

他說中國的圍棋博大精深，有兩三千年的歷史，積累了深厚的這個理論和經(jīng)驗(yàn)，甚至圍棋本身成為一種文化，具有了很深的禪意，但是就在這一夜之間，我們發(fā)現(xiàn)它的一切全是錯的。

這一個說法確實(shí)很令人震驚，這件事情會不會發(fā)生在別的領(lǐng)域我們不知道，如果廣泛發(fā)生的話，那么人工智能對人類文化文明最深層的影響我們是不可忽視的。

下面我回答您的第二個問題，就是說人工智能是否會把這個會消滅人類，這也應(yīng)該分兩個層次來回答。

第一個層次就是這種字面意義上的消滅，就是人工智能用某種暴力從肉體上完全消滅人類或是統(tǒng)治世界。

這一點(diǎn)從目前的這個技術(shù)發(fā)展趨勢來看，特別是從目前的技術(shù)水平來看，在可以看到的未來可能性不是太大。

當(dāng)然您剛才提到一個很有意思的概念叫迭代。人工智能的迭代，這是目前人工智能最可能出現(xiàn)危險的一個行為。

這個行為是什么呢？就是說當(dāng)人工智能按我們現(xiàn)在的發(fā)展，它比人類的智能稍稍高一些的話，它自己也會像人類一樣去創(chuàng)造新的人工智能，它創(chuàng)造出來的這個新人工智能可能比它的智能也稍微高一點(diǎn)，那么它又會接著迭代下一代，這樣的話他們就會很快的把這些人工智能的智能水平提高到很高。

可能迭代下去，會提高到人類（智能）的幾百倍甚至上萬倍。

而它而由于它的這個計算機(jī)的計算時間比這個人腦人的大腦要快成千上萬倍，那么這個迭代的時間可能十分的短，據(jù)推測可能只有半個小時到一個小時。

就說我們把人工智能發(fā)展到現(xiàn)在用了一個世紀(jì)的時間，而人工智能百倍于現(xiàn)在的這個程度，可能只用半個小時到一個小時，這是很可怕的一件事。

但是做出這個預(yù)測的人忘了一點(diǎn)，就是我們?nèi)祟惖挠嬎隳芰?，我們所能提供的算力是有限的。它的迭代到一定程度，我們的算力不（能夠）支持它?/p>

所以這就是一個有很諷刺意義的一件事情：我們?nèi)祟惖臒o能反而成為我們一個最后的屏障。所以您說的這這種毀滅不太可能。

那么第二種消滅則是一種我們想不到的一種方式，就是說第一種消滅人類是完全違背人類意愿的，而第二種對人類的消滅可能完全符合我們的意義。

比如說人工智能的發(fā)展，我剛才說過它可能會代替我們的這個大量的工作，而我們的社會如果適應(yīng)了與人工智能的這種共存，我們發(fā)展出一種新的這種分配制度，那么我們就可能帶來一個十分舒適的那種社會環(huán)境和十分舒適的生活。大部分人可能不需要工作，把大部分的工作都交給人工智能來進(jìn)行。

在這種情況下，我們會越來越多地交出自己對社會運(yùn)作的操作這種權(quán)利給到人工智能。

而生活會變得越來越舒適，那么這個樣子下去的話，我們可能面臨著人類歷史上前所未有的一個巨大的陷阱。

就是說在這個科技的這種安樂窩里面，那么人類文明的活力在哪里？我們的開拓精神在哪里？如果這樣一直發(fā)展下去的話，那可能人類最后的命運(yùn)就是您說的被人工智能所消滅，但這個消滅的過程完全是在我們的意愿之內(nèi)，而人工智能至始至終它沒有任何惡意，它只是照著人類的指示去行駛。

而這樣的如果真的發(fā)生這樣的事，那人工智能所需要的它的智能程度以及它所需要的計算能力遠(yuǎn)遠(yuǎn)小于我們前面那個真正的字面意義上的那種消滅。所以這確實(shí)是我們應(yīng)該對未來有所警覺的一件事情。

劉慈欣演講全文整理

大家好，我們今天要談?wù)摰脑掝}是科幻文學(xué)中的可持續(xù)未來。

作為一種基于想象力的文學(xué)形式，科幻小說并不能夠?qū)ξ磥碜鞒隹茖W(xué)的預(yù)測，它只是描述未來的各種可能性，同時它也提供了一個看世界和看未來的獨(dú)特視角，這個視角與我們從現(xiàn)實(shí)看世界看未來的視角可能有很大的不同。

《暗淡藍(lán)點(diǎn)》

科幻的視角是什么？大家可能都知道一張叫《暗淡藍(lán)點(diǎn)》的照片，我本來想把那個照片拿來的，但我覺得好像大家應(yīng)該都看過那張照片，就沒有把它拿來放出來。

這可能是人類歷史上最重要也是最著名的照片之一，他是上個世紀(jì) 70 年代發(fā)射的旅行者 1 號宇宙探測器，在 90 年代初在距地球 60 億公里的太空中拍攝的。

初看上去整張照片它都是黑色的，很仔細(xì)看才能發(fā)現(xiàn)這一片黑色中有一個小小的亮點(diǎn)。它十分的小，就是僅有這張照片的 0.12 個像素那么大。如果不加以指示，你說觀看者是很難發(fā)現(xiàn)這個白點(diǎn)的。

有人形容它是太空中的一粒塵埃，其實(shí)是把它說的大了。按照比例計算，這個暗淡的小點(diǎn)放在宇宙中，它比地球大氣層中的一粒塵埃還要小很多個數(shù)量級，要小得多。這個亮點(diǎn)就是地球，人類世界的全部，和我們有關(guān)的一切，所有活著和曾經(jīng)活過的人，所有曾經(jīng)有過和正在進(jìn)行歷史和生活，都在這里塵埃上面，這就是科幻的視角。

對于人類的發(fā)展和未來，這個視角與我們傳統(tǒng)的視角是有很大差異的。從這個視角去看，我們對人類社會的可持續(xù)發(fā)展會有一些新的感悟。

首先，目前可持續(xù)發(fā)展所依賴的基礎(chǔ)環(huán)境保護(hù)，阻止全球氣候變化、對資源開采的節(jié)約和節(jié)制、基于環(huán)保的綠色生活方式等等，其重要性是無需質(zhì)疑的。在可以想見的未來，堅守并貫徹以上的理念是人類文明得以延續(xù)的基本保證。

但是從科幻的視角看，從 60 億公里外，看一看那個暗淡的藍(lán)點(diǎn)，我們就真切地感受到，人類世界在宇宙中是多么的渺小。

對于文明的發(fā)展，這樣一個小世界存在著天然的脆弱和不確定性。這些脆弱和不確定性極大地影響著人類可持續(xù)的未來。對發(fā)展的威脅，它很可能來自發(fā)展自身。世界正走在現(xiàn)代化的進(jìn)程中。盡管近年來遇到了包括疫情、局部戰(zhàn)爭、國際社會分裂和對抗加劇這些挫折，但從長遠(yuǎn)的大趨勢來看，現(xiàn)代化的進(jìn)程不可遏制。

現(xiàn)有的不發(fā)達(dá)國家和地區(qū)全面達(dá)到西方的發(fā)展程度和生活水平并非遙不可及的事，而如果全世界都進(jìn)入這樣的發(fā)展?fàn)顟B(tài)，我們粗略估算一下，人類將需要 4 個半地球的資源。所以，要實(shí)現(xiàn)人類真正的可持續(xù)發(fā)展，我們必須找到另外 3 個半地球。

另外也是更重要的就是未來的不確定性還來自地球自然界本身。地球生態(tài)系統(tǒng)是一個極其復(fù)雜的系統(tǒng)，處于不斷的波動之中。

例如在漫長的地球歷史中，在地球的地質(zhì)紀(jì)年中，大氣溫度上升或下降幾度，從這個地質(zhì)紀(jì)年的尺度來看那是一件很平常的事。但是對于現(xiàn)代人類社會來說，卻可能是滅頂之災(zāi)。

地球平均氣溫上升幾度，就會因冰川融化導(dǎo)致海平面全面上升至使沿海地區(qū)、沿海經(jīng)濟(jì)區(qū)被淹沒，大量人口向內(nèi)地遷移，進(jìn)而造成世界經(jīng)濟(jì)的混亂和崩潰。

而地球平均溫度下降幾度將導(dǎo)致全球農(nóng)業(yè)體系的崩潰，是世界處于大饑荒之中。就在現(xiàn)在人們擔(dān)憂過量的碳排放導(dǎo)致氣溫上升時，卻很少有人注意到地球的下一個小冰期可能正在到來。在地球這樣一粒宇宙塵埃上，生態(tài)圈的長期的穩(wěn)定，它只是一種幻覺而已。

為了應(yīng)對未來的種種不確定性，人類社會將在政治、經(jīng)濟(jì)和文化等方面作出不斷的努力。但這也是從我一個科幻作家的這個角度來看，我們最終所能依賴的力量還是來自于科技的進(jìn)步。

首先，在地球的生態(tài)空間之內(nèi)，技術(shù)的進(jìn)步可以開發(fā)出全新的資源。在歷史上，煤炭、石油和核能取代了木材，合成材料取代了棉花和皮革。在未來，科技的進(jìn)步能夠帶來更加高效和環(huán)保的能源，能夠從之前從未利用過的自然資源中產(chǎn)生出新的材料，能夠培育出適應(yīng)各種氣候的高產(chǎn)農(nóng)作物。

無論是在未來變化的地球環(huán)境中生存下去，還是努力阻止地球環(huán)境發(fā)生變化，都要借助科技的力量。如果從地球向外看，我們就看到了一條更為廣闊的發(fā)展之路。太陽系中有著巨量的資源，在八大行星上，在小行星帶中，人類生存和發(fā)展所需要的資源，從水到金屬，從有機(jī)物到核聚變材料到核聚變?nèi)剂蠎?yīng)有盡有。

我們能夠從太陽系的太空中找到的遠(yuǎn)不止 3 個半地球，按照地球最終可以養(yǎng)活 1000 億人口計算，那么太陽系中的資源總量可以養(yǎng)活 10 萬個地球的人口，一個人只有走出搖籃才能實(shí)現(xiàn)可持續(xù)的成長，而人類文明作為一個整體，要想擁有真正的可持續(xù)的未來，也必須走出地球這個搖籃。

否則的話，人類的未來就有可能像阿瑟克拉克在科幻小說《2001 太空奧德賽》中描述的那樣，在一片豐饒之中他們慢慢餓死。

這兩個方向的可持續(xù)發(fā)展都是以科學(xué)技術(shù)的不斷進(jìn)步為基礎(chǔ)的，在這方面人們面對的現(xiàn)實(shí)并不是很樂觀的。我們現(xiàn)在所處的這個年份就是 2023 年，曾經(jīng)無數(shù)次在科幻小說中出現(xiàn)。

對比一下以往的科幻小說中的 21 世紀(jì) 20 年代和我們現(xiàn)在已經(jīng)變?yōu)楝F(xiàn)實(shí)的 2023 年，我們能有的也只是一聲嘆息。

在科幻小說中的 2023 年，地球的同步軌道上運(yùn)行著宏偉的太空城，月球像地球的近鄰近郊一樣繁榮，在火星上已經(jīng)建成多處人類知名城市，生活著數(shù)以百萬的人，在小行星帶進(jìn)行著大規(guī)模的礦業(yè)開發(fā)。在木衛(wèi)一的冰封海洋上，在海王星的軌道之外，都有人類開拓新世界的身影。太空航行已經(jīng)普遍使用核動力飛船，擁有著現(xiàn)在的化學(xué)動力飛船所不可比擬的運(yùn)載和續(xù)航能力。

在那個 2023 年，也就是在科幻小說中的 2023 年，他們所展望的 2023 年， 10 萬個地球正在誕生之中。談到可持續(xù)的未來，這應(yīng)該是一幅符合邏輯的圖景，但在現(xiàn)實(shí)的 2023 年中，我們確實(shí)還看不到這幅圖景的影子。

在現(xiàn)實(shí)的 2023 年，唯一與科幻小說中對這個年份的想象相近的是信息技術(shù)的發(fā)展。在過去的 30 年，信息技術(shù)以遠(yuǎn)超其他技術(shù)的速度越近，信息網(wǎng)絡(luò)已經(jīng)滲透到人類社會的方方面面，全面而深刻地改變著我們的生活。

特別是近來人工智能開始有了取得突破的跡象，也引起了廣泛的關(guān)注?？苹眯≌f中無數(shù)次描述過的 21 世紀(jì)強(qiáng)人工智能，它已經(jīng)現(xiàn)出端倪。

但正是信息技術(shù)的快速發(fā)展，掩蓋了其他科技領(lǐng)域進(jìn)步的緩慢，造成了科技全面飛速進(jìn)步的一個假象。如果把科學(xué)發(fā)展產(chǎn)生的技術(shù)進(jìn)步看成是一棵大樹的話，那么在今天，這棵樹上最容易夠得到的果實(shí)都已經(jīng)被摘光。

科技進(jìn)一步的發(fā)展和突破需要巨大的投入和長遠(yuǎn)的規(guī)劃，而這一點(diǎn)在目前對可持續(xù)發(fā)展所持的理念上似乎并沒有被放到最重要的位置。

目前世界各國對于基礎(chǔ)科學(xué)研究和航天探索的資金的投入，只有對環(huán)境保護(hù)事業(yè)投入的 1/ 10?，F(xiàn)在對可持續(xù)發(fā)展的規(guī)劃是建立在環(huán)境保護(hù)、節(jié)約資源和建立綠色生活的基礎(chǔ)上。但要得到一個長遠(yuǎn)的、真正可持續(xù)的未來，我們還需要更多的開拓精神和進(jìn)取精神。

國際社會需要更長遠(yuǎn)的發(fā)展規(guī)劃，需要對基礎(chǔ)研究和技術(shù)創(chuàng)新全力關(guān)注和投入。在這方面的很多事業(yè)可能只有大范圍的國際合作才能完成，聯(lián)合國無疑能夠在這方面發(fā)揮重要的作用。

科幻小說描述了未來的多種可能性，用想象力構(gòu)建了無數(shù)個未來世界。他們色彩各異，形態(tài)萬千，但都有一個共同點(diǎn)，那里的科學(xué)技術(shù)已經(jīng)發(fā)展到了很高的水平，借助于科技的力量，人類能夠?yàn)樽约洪_拓更加廣闊的生存空間。這無數(shù)個想象世界中的一個將變?yōu)楝F(xiàn)實(shí)，成為我們的未來。

也許在那樣的世界中，人類仍然會面臨來自社會發(fā)展和大自然的更多的挑戰(zhàn)，我們也必須接受未來的挑戰(zhàn)，用發(fā)展來解決發(fā)展遇到的問題。最后，對于人類可持續(xù)的未來，引用科幻作家喬治威爾斯的一句話：

要么遍布宇宙，要么徹底滅亡。

謝謝大家，我的講話完了。