騰訊新聞《潛望》作者 紀(jì)振宇 發(fā)自硅谷

ChatGPT的誕生，讓人們看到基于人工智能的大語言模型所展現(xiàn)出的驚人能力，大概是有史以來的第一次，通過自然語言的交互，人們真切感受到了人與機(jī)器之間，產(chǎn)生了微妙的理解關(guān)系，新一輪人工智能熱潮隨之而來。

(資料圖)

ChatGPT所表現(xiàn)出的驚人的“理解力”，是否是真正意義上的機(jī)器意識覺醒？通用人工智能之路上，目前還有哪些障礙？人工智能威脅論是否言過其實(shí)？未來的人工智能發(fā)展將何去何從？帶著這些問題，騰訊新聞《潛望》近日獨(dú)家對話了卡耐基梅隆大學(xué)人工智能教授、前蘋果AI總監(jiān)Ruslan Salakhutdinov。

Salakhutdinov師從圖靈獎得主、“深度學(xué)習(xí)之父” 杰弗里·辛頓（Geoffrey Hinton），是剪枝、深度編碼等著名學(xué)習(xí)方法的提出者。2016年，Salakhutdinov入職卡耐基梅隆大學(xué)，同年獲得英偉達(dá)人工智能先驅(qū)獎，并加入蘋果公司擔(dān)任首任AI研究總監(jiān)。

作為一名人工智能領(lǐng)域的資深學(xué)者，Salakhutdinov在對話中表達(dá)了樂觀的態(tài)度。他表示，對這一輪AI所展現(xiàn)出的能力感到興奮，且并不認(rèn)為人工智能目前的發(fā)展會對人類生存帶來威脅；他同時表示，大語言模型，雖然不一定是通用人工智能的唯一路徑，但卻是重要的基礎(chǔ)，這方面的進(jìn)展為學(xué)術(shù)界探索通用人工智能提供了更多的啟發(fā)和信心。作為辛頓曾經(jīng)的學(xué)生，他也對辛頓的擔(dān)憂表示了理解，但依然堅(jiān)持了自己對AI更為樂觀的判斷。

以下為此次對話的文字實(shí)錄，內(nèi)容有部分刪減：

大模型將為教育等領(lǐng)域帶來變革

騰訊新聞《潛望》：Salakhutdinov教授，感謝你今天接受我們的采訪?，F(xiàn)在我們正處于一個非常復(fù)雜的世界，很多事情正在以每天、每小時的速度在快速發(fā)生變化，所以我們感到非常幸運(yùn)能有機(jī)會在這里真正討論一些我們關(guān)心的、非常重要的問題。首先讓我們談一談最近一段時間以來最熱的話題，ChatGPT。去年底ChatGPT在初次發(fā)布后，你的第一反應(yīng)是什么？

Russ Salakhutdinov:之前其實(shí)有GPT-2、GPT-3，我們有期待這些模型會越來越強(qiáng)大，但是當(dāng)去年 11 月份ChatGPT上線時，很多人都非常驚訝地看到它的運(yùn)作效果非常驚人。

在大量數(shù)據(jù)上構(gòu)建這些大型語言模型，不僅僅是可以問、可以回答特定問題，它還可以為你總結(jié)事情。我的很多朋友都在使用ChatGPT進(jìn)行編程。如果在幾年前問我，今天能擁有這項(xiàng)技術(shù)嗎？我可能會回答說不會，所以這就是為什么我認(rèn)為這是一項(xiàng)了不起的技術(shù)，它也在很多不同的領(lǐng)域開辟了全新的機(jī)會。

騰訊新聞《潛望》：說到編程，這真的很棒，我之前沒有任何編程經(jīng)驗(yàn)，但我用ChatGPT并使用自然語言向它描述一些想要實(shí)現(xiàn)的目標(biāo)，讓它幫助生成相應(yīng)的代碼，它就真的幫我提供了可以執(zhí)行的程序代碼。

Russ Salakhutdinov:是的，這是我看到很多人實(shí)際使用這些大型語言模型來幫助編程的領(lǐng)域之一，因?yàn)檫@些大模型背后，微軟和OpenAI基本上獲得了整個 GitHub 存儲庫上的程序代碼，所以用戶在詢問代碼相關(guān)的問題時，語言模型會表現(xiàn)得非常好。未來我認(rèn)為幾乎每個編程工具都會有一個大型語言模型能幫助你，這是一個會看到很多應(yīng)用程序的領(lǐng)域。

騰訊新聞《潛望》：雖然我們可以直接感受到ChatGPT所展現(xiàn)出的驚人的能力，但對于許多人來說，他們依然并不完全了解人工智能行業(yè)內(nèi)正在發(fā)生的事情，所以ChatGPT或者其他大語言模型，對于普通人來說，究竟意味著什么？

Russ Salakhutdinov:首先這些模型是基于人們在過去20年里一直在研究它們的深度學(xué)習(xí)技術(shù)，為ChatGPT或 Bard 提供底層的模型來自谷歌，它是 Transformer 架構(gòu)。

但這對普通人意味著什么，我認(rèn)為我們將開始看到越來越多的你認(rèn)識的人，通過自然語言與數(shù)據(jù)交互。

例如，我認(rèn)為教育領(lǐng)域?qū)泻芏鄼C(jī)會，未來你將使用像ChatGPT或 Bard 這樣的模型，它可以幫助你做作業(yè)，寫論文也是其中之一，ChatGPT可能可以寫出比你更好的論文，所以我認(rèn)為我們會看到教育的變革。

例如，你的孩子在九年級、十年級，我們將有人工智能導(dǎo)師，他們將會針對每個人進(jìn)行個性化輔導(dǎo)，你可以向它提出問題，它可以教你新的事物，向你解釋如何編寫代碼，或向你解釋一些數(shù)學(xué)術(shù)語，我認(rèn)為該領(lǐng)域?qū)⒃诓痪玫膶硌杆侔l(fā)展。

此外，我們今天與計算機(jī)交互的方式是，我們通常使用谷歌或百度來搜索信息，我認(rèn)為這也會發(fā)生變化，因?yàn)閷斫换⑼ㄟ^這些聊天機(jī)器人或語言模型進(jìn)行，我可以向它提出問題，它會為我找到正確的信息，并給我想要的信息，這樣我就不必去網(wǎng)站上點(diǎn)擊并尋找正確的信息了。

騰訊新聞《潛望》：所以這就是為什么谷歌現(xiàn)在感到非常焦慮的原因？

Russ Salakhutdinov:是的，但這些大型語言模型像ChatGPT目前并不完美，因?yàn)樗鼈儠a(chǎn)生“幻覺”，我們將來可以解決這個問題嗎？有些人認(rèn)為我們無法解決這個問題，也許我們需要更長的時間，但無論如何，我認(rèn)為我們與計算機(jī)的整個交互方式將會改變。

“我不認(rèn)為我們處于需要擔(dān)心AI風(fēng)險的階段”

騰訊新聞《潛望》：現(xiàn)在，我們也看到有很多圍繞AI發(fā)展的辯論，也有很多關(guān)于人工智能發(fā)展的擔(dān)憂，我們非常想知道你現(xiàn)在所處的立場。從人類未來的發(fā)展角度來看，你是更樂觀，還是更悲觀？

Russ Salakhutdinov:這是一個很好的問題。我認(rèn)為現(xiàn)在人工智能研究領(lǐng)域中，基本上被分成兩個陣營，一個陣營認(rèn)為，人工智能會給我們帶來很多傷害，甚至最終會威脅人類的生存，在未來成為人類的終結(jié)者。

另一個陣營認(rèn)為，人工智能帶來這么多機(jī)會和新東西，例如，醫(yī)療系統(tǒng)將會發(fā)生轉(zhuǎn)變，人工智能將幫助你設(shè)計新藥物，它還將幫助你獲取新信息，一切與人工智能相關(guān)的使用潛力如此之大，這將是一個光明的未來。

我屬于樂觀陣營，我不認(rèn)為目前我們面臨人工智能所帶來的巨大風(fēng)險，即使我的前導(dǎo)師杰弗里·辛頓（Jeffery Hinton）真的相信人工智能的威脅。他是非常非常聰明的人，我不認(rèn)為我遇到過任何比他更聰明的人，但我并不認(rèn)為我們正處于需要擔(dān)心的階段。

我認(rèn)為目前最大的擔(dān)憂之一是錯誤信息的傳播，例如今天我可以創(chuàng)建一個圖像，使用提示，我就可以輕易偽造某人的聲音，在不久的將來，我們能夠大規(guī)模生成這樣的視頻，成本極低，這對大多數(shù)人來說，分辨信息的真?zhèn)螌⑹欠浅＠щy的，就像 Photoshop 一樣。

以前這需要花很長時間才能完成，但現(xiàn)在有了這項(xiàng)技術(shù)，也許有人可以用我的聲音制作我的視頻，你可能以為你在和我說話，但可能只是一個人工智能在對你說話，所以很多人都有點(diǎn)擔(dān)心這個領(lǐng)域。現(xiàn)在問題是是否應(yīng)該有法規(guī)，我們可以做什么來防止這種情況發(fā)生。當(dāng)然還有人對信息偏差提出了一些擔(dān)憂，很多模型都是在大量數(shù)據(jù)上進(jìn)行訓(xùn)練的，如果數(shù)據(jù)本身是非常糟糕的數(shù)據(jù)，模型將學(xué)習(xí)這些壞數(shù)據(jù)，但這些模型一無所知。

騰訊新聞《潛望》：是的，我們注意到你幾天前在個人推特上轉(zhuǎn)發(fā)了一幅《紐約客》的漫畫，這是一幅非常有趣的圖片，描繪的是機(jī)器人奴役人類，你評論“這張圖基本上描繪了我們所處的情況”，所以你認(rèn)為這就是我們所面臨的未來嗎？

Russ Salakhutdinov:這是一個笑話，但如果你看看 ChatGPT，這些模型本質(zhì)上是通過訓(xùn)練來預(yù)測或自動完成句子，從人類反饋中來對這些模型進(jìn)行一些微調(diào)，但歸根結(jié)底，這些模型就是所謂的自回歸模型，它們一次預(yù)測一個單詞。雖然這些模型在自然語言理解方面表現(xiàn)得很好，但這些模型從未看過視頻，我的意思是，現(xiàn)在我們正在研究圖像和語言，但是它們?nèi)匀蝗狈σ恍┧^的世界模型，即世界是如何運(yùn)作的，物理是如何運(yùn)作的，你如何知道我們是人類。我們了解世界，而這些模型是缺乏的，因?yàn)樗鼈冎荒苷_地看待文本，所以這就是這些模型可能會達(dá)到的一個能力上限，當(dāng)然這并不意味著它們沒有用，它們在很多不同的領(lǐng)域都會非常有用，但至少我認(rèn)為要比人類更聰明這還很遙遠(yuǎn)。

騰訊新聞《潛望》：作為辛頓教授以前的學(xué)生，你能理解為什么他如此擔(dān)心嗎？

Russ Salakhutdinov:是的，某種程度上我能理解他的擔(dān)憂。因?yàn)閺娜说慕嵌葋碚f，我們要不斷學(xué)習(xí)，大約需要二十年，然后你才開始在自己的領(lǐng)域變得非常聰明；但對于數(shù)字智能，因?yàn)檫@種大規(guī)模的分布式訓(xùn)練，它可以在幾天之內(nèi)閱讀完整個互聯(lián)網(wǎng)的所有內(nèi)容。

現(xiàn)在我們有數(shù)以萬計的 GPU 在不停地獲取數(shù)據(jù)，所以他說，如果這種情況持續(xù)下去，我們擁有超級智力的可能性相當(dāng)高，如果你有超級智力，那么就會有與之相關(guān)的風(fēng)險存在，這就是他提出的一個擔(dān)憂，這是一個合理的論點(diǎn)。我并不反駁它，但我只是不認(rèn)為這些模型在文本上找到規(guī)律，并且由此形成決策來對抗人類，并且就像之前說的，它們?nèi)狈ξ锢硎澜绲母兄?/p>

真正的智能，需要與世界互動

騰訊新聞《潛望》：你剛剛提出了一個非常有趣的問題，我們現(xiàn)在還沒有完全實(shí)現(xiàn)通用人工智能，例如 ChatGPT，它無法真正感知我們周圍的世界，只能識別基于文本的內(nèi)容，所以你認(rèn)為需要多長時間人工智能真的可以對我們所處的真實(shí)物理世界形成感知？

Russ Salakhutdinov:這是一個非常好的問題，我想我不知道這什么時候會發(fā)生，我認(rèn)為現(xiàn)在在工業(yè)研究或所謂的多模態(tài)模型方面有很多工作，模型不僅看文本，還看視頻的圖像，看你的圖像，知道語音， 我們周圍的一切， 問題是這些模型（所謂的基礎(chǔ)模型）能否從環(huán)境中學(xué)習(xí)并變得聰明。

目前大語言模型缺乏的是我們稱之為主動學(xué)習(xí)者，可以主動探索物理世界，就像我們現(xiàn)在基本上沒有可以為我們做飯的機(jī)器人，甚至還沒有可以自動駕駛的機(jī)器人，什么時候會出現(xiàn)這種情況？

目前還很遠(yuǎn)。要能夠建立真正的智能，你需要與世界互動，不僅僅是被動地觀察文本視頻，是實(shí)際上能夠互動。現(xiàn)在有很多這方面的研究正在進(jìn)行，包括我自己的研究小組。我們建造了可以在你的房子周圍移動的機(jī)器人，它可以理解你房子里的東西，或者與環(huán)境互動，但從技術(shù)上來說，我們距離目標(biāo)還很遠(yuǎn)，我們稱之為物理人工智能，而不是像 ChatGPT這樣的大語言模型。

騰訊新聞《潛望》：在看到大語言模型所表現(xiàn)出的驚人的能力后，現(xiàn)在很多人都認(rèn)為，目前大語言模型是最終達(dá)到通用人工智能（AGI） 的正確途徑，你同意這種觀點(diǎn)嗎？

Russ Salakhutdinov:通用人工智能基本上意味著，它是一個系統(tǒng)，不僅可以解決特定的任務(wù)，還可以解決許多不同的任務(wù)，我認(rèn)為語言模型肯定是關(guān)鍵，它們將在構(gòu)建通用人工智能方面發(fā)揮關(guān)鍵作用，但與此同時，我們達(dá)到目標(biāo)的距離依然很遠(yuǎn)。如果我們開始整合圖像視覺其他所有這些，也許我們真的可以開始構(gòu)建越來越智能的東西。

騰訊新聞《潛望》：是不是例如波士頓動力等一些機(jī)器人公司，已經(jīng)實(shí)現(xiàn)了部分功能？

Russ Salakhutdinov:目前我們所看到的波士頓動力的機(jī)器人，很大程度上還是基于控制理論，并沒有結(jié)合大語言模型?，F(xiàn)在在卡耐基梅隆大學(xué)的一項(xiàng)研究工作，正在嘗試將 ChatGPT 等大語言模型與機(jī)器人技術(shù)結(jié)合起來，ChatGPT可能會給你一個更高級的計劃任務(wù)，告訴你需要做什么指令和機(jī)器人系統(tǒng)執(zhí)行該計劃，來解決此任務(wù)。所以我認(rèn)為，大型語言模型、不同模態(tài)、圖像、視頻、機(jī)器人技術(shù)的結(jié)合是該領(lǐng)域?qū)⒁l(fā)展的地方，雖然它目前仍然是非常困難的。

對于波士頓動力公司來說，他們花了 20 年的時間來建造這些機(jī)器人，但如果你讓機(jī)器人握起一杯水，那仍然是困難的，所以還有很多工作要做。我知道很多大型科技公司，比如谷歌、微軟、蘋果等，他們有興趣構(gòu)建這些具體的代理，比如可以四處移動的機(jī)器人，比如一個幫助老年人的系統(tǒng)等。我們正在與很多這樣的公司合作。

騰訊新聞《潛望》：我發(fā)現(xiàn)另一個非常有趣的話題是，即使某些大型語言模型顯示出驚人的功能，而真正構(gòu)建模型的人卻不知道這些功能是如何出現(xiàn)的，似乎有很多未知與已知的事物。所以你認(rèn)為這種趨勢會持續(xù)下去，還是你認(rèn)為將來相比未知，我們會有更多的已知？

Russ Salakhutdinov:這是一個非常好的問題，我認(rèn)為現(xiàn)在人們對這些模型能夠完成的任務(wù)的效果感到驚訝，正是模型的數(shù)據(jù)規(guī)模使得這些模型工作得越來越好，但模型的能力可能會觸及到天花板，因?yàn)閿?shù)據(jù)量有限。

我認(rèn)為 OpenAI 已經(jīng)抓取了網(wǎng)絡(luò)上的所有內(nèi)容，而谷歌也可能可以訪問網(wǎng)絡(luò)上的所有內(nèi)容，因此我們可能需要開始開發(fā)更好的系統(tǒng)?，F(xiàn)在這些模型也很難調(diào)試，例如它犯了錯誤，我們并不知道它為何會犯錯誤，因?yàn)檫@些是非常復(fù)雜的系統(tǒng)，就像當(dāng)它產(chǎn)生“幻覺”時一樣，很難說為什么會產(chǎn)生“幻覺”，所以這些模型缺乏一些黑匣子可解釋性，所以我認(rèn)為這些系統(tǒng)的下一代，你會將某種規(guī)則集或某種約束納入這些模型中，以便它們總是產(chǎn)生事實(shí)上正確的示例答案。在這個領(lǐng)域確實(shí)有人在做工作，但現(xiàn)在大多數(shù)時候這些模型都是被我們稱之為一個小黑匣子，很難判斷里面發(fā)生了什么。

騰訊新聞《潛望》：就像你提到的那樣，如果我們耗盡了互聯(lián)網(wǎng)上所有可用的數(shù)據(jù)，接下來如果我們真的想讓人工智能的能力提升到一個新的水平，下一步重要的是什么？

Russ Salakhutdinov:我相信人工智能系統(tǒng)的下一個演變，就像我們討論過的那樣，將是可以在物理世界中交互的代理，可以移動的機(jī)器人，可能是模擬的虛擬世界或物理世界。在人工智能的研究領(lǐng)域中，有一部分稱為主動學(xué)習(xí)，就像我們?nèi)祟惻c物理世界的相互作用一樣，從中學(xué)習(xí)，我認(rèn)為這種主動學(xué)習(xí)可能會成為人工智能的下一次迭代、下一次演變。

我認(rèn)為下一個十年將是人工智能的黃金時代，你將開始看到越來越多的功能，也許更智能的模型，這是非常令人興奮的。

所以這就是杰夫·辛頓為什么有理由產(chǎn)生擔(dān)憂。

但我目前還看不到人工智能系統(tǒng)將接管世界的階段，我認(rèn)為它們目前還處在非常有用的階段，這些模型的下一個演變將是主動采取行動的模型，例如，你只需告訴他，我需要去看醫(yī)生，然后你的機(jī)器人會打電話給醫(yī)生，會找到預(yù)約日期，告訴你明天12 點(diǎn)要去看醫(yī)生，這就是對我們帶來實(shí)際的幫助。

蘋果在研發(fā)自己的大模型，且更重視數(shù)據(jù)隱私

騰訊新聞《潛望》：你之前曾在蘋果工作，在那里領(lǐng)導(dǎo)人工智能研究，此前蘋果剛剛宣布了他們的 Vision Pro，看起來蘋果對未來的愿景和其他人不一樣，采取一種不一樣的路徑。你能結(jié)合之前在蘋果公司的經(jīng)歷，談?wù)勀愕睦斫鈫幔?/p>

Russ Salakhutdinov:是的，我認(rèn)為蘋果是這個領(lǐng)域的領(lǐng)導(dǎo)者，我也曾在蘋果工作過。你也知道Vision Pro，他們在ChatGPT 之前就已經(jīng)在這方面工作了很長時間，當(dāng)然蘋果也在研究這些大型語言模型，我確信他們也正在研究他們自己的ChatGPT之類的系統(tǒng)。（注：在本文發(fā)布前一周，有消息稱，蘋果正在研發(fā)自己的大語言模型。）

Siri 和個人協(xié)助是蘋果產(chǎn)品的一個非常重要的部分，但我認(rèn)為，巨大的虛擬現(xiàn)實(shí)是一個有趣的嘗試，但現(xiàn)在的問題之一仍然是你必須把這個東西戴在頭上，這與 Meta的oculus是一樣的，蘋果顯然非常相信可穿戴設(shè)備，你的手表、手機(jī)、耳機(jī)、平板電腦上的一切都是他們，他們想要集成。

當(dāng)我在蘋果時，我聽說過這個項(xiàng)目。但我擔(dān)心的是，你仍然不喜歡在頭上戴東西，它會在你的額頭上留下痕跡。我的意思是，我確信他們會不斷改進(jìn)，因?yàn)樘O果的一個特點(diǎn)是，他們真的在考慮集成軟件和硬件，這是非常非常強(qiáng)大的。

我知道蘋果肯定正在研究大語言模型，他們也在考慮如何將該技術(shù)應(yīng)用到產(chǎn)品中，基本上我認(rèn)為蘋果是唯一一家能夠?qū)④浖陀布矫娼Y(jié)合得這么好的公司，可以真正將產(chǎn)品交付到每一個用戶的面前，每個消費(fèi)者都可以非常方便順利地使用。

騰訊新聞《潛望》：當(dāng)蘋果第一次推出 Siri 時，我想可能是在 10 年前，當(dāng)時人們對Siri所展現(xiàn)出的自然語言交互的能力感到非常驚訝，但經(jīng)過這些年，現(xiàn)在看來， Siri卻有些過時了，依然只能完成非常簡單的任務(wù)，例如撥打電話、設(shè)置鬧鐘等，為什么蘋果這些年沒有真正更新和增強(qiáng)Siri的功能？

Russ Salakhutdinov:我在2020年離開蘋果，即使在那個時候，我也認(rèn)為谷歌有更好的語音識別能力，但蘋果的獨(dú)特之處在于，他們確實(shí)考慮到了隱私和個人數(shù)據(jù)保護(hù)的問題。

例如，當(dāng)我詢問Siri一些信息時，信息保留在手機(jī)上并執(zhí)行；而在使用谷歌相關(guān)的設(shè)備和服務(wù)時，例如，你問一些問題，谷歌手機(jī)就會將這些信息發(fā)送到谷歌云，然后返回到你的手機(jī)，而云上擁有更多的計算能力，你可以做更多的事情。所以這就像兩個完全不同的觀點(diǎn)，這就是為什么我認(rèn)為 Siri 落后于谷歌，因?yàn)樘O果試圖在你的手機(jī)上做所有的事情。

在某種程度上，我認(rèn)為未來人們會更信任蘋果設(shè)備，因?yàn)樗麄冎滥愕臄?shù)據(jù)不會去某個地方，不會被人用來訓(xùn)練他們的模型。現(xiàn)在，蘋果在構(gòu)建這些大型語言模型時，他們也希望能夠在手機(jī)上構(gòu)建它們，我認(rèn)為是對的，所以他們必須在能夠處理的方面進(jìn)行創(chuàng)新，因?yàn)镃hatGPT 的工作方式就像參數(shù)模型中的多重性，它有很多參數(shù)，因此必須在云上運(yùn)行，必須運(yùn)行許多 GPU 來處理數(shù)據(jù)，你現(xiàn)在還不能在手機(jī)上做到這一點(diǎn)，所以這就是為什么我認(rèn)為蘋果他們試圖考慮新的硬件、新的芯片、新的設(shè)計，以便在個人設(shè)備上處理這些信息。

騰訊新聞《潛望》：所以從這個角度來看，蘋果在研發(fā)自己的大型語言模型方面，給自己設(shè)置了很多限制。

Russ Salakhutdinov:是的，但同時客戶確實(shí)信任蘋果，就像他們真正所宣稱的那樣，對隱私數(shù)據(jù)非常重視，所以我相信未來人們會比其他公司更信任他們。

OpenAI為何決定不開源？

騰訊新聞《潛望》：OpenAI現(xiàn)在是一家最受關(guān)注的公司，當(dāng)Transformer架構(gòu)在6、7年前提出時，為何OpenAI將大語言模型作為重點(diǎn)攻克的方向，并且現(xiàn)在一鳴驚人?

Russ Salakhutdinov:是的，事實(shí)上OpenAI的首席科學(xué)家之一是我的實(shí)驗(yàn)室伙伴，他就坐在我旁邊，他是聯(lián)合創(chuàng)始人之一。OpenAI在早期探索很多不同的東西，比如探索玩游戲，我認(rèn)為他們正在嘗試構(gòu)建可以玩游戲的代理，就像我正在做的那樣，他們嘗試了機(jī)器人技術(shù)，他們嘗試了很多不同的東西。

在某些時候，他們意識到通過語言應(yīng)用存在潛力，他們最初使用Transformer，得到了回報。但對于OpenAI來說，要么創(chuàng)造出一些令人驚嘆的產(chǎn)品，要么就破產(chǎn)了。

他們基本上只是專注于這一件事，盡管底層架構(gòu)是由谷歌開發(fā)的，谷歌內(nèi)部也有一個名為Bard的模型，它本質(zhì)上與ChatGPT相同，但可能表現(xiàn)沒有那么好。

騰訊新聞《潛望》：所以現(xiàn)在他們決定不將模型開源，你認(rèn)為他們正在做正確的事情嗎？

Russ Salakhutdinov:這是一個非常非常棘手的問題，OpenAI最初的使命是成為非營利組織，他們是要做開源的，但在他們開發(fā)GPT 3 模型的某個時刻，他們決定不開源它，因?yàn)樗麄冋J(rèn)為人們可能會濫用該模型，他們可以生成很多假的文本或假的新聞，所以他們決定不開源。

OpenAI現(xiàn)在主要與微軟合作，所以他們開發(fā)的所有技術(shù)都會進(jìn)入微軟的產(chǎn)品，微軟非常支持他們，因?yàn)檫@需要大量的計算、大量的 GPU、大量的工程標(biāo)記，才能完成這件事，微軟顯然不會開源它，因?yàn)樗鼘⒊蔀楫a(chǎn)品的一部分，所以在這一點(diǎn)上我認(rèn)為他們不會開源任何東西，因?yàn)樗麄儽仨氂麄儽仨毶妗?/strong>

但同時現(xiàn)在有很多項(xiàng)目，這些模型都是開源的，比如 Meta 發(fā)布了 LLama 模型，該模型是開源的技術(shù)，現(xiàn)在很多公司正在構(gòu)建自己的模型，他們自己的語言模型。

騰訊新聞《潛望》：最近OpenAI的CEO Sam Altman進(jìn)行了環(huán)球旅行，他見了很多歐洲的政客，還有到訪印度和韓國，呼吁人工智能安全和監(jiān)管，很多人都說他現(xiàn)在看起來更像一個政客，你認(rèn)為他這樣做的意圖是什么？是為了呼吁國際社會對于人工智能更多的關(guān)注嗎？

Russ Salakhutdinov:是的，我認(rèn)為他是一個非常理性的人，他的獨(dú)特之處在于，他在OpenAI沒有任何股權(quán)，他在OpenAI的商業(yè)成功中不會得到任何利益，我尊重他這一點(diǎn)，因?yàn)樗⒉皇菫榱隋X而嘗試做這些事。我認(rèn)為他們正在做一些公共關(guān)系相關(guān)的事，為OpenAI建立品牌，希望人們在一切事物中使用它，這是品牌建設(shè)的一部分。

人工智能社區(qū)現(xiàn)在一次又一次地分裂，我們是否應(yīng)該要求監(jiān)管？如果我們不要求對這些發(fā)展的監(jiān)管，有些人會采取極端的方式，他們說我們應(yīng)該暫停，不要進(jìn)行任何開發(fā)；有些人說不，我們應(yīng)該繼續(xù)開發(fā)人工智能，構(gòu)建技術(shù)，然后測試它。所以這是一個非常有趣的時刻，因?yàn)闆]有人清楚地知道人工智能是否會接管世界并殺死我們，這只是很多不確定性，所以人們提出擔(dān)憂。但我認(rèn)為也許提高一些關(guān)注是好的，因?yàn)檫@項(xiàng)技術(shù)將被社會普通人使用，所以更多的關(guān)注將了解這些系統(tǒng)可以做什么。就像隱私一樣，例如我分享我的個人數(shù)據(jù)給ChatGPT， 我不知道這是好事還是壞事，但至少提高了人們對這些系統(tǒng)的認(rèn)識。

我認(rèn)為總的來說，這是一件好事，我個人認(rèn)為我們不應(yīng)該發(fā)布對人工智能發(fā)展的嚴(yán)格規(guī)定。

未來很多公司都有自己的專門模型

騰訊新聞《潛望》：我們可以看到美國和中國的人工智能研發(fā)都令人興奮，但從初創(chuàng)公司的角度也有一些非常顯著的差異。在硅谷，我們看到很多人都在應(yīng)用層做創(chuàng)新創(chuàng)業(yè)，而不去進(jìn)行所謂大模型的研發(fā)，但在中國，很多公司說他們正在做自己的大型語言模型。為什么會存在這樣的差異？

Russ Salakhutdinov:我認(rèn)為未來許多公司都需要建立自己的大語言模型，原因是對于客戶來說，自己的數(shù)據(jù)是最重要的，所以需要建立自己數(shù)據(jù)的大模型，以便消費(fèi)者可以更簡單的方式與我的數(shù)據(jù)進(jìn)行交互。例如，彭博已經(jīng)建立了基于自己的金融數(shù)據(jù)的GPT 模型。

我認(rèn)為美國將成為關(guān)鍵參與者，你可能知道微軟、谷歌、亞馬遜將建立自己的模型，因?yàn)樗麄儞碛凶约旱挠嬎阗Y源，或許在微軟或谷歌等的幫助下，也會有很多專門的模型，比如金融模型，制藥模型，每個行業(yè)都會建立自己的模型。如果我是一家金融公司，我不會將我的數(shù)據(jù)發(fā)送給OpenAI，它是私有的，是專有數(shù)據(jù)，這些信息進(jìn)入OpenAI，然后它會傳給其他人，所以我認(rèn)為很多大公司都會擁有自己的專門的模型。

當(dāng)然會有像的微軟、谷歌、亞馬遜這樣的大玩家提供這些用于通用目的，但我覺得將來肯定會有很多專門的模型。

騰訊新聞《潛望》：對于一些像初創(chuàng)公司這樣的小公司來說，他們?nèi)狈Υ罅康挠嬎隳芰?，沒有像大公司那樣的資源，所以他們創(chuàng)業(yè)的方向是否應(yīng)該專注于應(yīng)用層面？

Russ Salakhutdinov:我認(rèn)為這些大玩家與其他人的區(qū)別在于計算資源，因?yàn)樗馨嘿F。構(gòu)建這些模型，比如像在 5 萬個 GPU 上訓(xùn)練，將花費(fèi)你 5000 萬美元。所以對于一個初創(chuàng)公司，我認(rèn)為未來可能會出現(xiàn)像 LLama by meta 這樣的開源模型，你可以采用這個開源模型，然后你可以采用自己的數(shù)據(jù)，再進(jìn)行微調(diào)。

我正在與硅谷的很多公司交談，這是很多人現(xiàn)在正在采取的方法，有很多初創(chuàng)公司正在嘗試減少計算量。

構(gòu)建這些模型，使計算量只有大模型的十分之一，就像你可以在OpenAI中進(jìn)行很多優(yōu)化一樣，這樣使得訓(xùn)練模型更便宜。如果我是一家制藥公司，我真的想要建立非常非常準(zhǔn)確的模型，我的模型可以更小，不需要那么多的計算，我可以采用這些開源的大型模型之一，并將其??微調(diào)到我的特定領(lǐng)域，這就是未來可能發(fā)生的事情。

騰訊新聞《潛望》：現(xiàn)在行業(yè)除了關(guān)注大語言模型以及與其應(yīng)用層相關(guān)的創(chuàng)新，還有其他值得探索的方向嗎？

Russ Salakhutdinov:大型語言模型是所謂基礎(chǔ)模型的一部分，基礎(chǔ)模型基本上是一個像Transformer一樣的模型，它建立在大量數(shù)據(jù)的基礎(chǔ)上，人們現(xiàn)在可以為機(jī)器人技術(shù)建立一個基礎(chǔ)模型，比如我的一個學(xué)生正在與英偉達(dá)合作，他試圖建立一個像GPT模型一樣的操縱模型，構(gòu)建一個可以操縱任何類型物體的機(jī)器人，這是一個非常有趣的領(lǐng)域。

我們與英偉達(dá)合作，因?yàn)橛ミ_(dá)具備計算能力，但構(gòu)建這個機(jī)器人仍然很困難，例如抓住我的 iPhone，操縱和放置。除了大型語言模型之外，人們現(xiàn)在正在嘗試構(gòu)建不同領(lǐng)域的基礎(chǔ)模型，比如視頻基礎(chǔ)模型能否也取得巨大成功。如果我想在抖音上創(chuàng)建一些東西，我只需執(zhí)行提示，它就會為我創(chuàng)建一個視頻。

世界上最聰明的人都在研究AI

騰訊新聞《潛望》：你是否認(rèn)為現(xiàn)在是你職業(yè)生涯中最激動人心的時刻？

Russ Salakhutdinov:到目前為止，我認(rèn)為是這樣，同時也有一點(diǎn)太多了，讓人應(yīng)接不暇?，F(xiàn)在人工智能領(lǐng)域的博士生競爭也變得激烈，換做在今天我或許都無法申請到博士，因?yàn)槲耶?dāng)時并沒有重要的論文發(fā)表。但現(xiàn)在就是這樣，甚至有時我會收到高中生的電子郵件，他們已經(jīng)做了很多很出色的項(xiàng)目。

騰訊新聞《潛望》：這個地球上最聰明的一群人都來這個領(lǐng)域從事研究。

Russ Salakhutdinov:哦，是的，這真是太神奇了，就像我以前的一個學(xué)生楊植麟，他現(xiàn)在是清華大學(xué)的一名教授，他是我最聰明的學(xué)生之一，他實(shí)際上是建立了 GPT 模型前身的人，是與谷歌和我們現(xiàn)在的學(xué)生聯(lián)合完成的，這真是太棒了。

騰訊新聞《潛望》：所以你認(rèn)為現(xiàn)在這樣的情況，在未來將如何演變，是會變得越來越激動人心，還是可能會有所冷卻？

Russ Salakhutdinov:我當(dāng)然希望未來會出現(xiàn)更多令人興奮的事，我總是想起 2016 年的自動駕駛，當(dāng)時我開始為蘋果工作，負(fù)責(zé)自動駕駛相關(guān)工作。2016 年有很多令人興奮的事情，埃隆·馬斯克在特斯拉說兩年后我們將擁有自動駕駛汽車，我們從無到有很快就到了80%、 90%，然后我們就陷入了困境，91%，91.5%……

我只是擔(dān)心，在某些時候，我們是否會遇到天花板。因?yàn)樽詣玉{駛汽車的進(jìn)展非常快，但我們永遠(yuǎn)無法達(dá)到100%的正確程度。

現(xiàn)在已經(jīng)有很多人用ChatGPT做許多事情，有一個案例，一位律師用ChatGPT起草起訴書，其中引用的一些案例完全是編造的。這就是一個問題，現(xiàn)在人們還沒有到可以百分百信任的地步，所以我們依然必須小心這項(xiàng)技術(shù)，因?yàn)樗€處于起步階段，但我認(rèn)為這項(xiàng)技術(shù)具有巨大的潛力。

騰訊新聞《潛望》：你認(rèn)為即使我們采取了非常謹(jǐn)慎的態(tài)度和方法，是否有可能有一天人工智能的發(fā)展依然變得不可控？

Russ Salakhutdinov:作為一名科學(xué)家，你必須始終為這些事件分配概率，你不能說它永遠(yuǎn)不會發(fā)生，所以一定會有發(fā)生的概率，但我不認(rèn)為現(xiàn)在會發(fā)生這種情況。好的方面是，現(xiàn)在已經(jīng)有很多人工智能的子社區(qū)，致力于人工智能安全的研究，他們的工作是讓人工智能研發(fā)不要犯愚蠢的錯誤。我不相信人工智能突然某一天情況會變得非常糟糕，但也許我可能是錯的，所以這就是為什么在我們的社區(qū)中發(fā)出各種聲音是好事，就像杰夫·辛頓和約書亞一樣，他們確實(shí)發(fā)出了警報。但我認(rèn)為大多數(shù)人工智能研究人員至少現(xiàn)在不這么認(rèn)為，但是同時，也有研究人員在人工智能安全領(lǐng)域做研究是件好事，以防萬一如果發(fā)生這種情況，我們會知道該怎么做。

騰訊新聞《潛望》：當(dāng)辛頓教授宣布離開谷歌時，你是否對他的舉動感到驚訝？

Russ Salakhutdinov:在過去的幾年里，他一直在谷歌兼職，所以現(xiàn)在他決定離開，基本上是想說話。他應(yīng)該是在考慮我所說的內(nèi)容，將如何影響我所工作的公司。

我認(rèn)為谷歌是實(shí)際上為數(shù)不多的正確做事的公司，他們對人工智能采取非常謹(jǐn)慎的態(tài)度，沒有做任何瘋狂的事情，他們實(shí)際上是非常好的公司，試圖做正確的事。

我想，他并不是因?yàn)橄胝f什么遭到了谷歌的阻止而不得不離開谷歌。杰夫是我的導(dǎo)師，他可能是我擁有的最好的導(dǎo)師，他給了我很多自由和探索，他真的非常聰明。因?yàn)樗⒉皇窃诳蚣苤兴伎?，他的思考超出了之前的框架，這就是你所知道的。

我很幸運(yùn)，他是讓我進(jìn)入深度學(xué)習(xí)領(lǐng)域的人，也是他讓我進(jìn)入博士項(xiàng)目，我當(dāng)時沒有想過要攻讀博士學(xué)位，而是在考慮其他職業(yè)，但他有一天早上抓住我，帶我去他的辦公室，向我展示了這些深度學(xué)習(xí)類型的算法，然后我說，哇，這非常有趣，好吧，我要去讀博士。

騰訊新聞《潛望》：這是一個有趣的故事，謝謝你與我們分享，通過今天的采訪，我可以感受到你作為AI研究者的興奮。感謝接受我們的采訪！