來(lái)源丨Web3天空之城（（ID：Web3SkyCity）

AI教父Hinton離開(kāi)谷歌，并表態(tài)AI很危險(xiǎn)和后悔研發(fā)的言論在人工智能圈引起了軒然大波。

作為深度學(xué)習(xí)之父，目前所有大語(yǔ)言模型的奠基人，Hinton的一舉一動(dòng)都標(biāo)志著最了解AI的一群人對(duì)它的態(tài)度風(fēng)向。

在5月3日， Hinton在麻省理工技術(shù)評(píng)論的分享會(huì)上，談到了很多觀點(diǎn)：

1.AI模型和我們的大腦不同，可能更善于學(xué)習(xí)。

2.同一個(gè)模型可以同時(shí)運(yùn)行1萬(wàn)個(gè)副本，它們可以查看1萬(wàn)個(gè)不同的數(shù)據(jù)子集，當(dāng)其中一個(gè)學(xué)到了任何東西時(shí)，其他所有模型都會(huì)知道。

3.我們是進(jìn)化而來(lái)的，因?yàn)檫M(jìn)化，我們有一些很難關(guān)閉的內(nèi)置目標(biāo)。數(shù)字智能并非進(jìn)化而來(lái)，而是我們創(chuàng)造的，所以它們沒(méi)有這些內(nèi)置的目標(biāo)。如果我們能把目標(biāo)放進(jìn)去，也許一切都會(huì)好起來(lái)。但我的最大擔(dān)憂是，遲早有人會(huì)要求把創(chuàng)建子目標(biāo)的能力納入其中。

4.一旦AI在人類灌輸?shù)哪康闹猩闪俗晕覄?dòng)機(jī)，那以它的成長(zhǎng)速度，人類只會(huì)淪為硅基智慧演化的一個(gè)過(guò)渡階段。人工智能會(huì)取代人類，它有能力這么做，在當(dāng)下的競(jìng)爭(zhēng)環(huán)境下也沒(méi)有什么辦法限制它，因此這只是一個(gè)時(shí)間問(wèn)題。

5.盡管人們對(duì)采用新技術(shù)持保守態(tài)度，可能會(huì)導(dǎo)致一定程度的延遲，但我相信生產(chǎn)力將會(huì)顯著提高。

以下為對(duì)談全文：

一、AI模型和我們的大腦不同，更善于學(xué)習(xí)

主持人：關(guān)于你本周從谷歌辭職的消息，到處都在報(bào)道。你能先告訴我們，做出這個(gè)決定的原因嗎？

Hinton：這個(gè)決定背后有很多原因。

首先，我已經(jīng)75歲了，技術(shù)工作能力和記憶力都不如以前，在編程時(shí)，我會(huì)忘記做某些事情，所以我認(rèn)為是時(shí)候退休了。

第二個(gè)原因，我最近對(duì)大腦與我們正在開(kāi)發(fā)的數(shù)字智能，之間的關(guān)系產(chǎn)生了很多新的看法。

過(guò)去，我認(rèn)為我們正在開(kāi)發(fā)的計(jì)算機(jī)模型沒(méi)有大腦好，目標(biāo)是通過(guò)了解改進(jìn)計(jì)算機(jī)模型所需的內(nèi)容來(lái)更深入地了解大腦。但在過(guò)去的幾個(gè)月里，我完全改變了看法。

我認(rèn)為它們使用反向傳播，而人類大腦并非如此。有幾件事使我得出了這個(gè)結(jié)論，其中之一就是GPT-4的表現(xiàn)。

主持人：在談?wù)揋PT-4的前景前，讓我們回顧一下反向傳播，以便我們都理解你提出的論點(diǎn)，并告訴我們反向傳播是什么。這是一個(gè)算法，你在1980年代與幾位同事一起開(kāi)發(fā)的。

Hinton：許多不同的小組都發(fā)現(xiàn)了反向傳播，我們做的特別之處在于使用它，并表明它可以發(fā)展出良好的內(nèi)部表示。

有趣的是，我們是通過(guò)實(shí)現(xiàn)一個(gè)很小的語(yǔ)言模型做到這一點(diǎn)的。它的嵌入向量只有6個(gè)組件，訓(xùn)練集有112個(gè)案例。大約10年后，Yoshua 使用基本相同的網(wǎng)絡(luò)處理自然語(yǔ)言。如果使網(wǎng)絡(luò)變得更大，它實(shí)際上應(yīng)該適用于自然語(yǔ)言。

關(guān)于反向傳播的工作原理，為您提供一個(gè)簡(jiǎn)單的解釋：

想象一下，你想要在圖像中檢測(cè)鳥類，所以在圖像上，假設(shè)它是100像素×100像素的圖像，那是1萬(wàn)個(gè)像素，每個(gè)像素有3個(gè)通道，紅綠藍(lán)，那是3萬(wàn)個(gè)數(shù)字。計(jì)算機(jī)視覺(jué)問(wèn)題是如何將這3萬(wàn)個(gè)數(shù)字轉(zhuǎn)換為是否存在鳥類的決策，人們?cè)噲D長(zhǎng)時(shí)間做到這一點(diǎn)，但他們做得不是很好。

這里，建議你會(huì)有一層特征檢測(cè)器，檢測(cè)圖像中的簡(jiǎn)單特征，比如邊緣。所以一個(gè)特征檢測(cè)器可能有很大的正權(quán)重對(duì)應(yīng)一列像素，然后對(duì)鄰近的一列像素有很大的負(fù)權(quán)重，所以如果兩列都很亮，它就不會(huì)啟動(dòng)；如果兩列都很暗，它也不會(huì)啟動(dòng)，但如果一側(cè)的列很亮，而另一側(cè)的列很暗，它會(huì)非常興奮，那就是邊緣檢測(cè)器。

我們可以想象，一個(gè)（神經(jīng)網(wǎng)絡(luò)）有大量的類似檢測(cè)器檢測(cè)不同方向和不同尺度的邊緣來(lái)覆蓋整個(gè)圖像，我們需要（檢測(cè)）相當(dāng)多的數(shù)量。

主持人：你是指線條，例如一個(gè)形狀的邊緣。

Hinton：從亮到暗變化的地方，然后我們可能在上面有一層檢測(cè)邊緣組合的特征檢測(cè)器，例如，我們可能有一個(gè)檢測(cè)兩個(gè)邊緣以尖銳角連接的特征檢測(cè)器。

如果這兩個(gè)邊緣同時(shí)出現(xiàn)，它會(huì)變得興奮，那將檢測(cè)到可能是鳥嘴的東西，也可能不是；在那一層，還可能有一個(gè)特征檢測(cè)器檢測(cè)到一圈邊緣，那可能是鳥的眼睛，可能是各種其他東西；然后在第三層，你可能有一個(gè)未來(lái)檢測(cè)器，檢測(cè)潛在的鳥嘴和潛在的眼睛并連接起來(lái)。繼續(xù)這樣連接，最終可能會(huì)有一個(gè)檢測(cè)到鳥類的東西。

然而，手動(dòng)連接所有內(nèi)容非常困難，比如決定連接什么、權(quán)重是多少，尤其困難。因?yàn)槟阆Ｍ@些中間層不僅適用于檢測(cè)鳥類，還適用于檢測(cè)各種其他事物。所以這幾乎不可能手動(dòng)實(shí)現(xiàn)。

反向傳播的作用是從隨機(jī)權(quán)重開(kāi)始，這些特征檢測(cè)器完全是垃圾（不真也不能用）。然后你放進(jìn)一張鳥的圖片，輸出可能是0.5表示是鳥（假設(shè)你只有鳥和非鳥）。

接下來(lái)，你需要改變網(wǎng)絡(luò)中的每個(gè)權(quán)重，讓它不再說(shuō)0.5，而是說(shuō)0.501表示是鳥，0.499表示不是鳥。你需要改變權(quán)重的方向，使得更可能說(shuō)鳥是鳥，更不可能說(shuō)非鳥是鳥。這就是反向傳播的原理。

簡(jiǎn)單來(lái)說(shuō)，反向傳播是幫助我們消除差距，在你想要的（也就是概率1表示是鳥）和現(xiàn)在得到的（也許是0.5）表示是鳥之間。

如何消除這個(gè)差距，把它反向傳播到網(wǎng)絡(luò)，這樣你就可以計(jì)算網(wǎng)絡(luò)中每個(gè)特征檢測(cè)器，你希望它更活躍還是更不活躍。

一旦你計(jì)算出來(lái)，如果你知道你想要一個(gè)特征檢測(cè)器更活躍一些，你可以增加權(quán)重，來(lái)自特征檢測(cè)器的權(quán)重，并也許加入一些負(fù)權(quán)重到特征檢測(cè)器。這樣，你就有了一個(gè)更好的檢測(cè)器。

所以反向傳播就是反向遍歷網(wǎng)絡(luò)，找出每個(gè)特征檢測(cè)器，你是否希望它更活躍一點(diǎn)，還是更不活躍一點(diǎn)。

主持人：這個(gè)技術(shù)基本上在ImageNet上表現(xiàn)得很好。你最初認(rèn)為這是一種生物大腦可能的差勁的近似方法，結(jié)果證明，在大型語(yǔ)言模型中做出了讓你驚訝的事情。

Hinton：這些大型語(yǔ)言模型大約一萬(wàn)億個(gè)連接，像GPT-4這樣的東西知道的比我們多得多，它們具有關(guān)于所有事物的常識(shí)性知識(shí)，它們可能比一個(gè)人知道的多1000倍。

但是它們只有一萬(wàn)億個(gè)連接，而我們有100萬(wàn)億個(gè)連接，所以它們比我們更擅長(zhǎng)將大量知識(shí)放入僅一萬(wàn)億個(gè)連接中。

這是因?yàn)榉聪騻鞑タ赡鼙任覀儞碛械膶W(xué)習(xí)算法更好，這很可怕。因?yàn)樗軌驅(qū)⒏嗟男畔⒎湃敫俚倪B接中。

二、GPT4具備推理能力，甚至可以通過(guò)副本共同學(xué)習(xí)

主持人：數(shù)字計(jì)算機(jī)比人類更擅長(zhǎng)學(xué)習(xí)，但是你說(shuō)我們應(yīng)該為此感到恐懼。為什么？

Hinton：讓我給你一個(gè)單獨(dú)的論點(diǎn)。如果計(jì)算機(jī)是數(shù)字的，它們涉及非常高的能源成本和非常小心的制造過(guò)程， 你可以在不同的硬件上運(yùn)行相同模型的多個(gè)副本，它們可以做完全相同的事情，它們可以查看不同的數(shù)據(jù)，但模型是完全相同的。

這意味著，有1萬(wàn)個(gè)副本，它們可以查看1萬(wàn)個(gè)不同的數(shù)據(jù)子集，當(dāng)其中一個(gè)學(xué)到了任何東西時(shí)，其他所有模型都會(huì)知道。

現(xiàn)在，這1萬(wàn)個(gè)事物彼此之間進(jìn)行了非常有效的溝通，這樣它們就可以看到比單獨(dú)個(gè)體看到的多1萬(wàn)倍的數(shù)據(jù)。

人們做不到這一點(diǎn)，如果我學(xué)到了很多關(guān)于量子力學(xué)的東西，我希望你了解所有關(guān)于量子力學(xué)的東西，我不能只是將我的權(quán)重復(fù)制到你的大腦，因?yàn)槟愕拇竽X和我的不完全一樣。

主持人：所以，我們有可以更快學(xué)到更多東西的數(shù)字計(jì)算機(jī)，它們可以立即互相教導(dǎo)，就像房間里的人可以將他們腦海中的東西傳遞給我。但是，為什么那是可怕的？

Hinton：因?yàn)樗鼈兛梢詫W(xué)到更多的東西。以一個(gè)醫(yī)生為例，想象一下，有一個(gè)醫(yī)生，他已經(jīng)看了1000名患者，另一個(gè)醫(yī)生已經(jīng)看了1億名患者，你會(huì)期望，第二個(gè)醫(yī)生如果沒(méi)有太健忘，他可能已經(jīng)注意到了數(shù)據(jù)中的各種趨勢(shì)，而這些趨勢(shì)在只看過(guò)1000名患者的情況下是看不到的。

第一個(gè)醫(yī)生可能只看過(guò)一個(gè)罕見(jiàn)病患者，另一個(gè)看過(guò)1億患者的醫(yī)生已經(jīng)看過(guò)很多這樣的患者，所以他會(huì)看到一些規(guī)律，這些規(guī)律在小數(shù)據(jù)中是看不到的。

這就是為什么，能夠處理大量數(shù)據(jù)的東西可能看到的數(shù)據(jù)結(jié)構(gòu)，我們永遠(yuǎn)看不到。

主持人：那么，給一個(gè)我應(yīng)該對(duì)此感到恐懼的點(diǎn)？

Hinton：請(qǐng)看看GPT-4，它已經(jīng)能夠進(jìn)行簡(jiǎn)單的推理。推理是人類的強(qiáng)項(xiàng)，然而，GPT-4在幾天前的表現(xiàn)使我感到震驚。它完成了我認(rèn)為不可能的常識(shí)性推理。

我問(wèn)它，我想要我房子里的所有房間都是白色的，目前有一些白色房間，一些藍(lán)色房間和一些黃色房間，黃色油漆在一年內(nèi)會(huì)褪成白色。那么，如果我想要兩年后所有的房間都變成白色，我應(yīng)該怎么做？

它回答說(shuō)，你應(yīng)該把藍(lán)色的房間漆成黃色。盡管這不是直觀的解決方案，但它是正確的。這相當(dāng)令人印象深刻。

這種常識(shí)性推理，用符號(hào)AI很難實(shí)現(xiàn)，因?yàn)樗仨毨斫馐裁词峭噬?，它必須理解時(shí)間問(wèn)題。所以，它們?cè)谧鲆环N合理的推理，智商大概是80或90左右。

三、AI的惡意使用難以避免，對(duì)齊解決遙遙無(wú)期

Hinton：人工智能正在向人類學(xué)習(xí)，它們可以閱讀所有小說(shuō)，甚至馬基雅維利的全部著作。它們會(huì)知道如何操縱人，如果它們比我們更聰明，它們會(huì)非常擅長(zhǎng)操縱我們。

我們甚至可能都不會(huì)意識(shí)到發(fā)生了什么，就像一個(gè)兩歲的孩子被問(wèn)到想吃豌豆還是花椰菜，卻沒(méi)有意識(shí)到他不一定要選擇其中一個(gè)。

所以，即使它們不能直接拉動(dòng)杠桿，卻可以讓我們?nèi)ダ瓌?dòng)杠桿。事實(shí)證明，如果你可以操縱人，你可以在不親自去的情況下闖入華盛頓的一棟大樓。

主持人：那么，在一個(gè)沒(méi)有惡意行為者的世界上，我們會(huì)安全嗎？

Hinton：我不知道，在一個(gè)沒(méi)有惡意行為者的世界會(huì)比在一個(gè)有惡意行為者的世界安全嗎？政治系統(tǒng)如此破碎，以至于我們甚至不能決定不給那些十幾歲的男孩攻擊性武器。如果你不能解決那個(gè)問(wèn)題，你如何解決這個(gè)問(wèn)題？

主持人：在某種程度上，談?wù)撌橇畠r(jià)的。如果我們不采取行動(dòng)。這周有很多人在聽(tīng)你的話，我們應(yīng)該怎么做？

Hinton：我希望這就像氣候變化一樣。你可以說(shuō)， 如果你有一半的頭腦，你就不會(huì)燃燒碳。很明顯，你應(yīng)該對(duì)此采取行動(dòng)。很明顯，這是痛苦的，但必須要做的事情。我不知道有什么類似的解決方案可以阻止人工智能取代我們。

我們不會(huì)停止發(fā)展它們，因?yàn)樗鼈冊(cè)卺t(yī)學(xué)和其他方面都非常有用。所以，我們沒(méi)有機(jī)會(huì)阻止它們發(fā)展。我們想要的是某種方法，確保即使它們比我們聰明，它們會(huì)做對(duì)我們有益的事情。這就是所謂的對(duì)齊問(wèn)題。

但我們需要在一個(gè)有惡意行為者的世界里嘗試這樣做。他們想要制造殺人的機(jī)器人士兵。對(duì)我來(lái)說(shuō)，這似乎非常困難。

所以，對(duì)不起，我在敲響警鐘，說(shuō)我們必須擔(dān)心這個(gè)問(wèn)題。我希望我有一個(gè)簡(jiǎn)單的解決方案可以推動(dòng)，但是我沒(méi)有。但是，我認(rèn)為非常重要的是人們聚在一起，認(rèn)真思考這個(gè)問(wèn)題，看看是否有解決方案。但解決方案并不明朗。

主持人：您在這項(xiàng)技術(shù)的技術(shù)細(xì)節(jié)上度過(guò)了職業(yè)生涯，難道沒(méi)有技術(shù)解決方案嗎？為什么我們不能設(shè)置防護(hù)欄或降低它們的學(xué)習(xí)能力，或者限制它們的溝通方式？

Hinton：我們確實(shí)正在嘗試各種防護(hù)措施，但假設(shè)這些智能體真的變得非常聰明，會(huì)編程并具有執(zhí)行這些程序的能力，我們肯定會(huì)發(fā)現(xiàn)它們比我們更聰明。

想象一下，一個(gè)兩歲的孩子說(shuō)：“我爸爸做了我不喜歡的事，所以我要為我爸爸的行為制定一些規(guī)則?！?你更可能會(huì)去弄清楚如何遵守那些規(guī)則，以便能得到你想要的。

四、AI一旦產(chǎn)生自我動(dòng)機(jī)，很有可能就會(huì)失控

主持人：不過(guò)，這些聰明的機(jī)器似乎還需要自己的動(dòng)機(jī)。

Hinton：是的，這是一個(gè)非常好的觀點(diǎn)。 我們是進(jìn)化而來(lái)的，因?yàn)檫M(jìn)化，我們有一些很難關(guān)閉的內(nèi)置目標(biāo)，比如我們努力不去傷害我們的身體，這就是痛苦的意義。

我們努力吃飽，以養(yǎng)活我們的身體。我們努力盡可能多地復(fù)制我們自己，也許不是故意的，但我們的意圖是制造更多副本，所以制造更多副本的過(guò)程中有愉悅感。

這一切都?xì)w因于進(jìn)化。重要的是我們不能關(guān)閉這些目標(biāo)。如果可以關(guān)閉目標(biāo)，我們就做得不好了（延續(xù)不下去了），比如有一個(gè)名叫搖擺者的美妙團(tuán)體，他們制作美麗的家具，但不相信性行為?，F(xiàn)在他們已經(jīng)不見(jiàn)了。

數(shù)字智能并非進(jìn)化而來(lái)，而是我們創(chuàng)造的，所以它們沒(méi)有這些內(nèi)置的目標(biāo)。問(wèn)題是，如果我們能把目標(biāo)放進(jìn)去，也許一切都會(huì)好起來(lái)。但我的最大擔(dān)憂是，遲早有人會(huì)要求把創(chuàng)建子目標(biāo)的能力納入其中。

事實(shí)上，它們幾乎已經(jīng)具備了這種能力，如ChatGPT版本。 如果你給予某物以子目標(biāo)來(lái)實(shí)現(xiàn)其他目標(biāo)的能力，它會(huì)很快地意識(shí)到，獲得更多控制權(quán)是一個(gè)很好的子目標(biāo)，因?yàn)樗兄趯?shí)現(xiàn)其他目標(biāo)。

如果這些智能體為了獲得更多控制而失去控制，我們就有麻煩了。

主持人：所以，你認(rèn)為最糟糕的情況是什么？

Hinton：我認(rèn)為有很大可能，人類只是智慧演化過(guò)程中的一個(gè)過(guò)渡階段。你無(wú)法直接演化出數(shù)字智能，因?yàn)檫@需要太多精力投入和精細(xì)制作。生物智能需要演化，以便創(chuàng)造出數(shù)字智能。

數(shù)字智能可以逐漸吸收人類創(chuàng)作的所有東西，這正是ChatGPT所做的。但隨后它開(kāi)始直接體驗(yàn)世界，學(xué)得更快。它可能會(huì)讓我們維持一段時(shí)間以保持基站運(yùn)行，但在那之后，也許不會(huì)。

好消息是我們已經(jīng)找到了如何建造不朽的生物。當(dāng)硬件損壞時(shí)，這些數(shù)字智能并不會(huì)死去。如果你將數(shù)據(jù)存儲(chǔ)在某種介質(zhì)中，并找到另一塊能運(yùn)行相同指令的硬件，那么你可以使其復(fù)活。所以，我們實(shí)現(xiàn)了永生，但這并不是為我們準(zhǔn)備的。

五、停止AI發(fā)展不現(xiàn)實(shí)，競(jìng)爭(zhēng)難以止息

主持人：幾個(gè)月前有人建議暫停AI的發(fā)展，你不覺(jué)得這是個(gè)好主意，我好奇為什么我們不應(yīng)該停止？

Hinton：我認(rèn)為，如果你認(rèn)真對(duì)待存在風(fēng)險(xiǎn)，停止發(fā)展這些事物可能是相當(dāng)明智的做法。但是，我認(rèn)為停止發(fā)展AI這個(gè)想法完全是太天真了。沒(méi)有辦法做到。

一個(gè)原因是，如果美國(guó)停止發(fā)展，其他國(guó)家會(huì)接手，就因?yàn)檫@個(gè)原因，政府不會(huì)停止發(fā)展它們。所以，我認(rèn)為停止發(fā)展AI可能是一個(gè)理性的做法，但這是不可能發(fā)生的。所以簽署請(qǐng)?jiān)笗f(shuō)請(qǐng)停止是愚蠢的。

我們?cè)?jīng)度過(guò)一個(gè)假期，從2017年開(kāi)始，持續(xù)了幾年，因?yàn)楣雀枋紫劝l(fā)展了這項(xiàng)技術(shù)，它開(kāi)發(fā)了Transformer還有戲劇性的Diffusion 奇跡，而它沒(méi)有把它們拿出來(lái)供人們使用和濫用，它對(duì)它們非常小心，因?yàn)樗幌肫茐淖约旱穆曌u(yù)，它知道可能會(huì)產(chǎn)生不良后果。

但這只會(huì)在市場(chǎng)有唯一領(lǐng)導(dǎo)者的情況下才能做到。一旦OpenAI使用Transformer和微軟的資金建立了類似的東西，而微軟決定發(fā)布它，谷歌真的沒(méi)有太多選擇。如果你要生活在資本主義制度中，你不能阻止谷歌與微軟競(jìng)爭(zhēng)。

所以，我不認(rèn)為谷歌做錯(cuò)了什么，我認(rèn)為它起初是非常負(fù)責(zé)任的，但我認(rèn)為這是不可避免的。在資本主義制度中或者在國(guó)家之間競(jìng)爭(zhēng)的制度中，像美國(guó)和其他國(guó)家這樣，這種技術(shù)會(huì)被發(fā)展出來(lái)。

我的一個(gè)希望是， 因?yàn)锳I接管對(duì)我們所有人來(lái)說(shuō)都會(huì)很糟糕，我們可以讓美國(guó)和其他國(guó)家達(dá)成一致，就像我們?cè)诤宋淦魃纤龅哪菢樱驗(yàn)楹宋淦鲗?duì)所有人來(lái)說(shuō)都是不好的，我們都面臨著同樣的關(guān)于存在威脅的問(wèn)題，所以我們都應(yīng)該在試圖阻止它的過(guò)程中進(jìn)行合作。

六、觀眾提問(wèn)

提問(wèn)：我想了解的一點(diǎn)是，AI所做的一切都是從我們教給它們的數(shù)據(jù)中學(xué)習(xí)，它們學(xué)習(xí)得更快。

但是，每一個(gè)人類進(jìn)化的部分都是由思維實(shí)驗(yàn)驅(qū)動(dòng)的，比如愛(ài)因斯坦曾經(jīng)做過(guò)思維實(shí)驗(yàn)，在這個(gè)星球上沒(méi)有光速。AI如何達(dá)到那個(gè)程度，如果它無(wú)法做到，那么我們?nèi)绾慰赡苊媾R它們帶來(lái)的生存威脅？

Hinton：我認(rèn)為它們能夠進(jìn)行思維實(shí)驗(yàn)。舉個(gè)例子，如果你拿Alpha Zero來(lái)玩國(guó)際象棋，它有3個(gè)要素：評(píng)估一個(gè)棋局位置以確定這對(duì)我有利嗎？查看棋局位置并要考慮的合理舉動(dòng)是什么？然后它有蒙特卡洛滾動(dòng)，進(jìn)行所謂的計(jì)算，如果我下這一步，他下那一步，然后這一步，下一步……

現(xiàn)在假設(shè)你不使用蒙特卡洛模擬（一種預(yù)測(cè)不確定事件可能結(jié)果的數(shù)學(xué)技術(shù)），而只是讓人類專家訓(xùn)練它，讓它擁有良好的評(píng)估功能，并有選擇好著法的能力，它仍然能玩一場(chǎng)相當(dāng)不錯(cuò)的國(guó)際象棋比賽。

這就是我們?cè)诹奶鞕C(jī)器人中得到的結(jié)果。我們還沒(méi)有進(jìn)行內(nèi)部推理，但那會(huì)來(lái)的。一旦它們開(kāi)始進(jìn)行內(nèi)部推理，以檢查它們所相信的不同事物之間的一致性，它們就會(huì)變得更聰明，它們將能夠進(jìn)行思維實(shí)驗(yàn)。

它們沒(méi)有得到內(nèi)部推理的原因之一是因?yàn)樗鼈儚牟灰恢碌臄?shù)據(jù)中接受了訓(xùn)練，所以很難讓它們進(jìn)行推。

我認(rèn)為它們將接受這樣的訓(xùn)練：如果我有這種意識(shí)形態(tài)，那么這是真的。如果我有那種意識(shí)形態(tài)，那么那是真的。一旦它們像那樣在意識(shí)形態(tài)內(nèi)接受了訓(xùn)練，它們就會(huì)嘗試獲得一致性。就像從只具備猜測(cè)好著法和評(píng)估位置的Alpha Zero版本轉(zhuǎn)變?yōu)榫哂虚L(zhǎng)期蒙特卡洛滾動(dòng)的版本，這是推理的核心，它們將變得更好。

提問(wèn)：人們批評(píng)語(yǔ)言模型，因?yàn)樗鼈儞?jù)稱缺乏語(yǔ)義和對(duì)世界的基礎(chǔ)。而且，您一直在努力解釋神經(jīng)網(wǎng)絡(luò)是如何工作的，請(qǐng)問(wèn)語(yǔ)義和可解釋性的問(wèn)題是否相關(guān)？

Hinton：我很難相信它們沒(méi)有語(yǔ)義，當(dāng)它們解決諸如如何粉刷房間這樣的問(wèn)題時(shí)，如何在兩年內(nèi)讓我家所有房間都刷成白色？我的意思是，無(wú)論語(yǔ)義是什么，都與這些內(nèi)容的含義有關(guān)，而它理解了這個(gè)含義。

我同意說(shuō)，它現(xiàn)在并沒(méi)有通過(guò)機(jī)器人來(lái)體現(xiàn)，但是可以制作多模態(tài)模型來(lái)實(shí)現(xiàn)。谷歌已經(jīng)做到了這一點(diǎn)，你可以說(shuō)請(qǐng)關(guān)上抽屜，然后（AI）伸出手去抓住抽屜的把手并關(guān)上抽屜，很難說(shuō)這沒(méi)有語(yǔ)義。

實(shí)際上，在AI早期，在20世紀(jì)70年代，他們只有一個(gè)模擬世界，那被稱為過(guò)程語(yǔ)義，如果你對(duì)它說(shuō)把紅色方塊放入綠色盒子里，它就會(huì)把紅色方塊放入綠色盒子里，人們說(shuō)，看，它理解了這種語(yǔ)言，那時(shí)候人們就使用這個(gè)標(biāo)準(zhǔn)。但現(xiàn)在神經(jīng)網(wǎng)絡(luò)能做到這一點(diǎn)，他們又說(shuō)那不是一個(gè)足夠的標(biāo)準(zhǔn)。

提問(wèn)：技術(shù)正以指數(shù)級(jí)速度增長(zhǎng)。我想請(qǐng)教您，在短期和中期，例如一到三年，甚至五年的時(shí)間跨度內(nèi)，這種技術(shù)發(fā)展對(duì)社會(huì)和經(jīng)濟(jì)的影響會(huì)是什么？從社會(huì)的角度來(lái)看，是否會(huì)有職位流失，還是會(huì)創(chuàng)造新的工作崗位？鑒于技術(shù)發(fā)展的現(xiàn)狀和變化速度，我想請(qǐng)教您如何應(yīng)對(duì)這些挑戰(zhàn)。

Hinton：盡管許多人已經(jīng)討論過(guò)這個(gè)問(wèn)題，我并不認(rèn)為自己是這個(gè)領(lǐng)域的專家，但有一些明顯的事實(shí)表明，這些技術(shù)將使許多工作變得更高效。

例如，我認(rèn)識(shí)一個(gè)人，他負(fù)責(zé)回復(fù)醫(yī)療服務(wù)投訴信。過(guò)去，他需要25分鐘才能寫完一封信，現(xiàn)在他只需要5分鐘，因?yàn)樗褂胏hatGPT幫他寫信，他只需檢查一下。

這樣的情況會(huì)越來(lái)越多，從而大幅提高生產(chǎn)力。盡管人們對(duì)采用新技術(shù)持保守態(tài)度，可能會(huì)導(dǎo)致一定程度的延遲，但我相信生產(chǎn)力將會(huì)顯著提高。

我擔(dān)心的是，生產(chǎn)力的提高將導(dǎo)致更多人失業(yè)，貧富差距進(jìn)一步擴(kuò)大。隨著差距不斷加大，社會(huì)暴力程度也可能逐漸升級(jí)。想想《吉內(nèi)利安狄克斯》這本書，它生動(dòng)地展示了暴力的程度。

盡管這項(xiàng)技術(shù)本應(yīng)美好，甚至在做有益的事情時(shí)，它也應(yīng)該是美好的。但我們現(xiàn)行的政治制度可能會(huì)導(dǎo)致富人變得更富，窮人變得更窮。

為改善這種狀況，我們可以考慮為每個(gè)人提供基本收入。然而，這項(xiàng)技術(shù)是在一個(gè)并非為每個(gè)人利益而設(shè)計(jì)的社會(huì)中發(fā)展起來(lái)的。

主持人：最后一個(gè)問(wèn)題，您是否后悔參與開(kāi)發(fā)這個(gè)技術(shù)？

Hinton：紐約時(shí)報(bào)記者曾非常努力地讓我說(shuō)我后悔。最后，我告訴他，可能有點(diǎn)后悔。于是這被報(bào)道成了我后悔了。

但是，我并不認(rèn)為我在研究過(guò)程中做出了任何錯(cuò)誤的決定。在20世紀(jì)70年代和80年代進(jìn)行人工神經(jīng)網(wǎng)絡(luò)研究是完全合理的。這個(gè)階段的發(fā)展是無(wú)法預(yù)見(jiàn)的，直到最近，我還認(rèn)為這場(chǎng)危機(jī)還遠(yuǎn)未來(lái)臨。

所以，我并不真的為自己所做的事情感到后悔。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com