折騰十年,扎克伯格痛失 AI 好局
北京時間 6 月 19 日消息,在人工智能 (AI) 爭奪戰(zhàn)中,馬克?扎克伯格 (Mark Zuckerberg) 起了個大早,卻趕了個晚集。現(xiàn)在,他正在做一件自己并不喜歡的事情:追趕。
早在十年前,這位臉書創(chuàng)始人就看到了 AI 的前景,并砸下重金來推動自家 AI 的開發(fā)。他聘請了 AI 早期遠見者之一、有“AI 教父”之稱的楊立昆 (Yann LeCun) 來領(lǐng)導這項業(yè)務。然而現(xiàn)在,就在 OpenAI 的 ChatGPT 進入消費者市場幾個月后,Meta 卻在相同的技術(shù)上落后了。
十年的先發(fā)優(yōu)勢
2013 年,臉書 (現(xiàn)在更名為 Meta) 開始投資 AI。扎克伯格和當時的首席技術(shù)官邁克?施羅普夫 (Mike Schroepfer) 曾親自出面,尋求聘請一位 AI 領(lǐng)域的領(lǐng)軍人物,以領(lǐng)導公司的一個新研究部門,推進 AI 的開發(fā)。他們找到的這個副手是紐約大學教授楊立昆,后者在 AI 領(lǐng)域取得了享有盛譽的突破性成果。
楊立昆深入扎根于學術(shù)和基礎研究,力主創(chuàng)造一種能夠反映其優(yōu)先事項的文化:雇傭科學家而不是工程師,強調(diào)學術(shù)成果,例如研究論文,而不是為公司的最終用戶開發(fā)產(chǎn)品。知情人士稱,多年來,這一戰(zhàn)略使得 Meta 的基礎 AI 研究實驗室對頂尖人才極具吸引力,但也挑戰(zhàn)了該公司將其技術(shù)成果進行商業(yè)化的能力。
在研究方向和資源分配上,Meta 鼓勵一種分散的、自下而上的方法。知情人士說,研究人員各自推動自己的議程,在不同的方向上追求獨立的項目,而不是在全公司范圍內(nèi)制定一個統(tǒng)一的戰(zhàn)略。Meta 將硬件資源拆分成多個小塊,分配到各個項目上。一些研究人員得到的計算機芯片超過他們需要的數(shù)量,他們會將這些芯片用于不必要的任務,以避免放棄它們。
與此同時,Meta 在為其數(shù)據(jù)中心配備 AI 開發(fā)所需的最強大計算機芯片方面進展緩慢。即使公司獲得了更多的這種芯片,它也沒有一個好的機制把它們送到工程師和研究人員手中。一些人說,有時會有數(shù)千件令人垂涎的昂貴硬件閑置在那里。
Meta 正在對其數(shù)據(jù)中心進行全面改進,這可能造成了一些運轉(zhuǎn)不暢。根據(jù) Meta 的一篇博客文章,截至 5 月份,Meta 最新 AI 超級計算機擁有 1.6 萬個這樣的芯片。
內(nèi)部爭斗
知情人士稱,隨著大語言模型在 2020 年開始展現(xiàn)出越來越強的能力,Meta AI 研究部門內(nèi)部的緊張局勢也在加劇。兩個陣營產(chǎn)生了分歧:一方敦促公司認真投資大模型這個行業(yè)新方向,而包括楊立昆在內(nèi)的人則認為這些大模型是短暫的狂熱,缺乏科學價值。一些人透露,楊立昆在公司內(nèi)部和公開場合都強烈反對大語言模型,認為他們不會讓 AI 更接近人類的智力水平,這使得持反對意見的研究人員很難獲得大模型開發(fā)所需的支持和大量資源。
結(jié)果,一些 Meta 研究人員只能使用更少的資源繼續(xù)推進大模型開發(fā)。他們在 2022 年使用大約 1000 個芯片開發(fā)了一個名為“開放式預訓練模型”(OPT) 的大語言模型,并在 2023 年使用大約 2000 個芯片開發(fā)出了 Meta 的旗艦模型 LLaMA。相比之下,按照行業(yè)標準,開發(fā)這種大模型需要 5000 到 1 萬個芯片。最初,Meta 允許有限的外部研究人員訪問 LLaMA,但隨后它被泄露到網(wǎng)上,引發(fā)了一陣創(chuàng)新熱潮。Meta 高管們認為,這是 Meta 志在分享其 AI 技術(shù)的一個主要例子。
自那以后,Meta 失去了許多 AI 研究人員,這些人在去年從事了上述和其他關(guān)鍵的生成式 AI 項目。許多人感到筋疲力盡,或者對于 Meta 跟上競爭對手的步伐缺乏信心。據(jù)領(lǐng)英資料和知情人士透露,在為 LLaMA 撰寫研究論文的 14 位作者中,有 6 位已經(jīng)離職或宣布將離職。在為 OPT 撰寫論文的 19 位共同作者中,也有 8 位離開了。
在 OpenAI 去年 11 月發(fā)布 ChatGPT 之后,Meta 員工的離職開始加速。一些人受到了 AI 創(chuàng)業(yè)熱潮的誘惑離職,這股熱潮推動了包括谷歌在內(nèi)的硅谷公司的全面人事變動。領(lǐng)英的數(shù)據(jù)顯示,截至今年 3 月,領(lǐng)英上提到 GPT 的招聘崗位數(shù)量同比增長了 79%。
Meta 的一位發(fā)言人表示,該公司一直在繼續(xù)招聘和引進新的 AI 人才。
重新追趕
在 ChatGPT 發(fā)布后,扎克伯格、Meta 首席產(chǎn)品官克里斯?考克斯 (Chris Cox)、首席技術(shù)官安德魯?博斯沃思 (Andrew Bosworth) 一起負責公司所有與 AI 相關(guān)的工作。這三位高管現(xiàn)在每周花數(shù)個小時研究 AI,參加會議并批準 AI 項目。
此前,Meta 花費數(shù)年時間優(yōu)先考慮學術(shù)發(fā)現(xiàn),并免費分享它們,但無法利用上這些研究成果的商業(yè)潛力?,F(xiàn)在,它正在迅速地將資源重新集中在開發(fā)可用的 AI 產(chǎn)品和功能上,包括自己的聊天機器人。
Meta 新成立了生成式 AI 部門,專注于構(gòu)建可用的產(chǎn)品和工具,而不是科學研究。該部門收到了超過 2000 份內(nèi)部申請,并迅速集結(jié)了來自不同團隊的數(shù)百名員工。知情人士表示,硬件資源已從 AI 研究部門轉(zhuǎn)移,正被用于訓練新的生成式 AI 模型。
扎克伯格在今年 3 月表示,“推進 AI 并將其融入我們的每一款產(chǎn)品”是該公司最大的單筆投資。在今年 5 月舉行的 Meta 年度股東大會上,扎克伯格表示,公司也希望將 AI 擴展到虛擬世界。
Meta 發(fā)言人表示,在本月早些時候與員工舉行的一次市政廳會議上,扎克伯格宣布了該公司目前正在開發(fā)的一系列生成式 AI 產(chǎn)品,包括 Messenger 和 WhatsApp 的 AI 代理,用戶可以根據(jù)文本提示生成并在聊天中分享的 AI 貼紙,以及一項照片生成功能。照片生成功能允許 Instagram 用戶使用文本提示修改自己的照片,然后在 Instagram Stories 中分享。
但是,Meta 仍然面臨廣泛挑戰(zhàn)。知情人士透露,在經(jīng)過政府和媒體對其用戶隱私做法進行了 7 年的嚴格審查之后,該公司對風險的容忍度越來越低,這在如何以及何時推出 AI 產(chǎn)品方面造成了摩擦。
否認落后
今年 5 月,美國白宮舉行 AI 領(lǐng)袖峰會,稱這是一場為“處于 AI 創(chuàng)新前沿的公司”舉行的會議。但是,扎克伯格沒有受邀。
Meta AI 研究副總裁喬勒?皮諾 (Joelle Pineau) 在一份聲明中表示,公司在 AI 開發(fā)方面并沒有落后,并為此前對 AI 學術(shù)研究和結(jié)構(gòu)的聚焦進行了辯護,稱這為 Meta 走向成功打下基礎。
皮諾稱,Meta 的 AI 研究部門“是全球 AI 研究人員和開放科學的領(lǐng)先目的地之一,僅在過去一年中,其研究成果就顯著增加”。她表示:“在我們把一類新的生成式 AI 體驗帶給我們的應用家族之際,我們的研究突破為此奠定了堅實的基礎。我們?yōu)?Meta 的 AI 研究人員過去和現(xiàn)在所做的貢獻感到自豪,他們幫助塑造了先進和一流 AI 技術(shù)的未來?!兵P凰網(wǎng)科技《AI 前哨》對此將持續(xù)關(guān)注。
本文僅代表作者觀點,版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請在文中注明來源及作者名字。
免責聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請及時與我們聯(lián)系進行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com

