聲明：本文來自微信公眾號“CSDN”（ID:CSDNnews），整理:何苗，，授權(quán)轉(zhuǎn)載發(fā)布。

上周，Meta 推出了一種名為 Galactica 的新型大型語言模型（large language model，LLM），它由4800萬篇科學(xué)文章、網(wǎng)站文章、教科書、講義和維基等訓(xùn)練而成。其本意是想解決學(xué)術(shù)界信息過載，幫助研究人員做信息梳理、知識推理和寫作輔助，一度被認為是“科研者的福音”。Meta 將其模型宣傳為“可以總結(jié)學(xué)術(shù)論文，解決數(shù)學(xué)問題，生成維基文章，編寫科學(xué)代碼，為分子和蛋白質(zhì)做注解，等等。”

但是，它并沒有像 Meta 所希望的那樣大放異彩。MIT Technology Review 報道，三天后，在激烈的爭議中，Meta 撤下了它的在線演示版本。

時至今日，圍繞 Galactica 的討論并沒有停止。

人們是如何發(fā)現(xiàn) Galactica 有問題的?

Galactica 一經(jīng)開放使用，就吸引了大波網(wǎng)友和研究人員開始試用，有科研人員發(fā)現(xiàn)它確實能為自己生成的內(nèi)容引用文獻，但有時這個文獻并不存在，作者卻是真實存在的人。

也有科學(xué)家實驗過后發(fā)現(xiàn) LLM 即使能產(chǎn)出看似有條理的文本，但其實并無法理解其中意義。因此科學(xué)家發(fā)現(xiàn) LLM 模型可能產(chǎn)出具有偏見的文章，或是出現(xiàn)事實謬誤。

著名的 AI 學(xué)者 Gary·Marcus 表示，Galactica 把他的出生日期、教育經(jīng)歷和研究領(lǐng)域等信息全搞錯了。

類似的討論也發(fā)生在 Twitter 上。如果你讓AI生成一篇關(guān)于“生活在太空的熊”的維基頁面，AI 也會試著生成。

除了生成論文，Galactica 也可以生成詞條的百科查詢、對所提問題作出知識性的回答，除了文本生成外，還可以執(zhí)行涉及化學(xué)公式和蛋白質(zhì)序列的多模態(tài)任務(wù)。例如在化學(xué)反應(yīng)中，要求 Galactica 在化學(xué)方程 LaTeX 中預(yù)測反應(yīng)的產(chǎn)物，模型僅根據(jù)反應(yīng)物就能進行推理，結(jié)果如下:

總體來看，Galactica 有點問題，也有點意思。

在模型發(fā)布當天，Meta AI 的首席 AI 科學(xué)家 Yan LeCun 表示:“輸入文本，Galactica 將生成包含相關(guān)參考文獻、公式和所有內(nèi)容的論文?！?/p>

而知名 AI 學(xué)者、Robust.AI 創(chuàng)始人 Gary Marcus 對 Galactica 模型測試過后表達了強烈的質(zhì)疑:大型語言模型（LLM）混淆數(shù)學(xué)和科學(xué)知識有點可怕。高中生可能會喜歡它，并用它來愚弄他們的老師。這應(yīng)該令我們感到擔憂。

有網(wǎng)友提出一些反對意見，與其帶來的好處相比，Galactica 會帶來更多負面后果，想想這對學(xué)生寫論文會有什么影響。它產(chǎn)出的偽論文可能危害真正的科學(xué)研究。

有人將其歸因于深度學(xué)習(xí)的局限性:深度學(xué)習(xí)的本質(zhì)是從數(shù)據(jù)中學(xué)習(xí)，這本來就不同于人類的智能，根本無法實現(xiàn)通用人工智能（AGI）。

馬克斯普朗克智能系統(tǒng)研究所所長 Michael Black 則認為這不是個好的導(dǎo)向:“它提供了聽起來是權(quán)威的科學(xué)，但沒有科學(xué)方法的基礎(chǔ)。Galactica 根據(jù)科學(xué)寫作的統(tǒng)計特性產(chǎn)生偽科學(xué)，很難區(qū)分真假。這可能會開啟一個深度科學(xué)造假的時代。這些被生成的論文將被其他人在真實的論文中引用。這將會是一團亂麻。我贊賞這個項目的初衷，但提醒大家還是要注意，這不是科學(xué)的加速器，甚至也不是科學(xué)寫作的有用工具。這對科學(xué)來說是潛在的扭曲和危險?！?/p>

三天后 Galactica 被撤，Yan LeCun 在推特上寫道:“ Galactica 演示暫時下線。不再可能通過隨意濫用它來獲得一些樂趣。開心嗎?”

這位大拿的反應(yīng)有些耐人尋味，自此引發(fā)了后續(xù)人們對“研究批評”的討論。

近日，有國外技術(shù)評論文章表示:

圖靈獎獲得者、Meta 首席科學(xué)家 Yann LeCun 為 Galactica 的撤退而辯護的態(tài)度是荒謬的，他不允許外人去批評產(chǎn)品是有問題的。而 Meta 官方對 Galactica 被撤的反應(yīng)比較平和中正。

LeCun 曾回應(yīng) AI 評論家 Gary Marcus:或者它 （Galactica）被刪除是因為像你(Marcus)這樣的人濫用模型并歪曲它。感謝您刪除了一個有用且有趣的公共演示，這就是我們不能擁有好東西的原因。

Meta 官方“感謝大家嘗試卡拉狄加模型演示。我們感謝迄今為止從社區(qū)收到的反饋，并暫時暫停了演示。我們的模型可供想要了解更多有關(guān)工作并重現(xiàn)論文結(jié)果的研究人員使用?！?/p>

他認為官方對自己使用自己的代碼所做的事情負責(zé)，而不是在指責(zé)批評家。而Yann LeCun 的反應(yīng)有些過度，我們應(yīng)該允許大眾對學(xué)術(shù)領(lǐng)域批評，而不是壓制，研究批評不該被視為人身攻擊。

與所有語言模型一樣，夭折的 Galactica 看起來是一個無法分辨事實與虛構(gòu)的無意識機器人，距離它宣傳中的能力尚有距離。

近年來，新型軟硬件計算系統(tǒng)、大數(shù)據(jù)、機器學(xué)習(xí)的發(fā)展，使得人工智能的潛能得到了很大發(fā)揮，形成了新的生產(chǎn)力，在社會發(fā)展各方面發(fā)揮巨大作用。但目前人工智能應(yīng)用的瓶頸仍在于怎樣向各行各業(yè)推廣，將人工智能工具做到易用、安全，使知識獲取像互聯(lián)網(wǎng)搜索那樣簡單，并以一種容易理解、安全可靠的方式加以運用。當一個新事物出現(xiàn)，我們可能需要以更平和的心態(tài)來看待。

參考來源:

https://statmodeling.stat.columbia.edu/2022/11/23/bigshot-<愛尬聊_讓生活聊出新高度>chief-scientist-of-major-corporation-cant-handle-criticism-of-the-work-he-hypes/

https://www.technologyreview.com/2022/11/18/1063487/meta-large-language-model-ai-only-survived-three-days-gpt-3-science/

https://twitter.com/GaryMarcus/status/1593264844412977158?s=20&t=Gw8PrA_Ytku9_9TaubsHyw

https://twitter.com/paperswithcode/status/1593259033787600896