圖靈獎得主、Meta 首席 AI 科學(xué)家楊立昆(Yann LeCun)做客 20 日播出的“Big Technology Podcast”科技播客節(jié)目,談到了當(dāng)前生成式 AI 為何難以做出科學(xué)發(fā)現(xiàn)以及未來 AI 如何發(fā)展等話題。
他表示,大語言模型等現(xiàn)有 AI 技術(shù)本質(zhì)上是基于文本訓(xùn)練并通過統(tǒng)計規(guī)律生成答案,無法“創(chuàng)造新的事物”,因此存在局限性。而人類能夠運用常識和心理模型思考并解決新的問題,這項能力是 AI 大模型所不具備的。“它們只是在大量文本數(shù)據(jù)上進(jìn)行訓(xùn)練以進(jìn)行檢索和生成,缺乏對物理世界的理解和抽象推理能力。”
他認(rèn)為當(dāng)前大語言模型的發(fā)展已經(jīng)接近瓶頸,訓(xùn)練數(shù)據(jù)的增長帶來的回報正在逐漸遞減,進(jìn)一步獲取數(shù)據(jù)不僅成本高昂,而且難以達(dá)到預(yù)期效果。僅僅通過擴(kuò)大大語言模型的規(guī)模和訓(xùn)練更多數(shù)據(jù)無法實現(xiàn)人類水平的 AI,因為大模型缺乏真正的推理能力和對物理世界的理解能力。
楊立昆表示,“真正的 AI”需要理解物理世界,擁有持久的記憶,支持推理和規(guī)劃。
據(jù)IT之家此前報道,楊立昆曾在今年 2 月預(yù)測,AI 技術(shù)到 2030 年前將迎來進(jìn)一步的革命。但目前的 AI 系統(tǒng)依然受限,現(xiàn)有技術(shù)難以支撐家用機(jī)器人和自動駕駛汽車。
楊立昆正在研究一種新的系統(tǒng),旨在通過建立一個模型來預(yù)測物理世界的行為,從而幫助 AI“理解”現(xiàn)實。“AI 現(xiàn)在還不能與人類匹敵。如果我們能夠開發(fā)出像貓或老鼠一樣聰明的系統(tǒng),那就算是一大進(jìn)步。”