零一萬物創(chuàng)始人兼CEO李開復(fù)近期在與外媒溝通中透露,目前公司旗下Yi-Lightning(閃電模型)的推理成本,已經(jīng)比OpenAI GPT4o便宜31倍。他指出,“中國的優(yōu)勢在于制造真正實惠的AI推理引擎,這是AI應(yīng)用蓬勃發(fā)展最重要的一件事。”
據(jù)加州大學(xué)伯克利分校 SkyLab和LMSYS研究人員近期發(fā)布的一份大模型排名,零一萬物 Yi-Lightning與Grok-2和馬斯克創(chuàng)辦的xAI并列為全球排名第三的大模型公司,僅次于OpenAI和谷歌的最新模型。據(jù)李開復(fù)透露,“零一萬物 Yi-Lightning 的推理成本是每百萬token收取14美分(0.99元),而OpenAI的較小模型o1-mini每百萬個token需要26美分。與此同時,OpenAI的更大尺寸的模型GPT-4o的推理成本為每百萬個token 4.40美元。”
此外,李開復(fù)還指出,Yi-Lightning模型的“預(yù)訓(xùn)練”成本為300萬美元——模型關(guān)鍵訓(xùn)練階段成本,之后可以根據(jù)不同的應(yīng)用場景進(jìn)行微調(diào)或定制。這一訓(xùn)練成本僅為OpenAI訓(xùn)練GPT-4的3%,而且Yi-Lightning性能還超越了GPT-4。
當(dāng)前,鑒于獲取尖端AI芯片供給的難度,國內(nèi)AI領(lǐng)域的玩家在過去一年中一直在競相開發(fā)高質(zhì)量數(shù)據(jù)集來訓(xùn)練“混合專家”模型,使得自家模型具備與競爭對手不同的特色。李開復(fù)指出,“零一萬物采用了遠(yuǎn)遠(yuǎn)優(yōu)于傳統(tǒng)網(wǎng)絡(luò)抓取方法的數(shù)據(jù)收集方法,包括掃描書籍,爬取深網(wǎng)區(qū)的數(shù)據(jù),使用新穎的合成數(shù)據(jù)技術(shù)等。”
李開復(fù)指出,工程師在數(shù)據(jù)標(biāo)注和排序方面需要做很多不為人知的艱苦工作,國內(nèi)擁有大量技術(shù)厲害且刻苦耐勞的工程人才,在這方面比國外更有優(yōu)勢。“中國的優(yōu)勢不一定能在預(yù)算不封頂?shù)那闆r下做出前所未有的突破性研究,但肯定能更好、更快、更可靠和更低成本地實現(xiàn)落地”,李開復(fù)表示。