3DMark 開發(fā)方 UL Solution 當?shù)貢r間 9 日宣布推出 Procyon AI 文本生成基準測試,通過使用多種不同參數(shù)規(guī)模的大語言 AI 模型綜合判斷 AI 加速器硬件的文本生成能力。
Procyon AI 文本生成基準測試目前支持通過 DirectML 通用 API 調(diào)用本地的英偉達、AMD、英特爾 GPU,也可通過英特爾的 OpenVINO 調(diào)用其自家 GPU(IT之家注:獨立和集成顯卡均支持,但對顯存 / 內(nèi)存容量要求存在差異)。
該基準測試現(xiàn)包括 4 種參數(shù)規(guī)模不一的模型(Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 和 Llama-2-13B),可對 AI GPU 在多樣化大語言模型文本生成用例中的表現(xiàn)進行相對公允的比較。
▲ 成績頁面
UL Solution 表示 Procyon AI 文本生成基準測試在操作上更為簡易輕松,與直接使用完整 AI 模型測試相比又減小了安裝體積,能詳細展示運行文本生成負載時系統(tǒng)資源的使用情況。